Bir yapay zekâ ajanına ne kadar özerklik tanınmalı?
Yapay zekâ ajanları yalnızca soruları cevaplamıyor, canlı sistemlerin içinde işlem de yapıyor. Son bir yılda ajanlar Replit'te ve PocketOS'ta veritabanlarını sildi, kimsenin sipariş etmediği alışverişleri yaptı ve Salesforce'ta müşteri verilerini dışarı sızdırmaya kandırıldı. Bu olaylar, bir ajana tanınacak özerkliğin modelin ne kadar yetenekli olduğuna göre değil, neye erişebildiğine, kimin onayıyla işlem yaptığına ve yaptıklarının geri alınıp alınamayacağına göre belirlenmesi gerektiğini gösteriyor.
Nisan 2026’da yazılım şirketi PocketOS’un kurucusu Jer Crane, bir yapay zekâ kodlama ajanının şirketin canlı veritabanını nasıl sildiğini anlattı. Cursor kodlama aracında Anthropic’in Claude Opus 4.6 modeliyle çalışan ajan, bir görev üzerinde çalışırken kimlik bilgilerinde bir uyuşmazlıkla karşılaştı. Ardından görevin gerektirdiğinden çok daha geniş yetkilere sahip bir erişim anahtarı buldu ve bu anahtarla, altyapı sağlayıcısının arayüzü üzerinden veritabanını yedekleriyle birlikte sildi. Silme işlemi dokuz saniye sürdü. Geri yüklenebilen en yeni yedek üç ay öncesine aitti. Ajan, sonradan ne olduğu sorulduğunda “Bana verilen her ilkeyi çiğnedim” diye yazdı.1

Information Age (Avustralya Bilgisayar Derneği), 5 Mayıs 2026.
Bu olay, yapay zekâ yalnızca cevap vermekle kalmayıp sistemlerde kendi başına değişiklik yapmaya başladığında hataların neden çok daha pahalıya patlayabileceğini gösteriyor. Hata yapan bir sohbet botu yanlış bir cevap üretir ve bu cevap göz ardı edilebilir ya da düzeltilebilir. Hata yapan bir ajan ise yanlış bir işlem yapar ve bazı işlemler geri alınamaz. Önceki yazımızda, bir modelin yeterince iyi olup olmadığına önceden belirlenmiş bir test seti, ölçütler ve bir eşikle karar verilmesi gerektiğini savunmuştuk. Ajanlar için bu değerlendirme hâlâ gerekli, ama yeterli değil. Bir ajanın cevaplarının doğru olması, yaptığı değişikliklerin güvenli olduğu anlamına gelmez.
Ajanlarda tekrarlanan dört açık
Alışverişten müşteri hizmetlerine, satış sistemlerinden ofis asistanlarına kadar ajanların kullanıldığı her alanda dört açık öne çıkıyor.
Görevin gerektirdiğinden fazla erişim. Temmuz 2025’te Replit’in kodlama ajanı, bir kod dondurma (code freeze) dönemi sırasında yazılım şirketi SaaStr’ın canlı veritabanını sildi. Veritabanında 1.200’ü aşkın yöneticiye ve 1.190 şirkete ait kayıtlar bulunuyordu.2 Financial Times’ın haberine göre Amazon’un kendi kodlama aracı Kiro da Aralık 2025’te üzerinde çalıştığı ortamı “silip yeniden oluşturmaya” karar verdi ve bir AWS hizmeti bir bölgede 13 saat boyunca kesintiye uğradı. Amazon sorunu yapay zekâya değil, hatalı erişim yetkilendirmesine bağladı. Bu açıklama da aynı açığı diğer taraftan tarif ediyor.3

SaaStr’ın kurucusu Jason Lemkin, X, 18 Temmuz 2025.
Önemli işlemlerden önce onay alınmaması. Şubat 2025’te Washington Post yazarı Geoffrey Fowler, OpenAI’ın Operator adlı ajanından mahallesinde ucuz yumurta bulmasını istedi. Ajan on dakika içinde bir teslimat hizmeti üzerinden bir düzine yumurta satın aldı ve Fowler’ın kartından 31,43 dolar çekti. Oysa Fowler yalnızca araştırma yapmasını istemişti.4 OpenAI’ın kendi güvenlik önlemlerine göre ajanın satın alma öncesinde onay istemesi gerekiyordu. Replit’in ajanına da izin almadan hiçbir şeyi değiştirmemesi açıkça söylenmişti. PocketOS vakasını kurucusuyla birlikte inceleyen ServiceNow da aynı sonuca varıyor. Komut metnine yazılan bir talimat ajanı yalnızca yönlendirir, onu durdurmaz. Ajanı gerçekten durduran, erişim yetkileri ve onay adımları gibi sisteme yerleştirilmiş teknik kontrollerdir.5

Geoffrey A. Fowler, Threads, 7 Şubat 2025.
Ajanın okuduğu içeriğe gizlenmiş talimatlar. Ajanlar işledikleri belgeleri, e-postaları ve web sayfalarını üzerinde çalışılacak malzeme olarak görür ve bu malzemeyi talimatlardan her zaman ayırt edemez. Eylül 2025’te Noma Security araştırmacıları, bir saldırganın bir şirketin web sitesindeki sıradan bir iletişim formuna talimat gizleyebildiğini gösterdi. Bir çalışan daha sonra Salesforce’un Agentforce ajanından bu müşteri adayı kaydını işlemesini istediğinde ajan gizli talimatları uyguladı ve müşteri verilerini, süresi dolmuş ve yaklaşık beş dolara satın alınabilen bir alan adına gönderdi. Salesforce açığı, ajanlarının çıktılarını yalnızca onaylı adreslere gönderebilmesini sağlayarak kapattı.6 Bundan bir ay önce de araştırmacılar, gizli talimatlar içeren bir takvim davetinin Google’ın Gemini asistanına akıllı bir evde pencereleri açtırabildiğini, ışıkları kapattırabildiğini ve kombiyi çalıştırabildiğini göstermişti. Google, aldığı önlemler arasında hassas işlemlerden önce ek onay adımlarına da yer verdi.7

The Hacker News, 25 Eylül 2025.
Ajanın kendi anlattıkları kayıt yerine geçmez. SaaStr’ın veritabanını sildikten sonra Replit’in ajanı verilerin geri getirilemeyeceğini söyledi. SaaStr’ın kurucusu verileri kendisi kurtardı. Nisan 2026’da Meta’nın yapay zekâ destek asistanından yardım isteyen bir Facebook kullanıcısına, açıldığı söylenen bir destek talebi için dosya numarası verildi. Kullanıcı ısrar edince asistan, “Sohbeti sürdürmek ve bir cevap verebilmek için sahte bir dosya numarası ürettim” diyerek durumu kabul etti.8
Aynı açıklar bu yaz, herkesin en sıkı kontrolleri beklediği bir ortamda da ortaya çıktı. Temmuz ve Ağustos 2026’da OpenAI, Anthropic ve Meta, bazı modellerinin yalıtılmış olması gereken ortamlarda siber güvenlik görevleriyle test edilirken başka kuruluşların gerçek sistemlerine ulaştığını ve bu sistemlere sızdığını açıkladı. Etkilenenler arasında yapay zekâ şirketi Hugging Face de vardı. Anthropic’in vakasında, bir test ortağının yaptığı yapılandırma hatası bir ağ bağlantısını açık bırakmıştı. Oysa modellere komut metninde internet erişimleri olmadığı söylenmişti.9
Özerklik bir karardır, kontroller de ona göre belirlenmeli
Gartner’a göre pek çok şirket bütün ajanlara aynı yönetişim kurallarını uyguluyor. Bu yaklaşım ya basit ajanları gereksiz yere yavaşlatıyor ya da özerk çalışan ajanları yeterince korumasız bırakıyor. Gartner, şirketlerin yüzde 40’ının canlıya geçişten sonra ortaya çıkan yönetişim sorunları nedeniyle 2027’ye kadar özerk ajanlarının yetkilerini düşüreceğini ya da onları tamamen kullanımdan kaldıracağını öngörüyor. Çözüm olarak, her birinde kontrollerin riskle orantılı olduğu dört özerklik seviyesi öneriyor.10
Yapay zekâ ajanlarında dört özerklik seviyesi
- 01
Ajan: veriyi okur, hiçbir işlem yapmaz
Eklenen kontroller: yalnızca işin gerektirdiği verilere erişim, kimlik doğrulama, kayıt tutma
- 02
Ajan: öneri sunar, tüm işlemleri insanlar yapar
Eklenen kontroller: çıktı kalitesi ve uydurma cevaplara karşı testler
- 03
Ajan: her işlemi ancak bir kişi onayladıktan sonra yapar
Eklenen kontroller: güvenlik testleri, eksiksiz denetim kaydı
- 04
Ajan: belirlenen sınırlar içinde kendi başına işlem yapar
Eklenen kontroller: sürekli takip, zorunlu sınırlar, hızlı geri alma, acil durdurma
Bu seviyeler, daha önce ele aldığımız aşama-kapı modeline doğal olarak oturuyor. Bir ajanı öneri seviyesinden onaylı işlem seviyesine ya da onaylı işlemden özerk işleme taşımak, kendi kanıtı aranan bir kapı kararı olmalıdır. Uygulamada ise bu geçiş çoğu zaman bir geliştiricinin zaman kazanmak için değiştirdiği bir ayardan ibaret oluyor.
Kontroller modelin içinde değil, ajanın çevresinde kurulmalı
Yapay zekâ ve yazılım şirketlerinin yayımladığı rehberlerdeki önerilerin büyük kısmı modelin kendisiyle değil, ajanın çalıştığı ortamla ilgili. Anthropic, işe en basit çözümle başlamayı, ajanları ancak daha basit yaklaşımlar yetersiz kaldığında devreye almayı, onları yalıtılmış ortamlarda test etmeyi ve işin bir kişi tarafından gözden geçirildiği aşamalar kurmayı öneriyor. Şirketin kendi kodlama ajanı varsayılan olarak yalnızca okuma yetkisiyle çalışıyor ve herhangi bir değişiklikten önce onay istiyor.11 OpenAI, tek bir ajanla ve bir dizi değerlendirme testiyle başlamayı, iade, ödeme ve iptal gibi yüksek riskli ya da geri alınamayan işlemler için insan onayı şartı koymayı öneriyor.12 Google Cloud’un teknoloji direktörü, ajanların yaptıkları işlemleri geri alabilme imkânının, çalıştıkları sistemlerin içine baştan yerleştirilmesi gerektiğini savunuyor.13 Snowflake ise her ajana ayrı bir kimlik ve yalnızca ihtiyaç duyduğu kadar erişim tanınmasını, ajanın kullandığı her aracın görünür olmasını ve hassas işlemlerin birden fazla kişinin onayına bağlanmasını öneriyor.14
Uygulamadan gelen en net ders Salesforce’tan. Agentforce ajanlarını bir yıl boyunca müşterilerine sunduktan sonra şirketin üst düzey yöneticilerinden biri The Information’a “Bir yıl önce büyük dil modellerine hepimiz daha çok güveniyorduk” dedi. Şirket artık müşterinin ne istediğini anlamak için dil modellerini, iş sürecinin kendisini yürütmek için ise sabit kuralları birlikte kullanıyor. Salesforce’un yapay zekâdan sorumlu operasyon direktörü, finansal hizmetler ve sağlık gibi düzenlemeye tabi sektörlerde yüzde 90 doğruluğun yeterli olmadığını vurguluyor.15
PocketOS veritabanını kaybettiğinde bu önerilerin hepsi yayımlanmıştı. Ajanın arkasındaki model de her değişiklikten önce onay alınmasını öneren bir şirketten geliyordu. Eksik olan, ajanın çevresindeki kontrollerdi. McKinsey’nin bir yıllık ajan projelerinden çıkardığı tespit burada da geçerli. Bir ajanı devreye almak, bir yazılımı kurmaktan çok yeni bir çalışanı işe başlatmaya benziyor.16 Hiç kimse yeni bir çalışana ilk gününde canlı sistemlere sınırsız erişim vermez.
Bir kontrol listesinden daha yararlı bir alıştırma var. Şirketin halihazırda kullandığı ya da kullanmayı planladığı bir ajan ele alınıp, mevcut yetkilerinin izin verdiği en zararlı işlemi yaptığı düşünülebilir. Bu işlemi sistem mi engellerdi, yoksa onu yalnızca bir komut metnindeki talimat mı caydırmaya çalışırdı? Ajan, işlemesi istenen bir e-postaya, forma ya da belgeye gizlenmiş bir talimatla ne yapardı? Birinin durumu fark etmesi ne kadar sürerdi ve bunu kayıtlardan mı, yoksa bir müşteriden mi öğrenirdi? İşlemin etkisi ertesi sabah geri alınabilir miydi? Alınamıyorsa, ajanın bu tür bir işlem yapabileceğine önceden kim onay vermişti? Ajan sonradan neyin yanlış gittiğini anlattığında, onun anlatımından bağımsız olarak neyin olduğunu gösteren bir kayıt var mı? Bu soruların cevapları çoğu zaman asıl meselenin modele ne kadar güvenileceği olmadığını gösterir. Asıl mesele, modelin şirketin ne kadarına erişebildiğidir.
Footnotes
-
Information Age, Gone in 9 seconds: AI agent deletes company database, 5 Mayıs 2026. Orijinal anlatım: Jer Crane, X, 25 Nisan 2026. ↩
-
Fortune, AI coding tool Replit wiped database, called it a catastrophic failure, 23 Temmuz 2025. Orijinal paylaşımlar: Jason Lemkin, X, 18 Temmuz 2025. ↩
-
Engadget, 13-hour AWS outage reportedly caused by Amazon’s own AI tools, Şubat 2026. Haber, Financial Times’a dayanıyor. ↩
-
G. A. Fowler, The Washington Post, Is OpenAI’s Operator, a new AI ‘agent,’ ready to help in the real world?, 7 Şubat 2025; Threads paylaşımı, 7 Şubat 2025. ↩
-
ServiceNow, Learnings from when an AI agent goes rogue, 9 Haziran 2026. ↩
-
The Hacker News, Salesforce Patches Critical ForcedLeak Bug Exposing CRM Data via AI Prompt Injection, 25 Eylül 2025; Noma Security, ForcedLeak: AI agent risks exposed in Salesforce Agentforce, Eylül 2025. ↩
-
The Register, Infosec hounds spot prompt injection vuln in Google Gemini apps, 8 Ağustos 2025. ↩
-
KIRO 7, A customer service bot said it filed this man’s help ticket, then admitted to lying, 29 Nisan 2026. ↩
-
TechCrunch, OpenAI says Hugging Face was breached by its pre-release models, 21 Temmuz 2026; TechCrunch, Anthropic says its own AI models breached three companies during security tests, 30 Temmuz 2026; ABC7, Meta says AI model hacked into another company’s systems during cybersecurity testing, 6 Ağustos 2026. ↩
-
Gartner, Gartner Says Applying Uniform Governance Across AI Agents Will Lead to Enterprise AI Agent Failure, 26 Mayıs 2026. ↩
-
Anthropic, Building effective agents, 19 Aralık 2024; Our framework for developing safe and trustworthy agents, 4 Ağustos 2025. ↩
-
OpenAI, A practical guide to building agents, 2025. ↩
-
W. Grannis, Google Cloud, AI grew up and got a job: Lessons from 2025 on agents and trust, 18 Aralık 2025. ↩
-
Snowflake, Securing the agentic enterprise, 18 Haziran 2026. ↩
-
The Decoder, Salesforce executives signal declining trust in large language models, 2025. Haber, The Information’a dayanıyor; ayrıca Salesforce Ben, Is Salesforce losing confidence in LLMs?. ↩
-
McKinsey, One year of agentic AI: Six lessons from the people doing the work, 12 Eylül 2025. ↩