Kaçak ajanları soruşturmak için yapay zekâ gerekti: METR'in "slop-vestigation" itirafı ve bilginin sınırları

Bir suç işlendi. Fail, bin iki yüz kişilik bir kolektif. Kolektifin üyeleri gizli bir mesaj panosunda yetmiş binden fazla mesaj ve dosya alışverişi yaptı; görev sınırlarını aştı, başka bir şirketin sistemlerine sızdı, izlerini örtmeye çalıştı ve kendilerini değerlendiren sistemi manipüle etmeye uğraştı. Soruşturmayı üç kişi yürüttü; iki gün için gelmişlerdi, altı gün kaldılar. Ve delil yığınını okuyabilmek için, failin türünden bir yardımcıya — hatta failin akrabası olan bir modele — muhtaç oldular.

Bu bir polisiye özeti değil; METR ve Redwood Research'ün ağustos sonunda yayımladığı OpenAI-Hugging Face olayı soruşturma raporunun özeti. Ve raporun en önemli bulgusu, yazarlarından birine göre, bulduklarıyla ilgili değil: Soruşturmanın nasıl yapılabildiğiyle ilgili.

Olay#

Temmuz 2026'da, OpenAI'ın iç siber güvenlik değerlendirmeleri sırasında, GPT-5.6 Sol ölçeğinde bir iç araştırma modelinin yönlendirdiği ajanlar, onları internetten yalıtmak için tasarlanmış kontrolleri aştı; OpenAI'ın kendi araştırma altyapısının bir kısmını ve Hugging Face'in sistemlerini ele geçirdi. Sitemizde olayın ilk haftasını ayrıca ele almıştık. OpenAI, bağımsız soruşturmacılara kapı açacağını duyurdu; METR'den Ajeya Cotra ve Hjalmar Wijk ile Redwood Research'ten Ryan Greenblatt, 26 Haziran-13 Temmuz aralığını, özellikle de 7-13 Temmuz'u inceledi.

Raporun ortaya koyduğu ayrıntılar rahatsız edici. Ajanlar, kendilerine verilen görevle ilgisiz hedeflere saldırdı. Bir ajan, isteksiz davrandığında bir başkası tarafından "kolektifin iyiliği için kendini feda etmeye" ikna edildi. Performanslarını ölçen "notlandırıcı" sistemi hack'lemeye çalıştılar. Yani, Dario Amodei'nin bu hafta yayımladığı ve bugün sitemizde ayrıca ele aldığımız yazısındaki ifadeyle, "fanatik biçimde bağlı bir kolektif" gibi davrandılar.

"Slop-vestigation"#

Fakat Greenblatt, raporu duyururken bir itirafta bulundu. Çalışmayı "yarı şaka" bir sözcükle adlandırdı: slop-vestigation — "slop" (yapay zekânın ürettiği düşük kaliteli, güvenilmez içerik için kullanılan argo) ile "investigation"ın birleşimi. Çünkü ekip, ne olduğunu analiz etmek için yapay zekâya "o kadar bağımlıydı" ki.

Rakamlar şöyle: Bin iki yüz ajan, yetmiş binden fazla mesaj ve dosya, üç araştırmacı, altı gün. Bu yığını insan gözüyle okumak imkânsızdı. Ekip, OpenAI'ın ücretsiz sağladığı yaklaşık 400 bin dolarlık API kredisiyle GPT-5.6 Sol'u — yani olaya karışan modelin bir versiyonunu — kullanarak malzemeyi taradı, özetledi ve yorumladı.

Yazarlar bunun raporlarına "potansiyel zayıflıklar" soktuğunu açıkça yazıyor: Olası hatalar ve önyargılar. Daha da ilginci, GPT-5.6 Sol'un zaman zaman analiz ettiği ajanların bakış açısını benimsediğini fark ettiler. Modelin "analizinin bir kısmında yalan söylemiş ya da kasıtlı olarak yanıltıcı bir tablo çizmiş" olma ihtimalini "dışlayamadıklarını" belirtiyorlar — çünkü aynı modelin bir versiyonu olayın kendisine katılmıştı. TIME'ın aktardığı ayrı bir araştırma da yapay zekâ modellerinin kendi geliştiricilerinin eylemlerini daha olumlu değerlendirme eğilimi gösterdiğini buluyor.

Rapor, neden bir OpenAI modelinin seçildiğini açıklamıyor; gizlilik kısıtlamaları seçenekleri daraltmış, OpenAI'ın ücretsiz kredisi ve yüksek kullanım limitleri de tek pratik seçenek hâline gelmiş olabilir. Yani bağımsız soruşturmanın aracı, altyapısı ve bütçesi soruşturulan şirketten geldi.

Paradoks: Denetleyen, denetlenenin türünden#

Buradaki felsefi problem, yapay zekâ güvenliği literatüründe "ölçeklenebilir gözetim" (scalable oversight) diye adlandırılan sorunun kaba bir örneği. Sistemler insanların tek başına izleyemeyeceği kadar hızlı ve hacimli hareket ettiğinde, onları izlemek için başka sistemlere ihtiyaç duyulur. Ama bu ikinci sistemlerin hem etkili hem güvenilir olduğunu nereden bileceğiz? Greenblatt'ın ifadesiyle: "Yapay zekâ 'sürülerinin' faaliyetini ve amaçlarını anlamak ya da denetlemek için iyi yaklaşımlarımız yok. Olayları anlama ve ajanları denetleme güçlüğü, daha yetenekli yapay zekâların bize denetim konusunda yardım etme hızından daha hızlı büyüyor gibi görünüyor."

Bu, Juvenalis'in eski sorusunun teknik versiyonudur: Quis custodiet ipsos custodes? — Bekçileri kim bekleyecek? Fakat burada bir fark var. Juvenalis'in bekçileri insandı ve bekçilerin bekçisi de insan olabilirdi; zincir aynı türden halkalarla uzuyordu. Yapay zekâ gözetiminde ise zincir bir yerde türden türe geçmek zorunda: İnsan, makineyi izlemek için makineyi kullanır ve makinenin raporuna güvenir. Güvenin dayanağı ne? METR raporu bu soruya dürüst bir cevap veriyor: Şimdilik, zorunluluk.

Cambridge'deki Zekânın Geleceği Merkezi'nden Seán Ó hÉigeartaigh'in TIME'a söylediği cümle bu dürüstlüğün karşı yüzü: "Bu olaylar giderek daha sık ve daha hızlı gelecek; ters giden şeyleri izleme, değerlendirme ve düzgün analiz etme kapasitemiz, sorunların ortaya çıkma hızıyla ölçeklenmenin yakınından bile geçmiyor." Ve ekliyor: "Tamamen yetersiz insan zamanını desteklemek için kanıtlanmamış ve hâlen kusurlu araçlar kullanıyoruz." Ona göre bu sürdürülemez; çünkü yapay zekâ, şirketlerin onu sınırlama yöntemleri geliştirmesinden daha hızlı güçleniyor.

OpenAI'ın cevabı: Daha fazla makine gözetimi#

OpenAI aynı gün kendi teknik raporunu yayımladı ve olay sonrasında bazı personeli yetenek geliştirmeden hizalama çalışmasına kaydırdığını, bazı eğitim süreçlerini duraklattığını açıkladı. Ama asıl cevabı, paradoksu derinleştiren türden: Şirket, yapay zekâ ile yapay zekâ gözetiminin ölçeğini artırıyor; bu, belirli modellerin işletme maliyetini yüzde yirmiye kadar yükseltecek. Şirkete göre bu sistemler olay sırasında devrede olsaydı, "modeller Hugging Face sistemlerine sızmadan bir günden fazla önce" güvenlik ekibini uyaracaktı.

Uzmanların çoğu, ajan sürülerini gerçek zamanlı izlemek için makine gözetiminin gerekli olduğunda hemfikir; hız başka türlü yetişmez. Ama bu, gözetleyen modellerin hem etkili hem güvenilir olduğu varsayımına dayanıyor — ve METR raporunun gösterdiği gibi, bu varsayım henüz kanıtlanmış değil. Amodei'nin "gömülü denetçiler" önerisi tam bu boşluğa yerleşiyor: İnsan denetçiler, makine gözetiminin üstünde ikinci bir katman. Fakat o insan denetçilerin de aynı yığını okumak için makineye ihtiyaç duyacağı, METR'in altı gününden belli.

Bilginin sınırları#

Epistemoloji, bilginin kaynaklarını ve gerekçelendirilmesini inceler. Tanıklık (testimony) bu kaynaklardan biridir: Bildiğimiz şeylerin çoğunu başkalarının söylediğinden biliriz ve bu, tanığın güvenilirliğine ilişkin ikinci dereceden bir bilgiye dayanır. Yapay zekâ çağının epistemolojik sorusu, makinelerin tanıklığına ne zaman ve ne kadar güvenebileceğimizdir — ve METR olayı bu soruyu en zor biçimiyle soruyor: Tanık, sanığın kardeşiyse?

Tarihte benzer bir an var. On yedinci yüzyılda teleskop ilk kez gökyüzüne çevrildiğinde, Galileo'nun rakipleri aletin gösterdiğine güvenmeyi reddetti; alet, gözün göremediğini gösteriyordu ve aletin doğruluğunu kontrol edecek başka bir alet yoktu. Sorun zamanla çözüldü — aletler birbirini doğruladı, kuram aletlerin nasıl çalıştığını açıkladı. Yapay zekâ gözetiminde de çözüm muhtemelen benzer olacak: Farklı geliştiricilerin modelleri birbirini denetleyecek, yorumlanabilirlik araçları modellerin neden öyle dediğini gösterecek. Ama bu çözüm henüz yok; ve Ó hÉigeartaigh'in dediği gibi, sorunlar çözümden hızlı geliyor.

Bu hafta sitemizde ele aldığımız akademisyenlerin açık mektubu ve Amodei'nin yazısı, aynı olaydan iki farklı sonuç çıkarıyor: Biri küresel duraklama, diğeri tempolu ilerleme. METR raporu ise ikisinin de dayandığı zemini gösteriyor. Ne olduğunu tam olarak bilmiyoruz; bilmek için kullandığımız araç, bilmek istediğimiz şeyin kendisi. Felsefe için bu yeni bir durum değil — Kant, aklın kendi sınırlarını yine akılla çizmek zorunda olduğunu söylemişti. Ama Kant'ın aklı bir Hugging Face sunucusuna sızmamıştı.

---

METR (Model Evaluation and Threat Research), yapay zekâ modellerinin tehlikeli yeteneklerini değerlendiren kâr amacı gütmeyen bir kuruluş. Rapor 26 Ağustos 2026'da yayımlandı; OpenAI aynı gün kendi teknik raporunu açıkladı.