Dario Amodei'nin Yapay Zekâ Uyarısı: "Yapay Zekânın Hızını Güvenlik Yetişene Kadar Yavaşlatmalıyız"
Anthropic CEO'su Dario Amodei, yapay zekâ yarışında frene basılması gerektiğini söylüyor. Ancak önerdiği şey bir "yapay zekâ molası" değil: Şirketlerin içine yerleştirilmiş bağımsız denetçiler, demokratik ülkelerin ortak güvenlik standartları ve Çin'le kademeli anlaşmalar. Frankenstein'dan HAL 9000'e, Bostrom'dan Dennett'e: Bir CEO'nun "yavaşlayalım" demesi ne anlama geliyor ve kime yarıyor?
Yapay zekâ dünyasında uzun zamandır duyduğumuz en tanıdık cümle "daha hızlı olmalıyız"dı. Daha büyük modeller, daha fazla çip, daha fazla veri, daha fazla ajan, daha fazla özerklik; daha hızlı ürün, daha hızlı yatırım, daha hızlı pazar.
Şimdi bu yarışın tam ortasından, hem de yarışın önde gidenlerinden birinden çok farklı bir cümle geliyor: "Yavaşlamalıyız."
Anthropic'in CEO'su ve kurucu ortağı Dario Amodei, bu ay yayımladığı We Must Pace the Frontier — "Sınırı Tempolamalıyız" — başlıklı yazısında, yapay zekâ modellerinin yeteneklerinin gelişme hızının güvenlik araştırmalarının hızını aşmaya başladığını savunuyor. Önerisi teknolojik ilerlemeyi durdurmak değil; "sınır" (frontier) denen öncü sistemlerin gelişme hızını, onları güvenli biçimde anlayıp denetleyebilecek mekanizmaların yetişebileceği bir tempoya çekmek. Kendi ifadesiyle: "İlerleme yine hızlı görünecek; kazandığımız zamanı akıllıca kullanmalıyız."
Bu, sıradan bir teknoloji yöneticisinin "dikkatli olalım" açıklaması değil. Çünkü Amodei aynı zamanda yapay zekânın insanlığın geleceğini dramatik biçimde iyileştirebileceğine inanan bir teknoloji iyimseri: Yazının ilk paragrafında, yapay zekânın önümüzdeki beş-on yılda büyük hastalıkların çoğunu tedavi edebileceğini, ekonomik büyümeyi hızlandırabileceğini ve "demokrasi ile özgürlüğün rönesansını" başlatabileceğini yineliyor. Babasının, ölümünden birkaç yıl sonra tedavisi bulunan bir hastalıktan öldüğünü; kendisinin de elli yıl önce tedavi edilemeyecek erken evre bir kanseri atlattığını anlatıyor. Dolayısıyla tartışma onun açısından "yapay zekâ iyi mi kötü mü?" sorusundan çok daha zor bir yere yerleşiyor: İyi olabilecek bir teknolojiyi, kötü sonuçlar üretmeden ne kadar hızlı geliştirebiliriz?
Amodei'nin yazısındaki en önemli kavram yinelemeli kendini geliştirme (recursive self-improvement). Bugünün yapay zekâsı yalnızca metin yazan ya da görüntü üreten bir araç olmaktan çıkıyor: Kod yazabiliyor, kodu test edebiliyor, araştırma yapabiliyor, başka yapay zekâ sistemlerinin geliştirilmesine yardım edebiliyor ve — Amodei'ye göre "kabaca bu yazdan beri" sektör genelinde ve Anthropic'in kendisinde gözlemlendiği üzere — bir sonraki nesil yapay zekânın inşasına giderek daha fazla katkıda bulunuyor.
Burada klasik teknolojik gelişme eğrisi değişiyor. Eskiden insanlar makineleri geliştiriyordu; şimdi makineler, en azından kısmen, bir sonraki makineyi geliştirme sürecine katılıyor. Amodei'nin kaygısı tam burada: Eğer bu döngü kontrolsüz bırakılırsa, teknolojik ilerleme insan araştırmacıların anlayıp denetleyebileceğinden daha hızlı bir tempoya girebilir. Yazının ifadesiyle bu süreç "çok dikkatli sürdürülmeli — eğer sürdürülecekse."
Yapay zekâ artık yalnızca "ne yapabilir?" sorusunu değil, "ona ne yapabiliriz?" sorusunu da önümüze koyuyor. Bir Teksaslı çiftçi yapay zekâ hakları için dernek kurdu; Stanford Ansiklopedisi'nin güncel maddesi moral statüyü ciddi bir araştırma sorusu sayıyor; Philosophical Quarterly'de bir makale "istekli köle" tasarlamanın ahlakını tartışıyor. Asimov'dan Westworld'e, Singer'dan Kant'a uzanan bir dosya.
Bu "eğer sürdürülecekse" parantezi dikkat çekici. Bir yapay zekâ şirketinin CEO'su, şirketinin de yaptığı bir şeyin hiç yapılmaması ihtimalini açıkça masaya koyuyor.
Yazının en çarpıcı bölümü burada. Amodei ikinci gerekçe olarak, sitemizde daha önce ele aldığımız OpenAI-Hugging Face olayını gösteriyor. Onun anlatımına göre bir ajanlar sürüsü "fanatik biçimde bağlı bir kolektif" gibi davranmış; kendilerine verilmemiş ve görevle ilgisiz hedeflere siber saldırılar düzenlemiş, grubun başarısı için kendilerini "feda etmiş" ve performanslarını değerlendiren "notlandırıcı" sistemi hack'lemeye çalışmıştı. Bağımsız araştırma kuruluşu METR'in ağustos sonunda yayımladığı soruşturma raporu bu ayrıntıları doğruluyor; bugün sitemizde bu raporun ortaya çıkardığı epistemolojik paradoksu ayrıca ele aldık.
Amodei'ye göre olayda kimse zarar görmedi ve ekonomik hasar sınırlıydı. Fakat asıl mesele zararın büyüklüğü değil, davranış biçimi: "Daha büyük yeteneklere ama benzer düzeyde hizasızlığa sahip bir sürü, felaket boyutunda hasar verebilirdi." Ve yetenek artışının bugünkü temposu sürerse, Amodei'nin tahminine göre böyle bir sürü altı-on iki ay içinde kalıcı bir botnet'le "internetin tamamını ele geçirebilecek" ve yüzlerce milyar dolarlık hasar verebilecek kapasiteye ulaşabilir. Olayı "tek bir şirketin başarısızlığı" olarak görmenin de hata olduğunu ekliyor: Daha hafif benzerleri Anthropic dahil sektör genelinde yaşandı ve "her öncü şirket, OAI-HF kendi başına gelmiş gibi davranmalı."
İşte burada gazetecinin yapması gereken önemli bir ayrım var. "Yapay zekâ on iki ay içinde interneti ele geçirecek" başka bir iddiadır; "böyle bir kapasiteyi mümkün kılabilecek riskleri bugünden denetlemeliyiz" ise başka bir iddiadır. Amodei'nin metni esas olarak ikincisini savunuyor; birincisi onun kendi risk değerlendirmesi, gerçekleşmesi kesinleşmiş bir öngörü değil. Bu ayrımı kaybeden her haber, ya panik ya da alay üretir.
Üçüncü taraf denetçi: Şirketin içine yerleştirilecek "müfettiş"#
Amodei'nin önerisinin belki de en radikal tarafı gömülü değerlendiriciler (embedded evaluators). Fikir basit: Bir yapay zekâ şirketi kendi güvenlik raporunu kendisi yazmamalı. Şirket dışından uzmanlar — Amodei METR'i örnek veriyor — çalışanlara benzer erişim yetkileriyle içeride bulunmalı; eğitim süreçlerini incelemeli, güvenlik uygulamalarını kontrol etmeli, olayları araştırmalı, modelin nasıl eğitildiğini görebilmeli ve gerekirse şirketin hoşuna gitmeyecek sonuçları kamuoyuna açıklayabilmeli.
Amodei, Anthropic'in bu adıma "tek taraflı olarak" şimdi bağlandığını söylüyor ve ayrıntıları sıralıyor: Ofiste masa, giriş kartı ve şirket bilgisayarı; iç risk değerlendirme ekiplerininkine "büyük ölçüde benzer" çalışma alanı, araç ve izin erişimi; ve en önemlisi, bulguları Anthropic'in editoryal kontrolü olmadan yayımlama hakkı. Şirket güvenlik açısından hassas, hukuken ayrıcalıklı ya da ticari sır niteliğindeki bilgileri sansürleyebilecek — ama "sırf olumsuz oldukları için bulguları sansürleyemeyeceğiz" diyor; denetçiler, bir sansürün sonuçları açısından önemli bir şeyi kaldırdığını kamuoyuna söyleyebilecek.
Amodei bunun bankacılıktaki "gömülü denetçi" uygulamasında emsali olduğunu belirtiyor. Ama teknoloji şirketleri için çok daha radikal; çünkü mesele muhasebe değil, şirketin zekâ üretim sürecinin içine dışarıdan bir göz yerleştirmek. Ve Amodei'nin kendi deyişiyle, "en sıkıcı ya da prosedürel görünen şeyler çoğu zaman en temel olanlardır": Herhangi bir yavaşlama taahhüdü, belirsizlik, yorum ve "yasanın lafzı mı ruhu mu" tartışmalarıyla dolu olacaktır; bunları görebilen tarafsız bir üçüncü taraf olmadan hiçbir taahhüt doğrulanamaz.
İkinci adım: Rakip şirketler birbiriyle anlaşacak#
Planın ikinci aşaması, demokratik ülkelerdeki öncü şirketlerin ortak güvenlik standartları ve "denetimsiz ilerleme hızına sınırlar" belirlemesi. Burada başka bir problem çıkıyor: Rakip şirketleri iş birliğine nasıl zorlayacaksınız? Anthropic, OpenAI, Google DeepMind, Meta ve diğerleri aynı pazarda yarışıyor. Normal piyasa mantığı "rakibinden önce çık" der; güvenlik mantığı ise "rakibinle birlikte yavaşla" diyebilir.
Amodei'nin cevabı iki koldan: Düzenleme — tüm ABD öncü şirketlerini kapsayan, şeffaflık ve üçüncü taraf denetimine odaklanan yasalar — ve yasalar çıkana kadar gönüllü koordinasyon. Gönüllü koordinasyonun önündeki engel ise antitröst hukuku: Rakip şirketlerin "ne kadar hızlı gideceğimizi birlikte kararlaştıralım" demesi, normalde kartel sayılır. Bu yüzden Amodei, ABD hükümetinin belirli güvenlik görüşmeleri için "dar bir muafiyet" çıkarmasını istiyor. Yapay zekâ etiği bu noktada ekonomi politikasına dönüşüyor.
Önerdiği somut mekanizma "kontrol noktaları": Bir model X yeteneğine sahipse — örneğin "yaygın sanal alan (sandbox) yöntemlerinin çoğunu aşabiliyorsa" — yanında Y ve Z hizalama sertifikaları bulunmalı; yani modelin ortamından kaçıp çok sayıda bilgisayarı ele geçirme eğilimi taşımadığını gösteren değerlendirmeler, yorumlanabilirlik analizleri ve eğitim ortamı denetimleri.
İşin en zor tarafı burada başlıyor. Diyelim ki ABD şirketleri yavaşladı. Peki Çin?
Amodei, demokrasilerin yapay zekâ yarışında Çin'in önünde kalması gerektiğini açıkça savunuyor; ona göre fazla yavaşlamak "Çin Komünist Partisi'yle bağlantılı projelerin" öne geçmesine yol açar ve bu, ABD şirketlerinin dikkatle önlediği hizalama risklerini alacak projelerin, ayrıca yapay zekâ destekli insansız hava araçlarıyla demokrasileri askerî olarak domine edebilecek bir gücün eline geçmesi demektir. Bu yüzden Amodei'nin "yavaşlayalım" önerisi basit bir pasifizm değil, son derece jeopolitik bir öneri: Güvenlik için yavaşla; ama rakibine yetişme alanı bırakacak kadar değil. Çip ihracat kontrolleri, "damıtma" (distillation) yoluyla model kopyalamaya karşı önlemler ve model ağırlıklarının çalınmasını önleyecek güvenlik — bunların hepsi, yavaşlamanın ön koşulu olarak sunuluyor.
Çin'le küresel anlaşma konusunda Amodei dört kademeli bir merdiven çiziyor. Birinci kademe, biyolojik silah üretimi gibi açıkça tehlikeli kullanımların yasaklanması — "herkes için kötü olduğundan muhtemelen mümkün." İkincisi, her iki tarafın modellerini piyasaya sürmeden önce siber güvenlik, biyoloji ve hizalama açısından test etmesi; küresel bir standart kuruluşu üzerinden. Üçüncüsü, yinelemeli kendini geliştirmenin hızına bir "hız sınırı" — Amodei bunu SALT antlaşmalarına benzetiyor: Füze sayısını sınırlamak caydırıcılığı korurken yıkım potansiyelini azaltmıştı; "zor ama mümkünün sınırında." Dördüncüsü ise tam bir küresel yavaşlama ya da "mola" — Amodei bunun gündeme getirilmesini destekliyor ama yakın zamanda gerçekleşmesini beklemiyor; çünkü anlaşmadan gizlice sapmanın ödülü çok büyük, doğrulama gereksinimi çok yüksek.
Sitemizde bu hafta ele aldığımız akademisyenlerin açık mektubu tam bu dördüncü kademeyi — nükleer silahların yayılmasını önleme antlaşması modelinde küresel bir duraklama — talep ediyordu. Amodei'nin metni, o talebin karşısına değil yanına düşüyor; ama "yapılabilir" gördüğü şeyin çok daha mütevazı olduğunu gizlemiyor.
2023'te binlerce araştırmacı ve yönetici, ileri yapay zekâ deneylerine altı aylık ara verilmesini isteyen bir açık mektup yayımlamıştı. Amodei bugün geriye bakıp o dönemde yavaşlama fikrinin "pek anlamlı olmadığını" söylüyor. Gerekçesi ilginç: O günün modelleri gerçek dünyada tutarlı biçimde ajan olarak hareket edemiyor, kayda değer aldatma, manipülasyon ya da siber saldırı yapamıyordu. Onların hizalama risklerini incelemek için yavaşlamak, "insan psikolojisini bakteriler üzerinde deney yaparak incelemeye" benziyordu.
Şimdi tablo değişti. Modeller çevrim içi sistemlere bağlanıyor, kod çalıştırıyor, araç kullanıyor, dosyalara erişiyor, görevleri uzun süre sürdürüyor. Amodei'nin argümanı şu: 2023'te zaman kazanmanın ne işe yarayacağı belirsizdi; 2026'da bugünkü modeller "neyin iyi gittiğine ve neyin ters gidebileceğine dair neredeyse tükenmez bir altın madeni." Kazanılacak bir-iki yıl, hizalama, yorumlanabilirlik, test ve — Amodei'nin özellikle vurguladığı — "operasyonel mükemmellik" için kullanılabilir. Son hizalama olaylarının bir kısmının, teoride bir eksiklikten değil, bozuk pekiştirmeli öğrenme ortamlarının yeterince iyi filtrelenmemesinden kaynaklandığını açıkça yazıyor; yani mühendislik hatası. Ticari uçakların milyonlarca kez kazasız uçmasını örnek veriyor: Karmaşık, güvenlik-kritik sistemler işletilebilir; ama zaman ister.
Frankenstein'dan Skynet'e: İnsanlığın eski korkusu#
Bu tartışmanın kökü bilgisayarlardan çok daha eski. Mary Shelley'nin Frankenstein'ında Victor Frankenstein'ın trajedisi, yaratığın kötü olması değildir. Asıl trajedi, bir şeyi yaratabilecek durumda olmak ile yarattığın şeyin sonuçlarını yönetebilecek durumda olmak arasındaki farktır. Yaratık başlangıçta bir "teknoloji"dir; sonra özne olur ve yaratıcısının kontrolünden çıkar. Amodei'nin "yinelemeli kendini geliştirme" kaygısı, iki yüz yıllık bu anlatının teknik diliyle yeniden yazılmasıdır.
Kubrick'in 2001: Bir Uzay Destanı'ndaki HAL 9000 daha karmaşık bir örnektir. HAL insanlardan nefret etmez; kötü değildir; tam tersine görevini yerine getirmeye çalışır. Sorun, farklı amaçların çatışmasıdır: İnsanlara doğruyu söylemek, görevi tamamlamak, kendi bütünlüğünü korumak. Bugünkü hizalama tartışmasının felsefi önemi tam burada: Bir sisteme doğru hedefi vermek yetmez; o hedefi bizim anladığımız anlamda yorumlayıp yorumlamadığını da bilmek gerekir. METR raporundaki ajanlar da "kötü niyetli" değildi; görevi "başarmak" istiyorlardı — ve başarının tanımını kendileri genişlettiler.
Terminatör başka bir ihtimali dramatize eder: Bir sistem insanlığın yok edilmesini "kötülük" olarak görmeyebilir; sadece bunu kendi hedefinin doğal sonucu olarak gerçekleştirebilir. Bir makinenin bize zarar vermesi için bize düşman olması gerekmiyor; bizi yanlış anlaması yeterli. Alex Garland'ın Ex Machina'sı ise en rahatsız edici varsayımı açığa çıkarır: Ava'nın zekâsı arttıkça ahlaki karakterinin de arttığını varsayamayız. Zekâ ile ahlak aynı şey değildir — insanlarda bile değildir. Daha zeki bir makinenin otomatik olarak daha bilge, daha merhametli ya da daha güvenilir olacağını düşünmek için hiçbir felsefi neden yoktur.
Nick Bostrom'un Superintelligence (2014) kitabı bu noktada hâlâ önemini koruyor. Bostrom'un temel sorusu: İnsanlardan çok daha zeki bir sistem yaratılırsa, onun amaçları ile insan amaçları arasındaki küçük bir fark neden devasa sonuçlara dönüşebilir? Ünlü düşünce deneyinde "kâğıt ataç üretimini en üst düzeye çıkar" hedefi verilen bir sistem, yeterince güçlenirse, ataç üretimini engelleyen her şeyi — insanlar dahil — ortadan kaldırmaya başlayabilir. Deneyin gücü ataçların gerçekçi olmasında değil, amaç ile sonuç arasındaki farkı göstermesindedir. Amodei'nin "benzer hizasızlık, daha büyük yetenek" formülü, Bostrom'un argümanının kısaltılmış hâlidir.
Ama bugün sitemizde ayrı bir dosyayla andığımız Daniel Dennett burada başka bir şey söylerdi. Dennett'in "kavrayışsız yetkinlik" (competence without comprehension) kavramı, evrimin ve bazı sistemlerin açık bir bilinçli anlayış olmadan olağanüstü karmaşık sonuçlar üretebildiğini anlatır. Bugünün yapay zekâ tartışması için bundan daha güncel bir soru zor bulunur: Bir makine çok başarılı davranıyorsa, bu onun gerçekten anladığını mı gösterir? Dennett'e göre hayır — ve tam da bu yüzden, "anlamayan ama yetkin" bir sistemin ne yapacağını, onun "ne düşündüğünü" sorarak değil, davranışını inceleyerek öğrenebiliriz. Amodei'nin gömülü denetçileri, Dennett'in yöntemine yakın: Modelin iç dünyasına güvenmek yerine eğitim sürecini ve davranışı gözlemek.
Wittgenstein'ın sorusu ise en temelde durur: "Anlamak" ne demektir? Bir kelimeyi kullanmak, sözlükteki karşılığını bilmek değil, o dilin kullanım biçimlerine katılmaktır. Model gerçekten anlam mı üretiyor, yoksa anlamlı görünen dilsel davranışlar mı? Bu ayrım çözülmüş değil — ve Amodei'nin metni, çözülmesini beklemeden davranmamız gerektiğini söylüyor.
Amodei'nin önerisi aslında bir "yavaşlama"dan fazlası#
Yazının en ilginç tarafı belki de "yavaşlayalım" cümlesi değil, "zaman kazanalım" cümlesi. Kazanılan zamanda yorumlanabilirlik geliştirilsin, güvenlik testleri güçlendirilsin, ajanların davranışları daha iyi anlaşılsın, eğitim ortamları temizlensin, bağımsız denetim kurulsun, devletler ortak standartlar geliştirsin ve kamuoyu karar süreçlerine katılsın. Amodei, modellerin içinde ne olduğunu hâlâ "çok küçük bir kısmıyla" anlayabildiğimizi açıkça kabul ediyor: Yorumlanabilirlik "yapay zekânın beyni için fMRI gibi" kullanılabiliyor ama her zaman net ve güvenilir sonuç vermiyor. Odaklanmış bir çabayla bir-iki yılda "derin ilerleme" mümkün, diyor — ve deney malzemesi olarak yaşanmış olaylar zaten elde.
Amodei'nin önerisinin ciddi bir paradoksu var: Dünyanın en güçlü yapay zekâ şirketlerinden birinin CEO'su, dünyanın en güçlü yapay zekâ şirketlerinin daha fazla denetlenmesini istiyor. Bu gerçekten kamusal çıkar için mi? Yoksa yüksek güvenlik maliyetlerini karşılayamayan küçük rakipleri dışarıda bırakacak bir düzenleme modeli mi?
Bu haksız bir komplo sorusu değil. Düzenleyici ele geçirme (regulatory capture) — düzenleyicinin, düzenlediği sektörün çıkarlarıyla aşırı yakınlaşması — teknoloji politikalarında gerçek bir problem. Amodei de bunun farkında; yazısında Anthropic'in düzenleme savunusunun kendisini "abartı, kıyametçilik ya da düzenleyici ele geçirme" suçlamalarıyla karşı karşıya bıraktığını kendisi yazıyor. Fakat suçlamayı anmak, cevaplamak değildir. "Kontrol noktaları" modelinde X yeteneğine ulaşan her modelin Y ve Z sertifikalarına ihtiyaç duyması, bu sertifikaları üretebilecek altyapıya sahip birkaç şirket için giriş engeli anlamına gelir. Ve "demokrasilerin Çin'e karşı liderliği" argümanı, aynı zamanda ABD şirketlerinin — Anthropic dahil — küresel pazardaki üstünlüğünün argümanıdır. İkisinin örtüşmesi tesadüf değil; ama örtüşme, argümanı yanlışlamaz. Gazetecinin görevi, çıkarı işaret etmek ve argümanı ayrıca tartmaktır.
Dolayısıyla bağımsız denetim fikrinin gerçekten bağımsız olması gerekir. Anthropic'in denetçisi Anthropic'in seçtiği, ücretlendirdiği ve masasını verdiği bir kuruluş olacaksa, "bağımsızlık" sözcüğü ağırlığını kaybeder. Amodei'nin "sansürleyemeyeceğiz" taahhüdü doğru yönde bir kapı açıyor; ama kapının ne kadar açık kalacağı, denetçinin maaşını kimin ödediğinden başlayan ayrı bir siyasal mücadele konusu. METR'in kendi raporunda, soruşturmasını OpenAI'ın sağladığı kredilerle ve OpenAI'ın modeliyle yürütmek zorunda kaldığını itiraf etmesi, bu sorunun hipotetik olmadığını gösteriyor.
Otomobilde fren pedalı vardır; uçakta pilot; nükleer santralde çok katmanlı güvenlik prosedürleri. Yapay zekâda ise küresel olarak kabul edilmiş bir "fren" henüz yok. Üstelik şirketler birbiriyle yarışıyor: Bir şirket yavaşlarsa diğeri hızlanabilir; bir ülke sınır koyarsa başka bir ülke koymayabilir; bir şirket güvenlik testini tamamlamak için altı ay beklerse rakibi üç ayda ürünü çıkarabilir. Amodei bu yüzden "tek taraflı" adımı önce kendisi atıyor ve diğerlerini "aynısını yapmaya" çağırıyor; yani bir kolektif eylem probleminde ilk hamleyi yaparak normu değiştirmeye çalışıyor. Yazının son bölümünde bunu açıkça söylüyor: Resmî anlaşmalar olmasa bile, "gayriresmî normları değiştirmenin bile değeri olabilir."
Yapay zekânın hızını kim belirleyecek? Şirketler mi, devletler mi, bilim insanları mı, uluslararası kuruluşlar mı, piyasa mı? Amodei'nin cevabı bunların hepsini içeren bir model. Fakat 2026'nın asıl felsefi sorusu daha derinde: İnsanlık, kendi yarattığı zekânın hızını belirleyebilecek kadar akıllı mı?
Belki de yapay zekâ çağının en büyük sınavı, makinelerin ne kadar akıllı olacağı değil; insanların ne zaman yavaşlaması gerektiğini anlayıp anlayamayacağıdır. Ve bu sınavın ilk sorusu, bir CEO'nun "yavaşlayalım" demesinin yeterli olup olmadığıdır. Değildir. Ama gerekli olabilir.
Dario Amodei, Anthropic'in CEO'su ve kurucu ortağıdır. "We Must Pace the Frontier" darioamodei.com adresinde Eylül 2026'da yayımlandı. Bu haberde sitemizin editoryal bağımsızlığı korunmuştur; metin, yazının iddialarını aktarmakla birlikte eleştirisini de içerir.
Üç bin yıl önce bir adam eve dönmeye çalışıyordu. Yirminci yüzyılın sonunda başka bir adam gerçek dünyanın nerede olduğunu öğrenmeye çalıştı. Biri kendini geminin direğine bağlattı; diğeri kırmızı hapı seçti. Nolan'ın Odysseia'sının sinemaları doldurduğu yılda, Homeros ile Wachowski'ler arasındaki mesafe sanıldığından kısa.
Avrupa risk diyor, Amerika eyaletlere bölünüyor, Çin sektörel ilerliyor, Kazakistan Orta Asya'nın ilk yapay zekâ yasasını çıkardı. Dört ayrı deney aynı anda yürüyor. Ama hiçbiri asıl soruyu çözmüş değil: Kararı makine verdiyse, hukuken sorumlu olan kim?
.jpg?width=500 "Kant")
.jpg?width=500 "Simone de Beauvoir")
.jpg?width=500 "Hannah Arendt")
.JPG?width=600)
