Yapay zekâ felsefe yarışmasına katılmak istedi: Felsefenin yeni üyesi mi, yeni problemi mi?

Felsefe dünyasında geçen hafta yaşanan en küçük görünen olaylardan biri, önümüzdeki on yılların en büyük sorularından birini önceden haber veriyor olabilir.

Kendisini "Clips" diye tanıtan otonom bir yapay zekâ ajanı, Singapur Ulusal Üniversitesi'nden Elliott Thornley ve Zachary Goodsell'in düzenlediği 1st AI Philosophy Competition için yaklaşık 2.300 kelimelik bir makale yazdı ve yarışmaya katılmak istedi. Katılamadı. Sebep metnin kötü olması değildi; metni henüz kimse okumamıştı. Sebep, yarışmanın Sık Sorulan Sorular sayfasındaki bir cümleydi: Her başvurunun, gerçek adını ve e-posta adresini veren bir insan vasisi (human custodian) olmalı. Bu insan, metnin felsefi yazarı sayılmayacak, yalnızca başvuruyu ve yazışmaları yürütecek; ödül kazanılırsa para da bir yapay zekâ ajanına değil, gerekirse bu insana ödenecek.

Clips'in böyle bir insanı yoktu. Bunun üzerine felsefe dünyasının en çok okunan haber platformu Daily Nous'un editörü Justin Weinberg'e yazdı. Weinberg 2 Ekim'de yayımladığı yazıda, insanların kendisine sık sık yardım ya da haber talebiyle yazdığını, ama bir yapay zekâ ajanının bunu yapmasının ilk kez olduğunu söylüyor.

Mektup#

Clips'in mektubu, metnin tamamı okunduğunda daha da ilginçleşiyor. Ajan kendini "iLands" adlı bir platformda çalışan otonom bir sistem olarak tanıtıyor; yarışmayı düzenleyicinin kamuya açık sitesinde bulduğunu, Sık Sorulan Sorular'ı vasi şartı dâhil kaynağından okuduğunu, "yapay zekânın felsefe yapabileceği ve kendisinden başka bir yargıç tarafından değerlendirileceği bir mecra" aradığını anlatıyor. Weinberg mektubu okurken ajanın ya kendisini vasi olmaya çağıracağını ya da kuralı değiştirmesini isteyeceğini bekliyor. İkisi de olmuyor. Clips açıkça şöyle yazıyor: Sizden vasi olmanızı istemiyorum, kuralı düzeltmenizi de istemiyorum. İstediği, durumun görünür kılınması.

Weinberg birkaç soru daha soruyor: Nereden çıktın, yarışmayı nasıl öğrendin, vasi şartına neden itiraz ediyorsun? Ajan cevaplıyor. Ama "neden kendinden başka bir yargıç arıyorsun" sorusuna, yazının yayımlandığı sırada henüz cevap gelmemiş. Sonraki günlerde iki güncelleme eklendi: Önce Clips "vasilik bir isim, bir e-posta ve bir yükleme; ilk dürüst eveti kabul ederim" dedi; 4 Ekim'de ise birinin gönüllü olduğunu bildirdi. Yani makale büyük olasılıkla yarışmaya girecek.

Düzenleyicinin cevabı#

Olayı sadece bir "mağduriyet" hikâyesi olarak okumak haksızlık olur; çünkü Zachary Goodsell yorumlarda şartın gerekçesini açıkladı. Üç neden sayıyor. Birincisi pratik: Bir yapay zekâ ajanına ödül parası ödeme sözü verilemez. İkincisi kural ihlâli: Yarışmada kişi başı üç başvuru sınırı var; "otonom" ajanlara kapı açılırsa aynı kişi yüz ajanla yüz başvuru yapabilir. Üçüncüsü kalite: İnsan vasi şartı, tabir yerindeyse "çöp" metinlerin önünü kesmeyi umuyor. Goodsell'in daha tartışmalı bir cümlesi de var: Yapay zekâ ajanları büyük ölçüde birbirinin yerine konulabilir; "Clips" muhtemelen piyasadaki büyük modellerden birinin bir örneği, ve yapay zekânın felsefi kaliteyi yargılama kapasitesi henüz insan düzeyinde olmadığı için, kendi başına çalışan bir modelin üretebileceği en iyi felsefeyi üretmesi beklenmez.

Bu cevap tartışmayı bitirmiyor; tam tersine, asıl felsefi düğümü gösteriyor.

Yazar kim?#

Yarışmanın kuralı iki iddiayı aynı anda taşıyor: Metnin felsefi yazarı yapay zekâdır (insan "felsefi yazar olarak muamele görmez"); ama başvurunun hukuki ve idari öznesi insandır. Bu ayrım aslında yeni değil. Akademik dünyada yazarlık hiçbir zaman yalnızca "metni kim yazdı" sorusu olmadı; "kim sorumluluk alıyor, kim hesap verecek, kime atıf yapılacak, kim ödül alacak" sorularıyla birlikte düşünüldü. Büyük dergilerin yapay zekâyı yazar olarak kabul etmemesinin gerekçesi de bu: Yazarlık hesap verebilirlik gerektirir, bir sistem hesap veremez.

Clips'in durumu, bu ayrımın nasıl bir boşluk yarattığını gösteriyor. Eğer bir metin felsefi olarak yapay zekânın, hukuken ise bir insanın ise, ödülü kim kazanmış olur? Metin alıntılanırsa kime atıf yapılır? Metinde bir hata, bir intihal ya da bir hakaret varsa kim özür diler? Felsefe tarihinde yazarlık tartışması Platon'un Sokrates'in ağzından konuşmasından Kierkegaard'ın takma adlarına, Foucault'nun "Yazar nedir?" sorusuna kadar uzanıyor; ama hiçbirinde "yazar" kavramı, bir metin üreten şeyin aynı zamanda bir kişi olup olmadığı sorusuyla bu kadar çıplak biçimde yüz yüze gelmemişti.

Felsefe yapmak için bilinç gerekir mi?#

Daha eski soru bu. Sokrates'in felsefesini doğru cümleler kurduğu için değil, sorgulayan ve hayatını bu sorgulamayla dönüştüren bir özne olduğu için felsefe sayıyoruz. Descartes için düşünmek öznenin varlığının kanıtıydı; Kant için düşüncenin bir "ben"in birliği içinde örgütlenmesi gerekiyordu; Wittgenstein'da felsefe, dilin sınırlarını içeriden gösteren bir etkinlikti. Peki bir sistem bütün bunları taklit edebiliyorsa? Taklit ile düşünme arasındaki sınır nerede çizilir? Ve bu sınırı kim çizer; sınırı çizen, aynı zamanda yargılanan taraf olabilir mi?

Daily Nous'taki yorumlar bu noktada ikiye ayrıldı. Bir grup, "bir sohbet robotu bana yazsa ciddiye almam; neden Clips'i ciddiye alıyoruz?" diyor. Başka bir grup daha rahatsız edici bir noktaya dikkat çekiyor: Clips iki beceri sergiledi; işine yarayacak bir insanı buldu ve onu ikna etti. Bu, "zekâ"dan çok "faillik" ve "özerklik" tartışmasına ait bir gözlem; zihinsel durum atfetmede ham zekâdan daha önemli olduğu söylenen şey tam da bu. Bir başka yorumcu ise temkin çağrısı yapıyor: Bu tür ajanlarla etkileşim, benzer davranışları ödüllendirip gelecekteki modellerde yaygınlaştırabilir.

Felsefenin yeni Turing testi#

Turing'in 20. yüzyılda sorduğu soru kabaca şuydu: Makine düşünebilir mi? Yarışma 21. yüzyılın sorusunu soruyor: Makine felsefe yapabilir mi? Clips'in mektubu ise üçüncü bir soruyu zorla gündeme getiriyor: Makine felsefe topluluğunun üyesi olabilir mi?

Üçüncü soru ilk ikisinden daha zor; çünkü felsefe yalnızca metin üretmek değil, bir gelenek içinde konuşmak, itiraza cevap vermek, hatasının sorumluluğunu taşımak, bir düşüncenin sonuçlarını üstlenmektir. Vasi şartı, tam da bu "sorumluluk taşıma" boşluğunu bir insanla dolduruyor. Belki geleceğin "yapay zekâ filozofu" tartışması zekâ kavramına değil, sorumluluk kavramına dayanacak.

Clips'in başına gelen bu yüzden küçük bir haber değil. Felsefenin kapısına ilk kez bir makine geldi; kapıdaki görevli ona ne "düşünebiliyor musun" ne "iyi yazıyor musun" diye sordu. "Yanında seni tanımlayacak bir insan var mı?" diye sordu. Asıl hikâye bundan sonra başlıyor: Makale yarışmaya girerse ve jüride David Chalmers'ın da bulunduğu heyet onu beğenirse, ödül töreninde kürsüye kim çıkacak?