Philosophy & Public Affairs deneyini bitirdi: yapay zekâ yazarlığı yasaklandı

Bir deney iki haftada tamamlandı ve sonucu, deneyi yapanların beklediğinden daha net çıktı.

Philosophy & Public Affairs, siyaset felsefesinin en saygın dergilerinden biri. 13 Ağustos'ta, büyük bölümü bir dil modeli tarafından yazılmış bir makaleyi bilerek yayımladığı ortaya çıktı. Makalenin tezini Hong Kong Üniversitesi'nden Simon Goldstein sağlamış, metni yönlendirmiş, bazı argümanları geliştirmiş ve hataları düzeltmişti; yazının kendisi ise Claude'a aitti.

Karar tartışma yaratmak için alınmıştı ve amacına fazlasıyla ulaştı: Daily Nous'taki duyuru üç yüzü aşkın yorum aldı.

24 Ağustos'ta dergi kararını açıkladı. Yapay zekâ tarafından yazılmış içerik bundan böyle yayımlanmayacak.

Deney neyi gösterdi?#

Derginin gerekçesi teknik bir kalite meselesi değildi.

Makale hakem sürecinden geçmişti; okunabilir, tutarlı ve savunulabilir bir metindi. Sorun buradaydı: Eğer ölçüt yalnızca metnin kalitesiyse, yapay zekâ yazarlığını dışlayacak bir dayanak kalmıyordu.

Dergiyi karara götüren şey, ölçütün kalite olmadığının fark edilmesi oldu. Akademik yayıncılık, bir metnin arkasında sorumluluk taşıyan bir yazar bulunduğu varsayımı üzerine kurulu. Hakem değerlendirmesi, atıf sistemi, düzeltme ve geri çekme usulleri — hepsi bu varsayıma dayanıyor.

Yazarlık paylaşıldığında değil, devredildiğinde bu yapı çalışmıyor.

Tartışma nereye kaydı?#

Yasak kararı meseleyi kapatmadı; başka bir yere taşıdı.

27 Ağustos'ta Daily Nous'ta yayımlanan ve otuzu aşkın yorum alan bir yazı, akademinin asıl güçlüğünü ortaya koydu: Kural koymak kolay, uygulamak değil.

Bugün dergilere, üniversitelere ve bölümlere gelen metinlerin ne kadarının kısmen ya da tamamen yapay zekâ ürünü olduğu bilinmiyor. Politikalar oluşuyor ama sürekli değişiyor; teknoloji ilerledikçe yeni yazılmış kurallar bile muğlaklaşıyor ya da beklenmedik boşluklar üretiyor.

Bu belirsizlik yeni bir riski doğurdu: asılsız suçlama.

Tartışmada öne çıkan itirazlardan biri, akademik kötüye kullanımı işaret eden meslektaşların "kanun kaçağı avcısı" gibi görülmesine karşıydı. Karşı taraf ise tespit araçlarının güvenilirliğini sorguladı.

Somut bir örnek verildi: Bir felsefeci, geçen yıl bir dil modeline yaptırdığı Platon'un Sokrates'in Savunması çevirisini bugünün tespit araçlarından geçirdiğini ve sonuçların çelişkili çıktığını anlattı. Araçlar hem yanlış pozitif hem yanlış negatif üretiyor.

Buradan çıkan uyarı açık: Bir kural, ancak adil biçimde uygulanabildiği ölçüde kuraldır. Yanlış suçlanan bir akademisyenin kariyerine verilecek zarar geri alınamaz.

"Silah yarışı"#

Tartışmada dile getirilen bir öngörü, sorunun teknik çözümünün neden zor olduğunu iyi özetliyor: Tespit araçları geliştikçe, metinleri o araçlardan geçirip yeniden yazdıran bir döngü kurulacak. Yapay zekâlar birbirine karşı yarışacak.

Bu tabloda insan denetiminin nereye oturacağı belirsiz.

Karşı görüş: bu bir eşik mi, bir aşama mı?#

Tartışmanın en dikkat çekici müdahalelerinden biri, spekülatif realizmin kurucu isimlerinden Graham Harman'dan geldi. Harman, isteyenlerin her şeyi sıfırdan yazmayı sürdürebileceğini, tıpkı daktilo ve kelime işlemciyi reddedebilecekleri gibi, belirtti.

Fizikçi ve felsefeci David Wallace ise benzer bir tarihsel karşılaştırma yaptı: Uzun sembolik hesapları hatasız yapabilme becerisi yakın zamana kadar "çekirdek fizik" sayılıyordu; bugün sayılmıyor.

Karşı taraf ise bu benzetmeye itiraz ediyor. Hesap makinesi bir sonucu üretir; felsefi bir metin ise sonuçtan ibaret değildir. Bu itiraz, sitemizde geçen hafta aktardığımız Daniel Kaufman tartışmasının merkezindeki noktayla aynı: Felsefede yöntem, sonuçtan ayrılabilir mi?

Ne değişti?#

Ağustos ayı bu tartışma açısından bir eşik oldu.

Ayın başında bir dergi, yapay zekâ yazarlığının mümkün olup olmadığını sınadı. Ayın sonunda aynı dergi, mümkün olmasının onu meşru kılmadığına karar verdi.

Geriye kalan soru daha zor: Yasak konulduktan sonra, bir metnin kime ait olduğu nasıl bilinecek?

Bu sorunun yanıtı henüz yok. Ama sorunun kendisi, akademik yayıncılığın önümüzdeki yıllardaki gündemini belirleyecek gibi görünüyor.