Jörg Noller ve Yapay Zekânın Düşünme Biçimi Üzerine

Bu ayrım küçük görünse de sonuçları büyük. Çünkü bir makinenin insan gibi düşünüp düşünmediğini sormakla, insanın makineyle birlikte düşünürken nasıl değiştiğini sormak aynı şey değil.

Asıl mesele makinenin zihni değil, insanın yargısı#

Noller'in temel iddiası, büyük dil modellerinin kendi başlarına epistemik özneler olduklarını kabul etmeden de insanın bilgi üretme süreçlerinde önemli bir rol oynadıklarının açıklanabileceği. Bir dil modeli önümüze alternatifler koyabilir, kavramlar arasındaki ilişkileri görünür kılabilir, bir sorunun farklı açılardan ele alınmasını sağlayabilir. Fakat bunları yapması, sonuçların doğruluğunu kendiliğinden güvence altına aldığı ya da sonuçların sorumluluğunu üstlendiği anlamına gelmez. Makalenin kendi diliyle: Dil modelleri "epistemik faillik ya da özgün normatiflik taşımaz; insan yargısının, araştırmanın, anlamanın ve gerekçelendirmenin gerçekleştiği koşulları yeniden biçimlendirir."

Burada "yargı" kavramı belirleyici. Yargılamak, mevcut bilgileri sıralamak ya da bir kurala mekanik biçimde uymak değildir: Somut bir durumun hangi özelliklerinin önemli olduğuna karar vermek, genel bir ilkeyi tekil bir olaya uygulamak, çelişen gerekçeler arasında seçim yapmak ve kararın neden savunulabilir olduğunu açıklayabilmek gerekir. Noller bu noktada açıkça Kant'a yaslanıyor: Saf Aklın Eleştirisi'nde yargı yetisi, kuralların kendisinden türetilemeyen, "öğretilemeyen, yalnızca alıştırmayla kazanılan" bir yetidir; kural ne kadar açık olsa da, bu durumun o kuralın altına düştüğüne karar vermek ayrı bir edimdir. Kant'ın bu ünlü uyarısı, Noller için yapay kapasiteleri konumlandıracak "normatif bir ölçüt" sağlıyor. Yapay zekâ yargının koşullarını değiştirebilir; ama bir önerinin hangi gerekçelerle kabul edilmesi gerektiği sorusunu ortadan kaldırmaz.

Örneğin bir mahkeme kararını, bir tıbbi teşhisi ya da bir kamu politikasını değerlendirmek için kullanılan dil modeli, ilgili metinleri özetleyebilir ve olası sonuçları karşılaştırabilir. Ancak hangi riskin kabul edilebilir olduğu, hangi hakkın öncelik taşıdığı ya da hangi kararın adil sayılabileceği, yalnızca metin üretme başarısına bakılarak belirlenemez. Makalenin en çok alıntılanacak cümlesi de burada: "Risk, makinelerin yanlış yargılaması değil; insan faillerin, teknolojik olarak üretilmiş çıktıları normatif bakımdan kendi kendine yeterli sayarak yargıdan vazgeçmesidir."

Ne tamamen nötr bir araç ne de bağımsız bir bilen#

Yapay zekâyı yalnızca bir araç olarak görmek, onun insan davranışını nasıl etkilediğini gözden kaçırtabilir. Bir sistemin sunduğu seçenekler, hangi bilgileri öne çıkardığı ve cevapları hangi dilde kurduğu, kullanıcının neyi makul bulacağını etkiler. Teknoloji yalnızca mevcut düşünceyi hızlandırmaz; bazen hangi soruların sorulacağını ve hangi cevapların mümkün görüneceğini de belirler. Bununla birlikte bu etkiden hareketle yapay zekâyı insan benzeri bir özne ilan etmek de aceleci bir sonuç olur: Bir sistemin ikna edici bir açıklama üretmesi, açıklamanın anlamını insan gibi kavradığını ya da sonuçlarından ahlaki sorumluluk taşıdığını göstermez.

Noller'in "genişletilmiş yargı" yaklaşımı bu iki uç arasında üçüncü bir yol açıyor ve bunu yaparken iki kaynağa dayanıyor. Birincisi, bilişi bedenlenmiş, gömülü, eyleme dayalı ve genişletilmiş olarak düşünen "4E biliş" programı; Clark ve Chalmers'ın 1998'de "genişletilmiş zihin" teziyle açtığı, Andy Clark'ın geliştirdiği gelenek. Noller bu geleneği "teleolojik" bir yorumla alıyor: Epistemik kapasiteler yalıtılmış öznelerin ya da sistemlerin içsel özellikleri değil, "sosyoteknik pratikler içinde gerçekleştirilen amaçlı ve ilişkisel başarılar." İkincisi, insan ile yapay zekânın birbirini karşılıklı dönüştürdüğü "birlikte evrim" paradigması: Modeller insan metinlerinden öğrenir, insanlar modellerle konuşarak düşünme alışkanlıklarını değiştirir, değişen alışkanlıklar yeni metinler üretir ve döngü sürer. Bu döngüde normatiflik "türetilmiştir": Modelin ürettiği metnin doğru ya da yerinde sayılması, ona bu ölçütleri koyan insan pratiklerinden gelir.

Bu bakış, yapay zekâ tartışmasını bilinç meselesine sıkıştırmamak bakımından da değerli. Bir sistemin bilinçli olup olmadığı sorusu önemli olabilir; ancak yapay zekânın toplumsal etkilerini anlamak için bu sorunun kesin olarak çözülmesini beklemek gerekmiyor. Bir araç, bilinçli olmasa bile insanların kararlarını, bilgiye erişimini ve düşünme alışkanlıklarını dönüştürebilir.

Düşünmenin dışarıya taşınması özerkliğin kaybı mıdır?#

İnsan zihni tarih boyunca kendi kapasitesini dışsal araçlarla genişletti. Yazı hatırlamayı, haritalar yön bulmayı, matematiksel gösterimler karmaşık hesapları, bilimsel cihazlar çıplak duyularla erişilemeyen olguları araştırmayı mümkün kıldı. Bu araçların hiçbiri insan düşüncesini ortadan kaldırmadı; ama her biri düşünmenin nasıl yapıldığını ve hangi becerilerin geliştirildiğini değiştirdi. Platon'un Phaidros'ta yazıya yönelttiği kuşku (yazı hafızayı güçlendirmez, zayıflatır) bu tartışmanın en eski örneği; Noller'in makalesi, dil üzerine ayrı bir bölüm ayırarak aynı kuşkuyu yeni bir düzlemde ele alıyor.

Büyük dil modellerinin farkı, belirli bir işlemi gerçekleştirmelerinde değil, dilin kendisine müdahil olmalarında. İnsanlar düşüncelerini büyük ölçüde dil aracılığıyla kurar, başkalarıyla tartışır ve gerekçelendirir. Dil üreten bir sistem bu nedenle bir hesap makinesi gibi dışarıda durmaz; düşüncenin ifade edildiği, sınandığı ve yeniden kurulduğu alana girer. Bu durum iki zıt ihtimali birlikte taşır: Bir kullanıcı yapay zekâ sayesinde kendi görüşüne karşı en güçlü itirazları bulabilir, bilmediği kavramlarla tanışabilir, düşüncesini daha iyi temellendirebilir. Aynı kullanıcı, sistemin akıcı cevabını araştırmanın son noktası sayarak kendi sorgulama faaliyetini terk de edebilir. Dolayısıyla teknolojinin insanı güçlendirip güçlendirmediği yalnızca sistemin teknik kapasitesine bağlı değil; kullanım biçimi, kurumların teşvikleri, eğitimin niteliği ve insanın kendi yargısını korumaya ne kadar önem verdiği de belirleyici.

Epistemik özerklik, her şeyi tek başına yapmak değildir#

Özerk düşünceyi dışarıdan hiçbir yardım almamakla eşitlemek, insanın bilgi edinme biçimini yanlış anlamaktır. Bilim insanları meslektaşlarının çalışmalarına, hekimler tanı araçlarına, hukukçular içtihatlara, tarihçiler arşivlere dayanır; bilgi çoğu zaman başkalarına ve araçlara duyulan güven üzerinden gelişir. Önemli olan bu bağımlılıkların bulunup bulunmaması değil, nasıl yönetildiği: Bir kaynağın güvenilirliğini sorgulayabilmek, gerektiğinde onu reddedebilmek, farklı kaynakları karşılaştırabilmek ve kendi kararının gerekçelerini açıklayabilmek, epistemik özerkliğin temel unsurlarıdır. Noller'in makalesinin son bölümü tam bu kavrama ayrılmış: Özerklik, bağımsızlık değil, "epistemik sorumluluğun insanda kalması"dır; performans teknolojik olarak genişlese bile.

Bu bakımdan yapay zekâ çağının temel sorunu, insanın makineye ne kadar iş devrettiğinden ibaret değil. Daha önemli soru şu: İnsan, devrettiği işin sonucunu değerlendirecek kapasiteyi koruyor mu? Bir metni özetletmek ile o metin hakkında düşünme görevini bütünüyle terk etmek arasında fark vardır. Bir karar için alternatifler üretmek ile kararın ahlaki ve hukuki sorumluluğunu sisteme bırakmak da aynı şey değildir. Geçen hafta Türk aydını ve yapay zekâ üzerine yazdığımızda vardığımız sonuç, Noller'in kavramlarıyla daha keskin söylenebilir: Tehlike aydının yerini makinenin alması değil, yargının devredilmesidir.

Daha hızlı cevaplar, daha iyi düşünme anlamına gelmez#

Noller'in çalışmasının önemi, yapay zekâ tartışmasını "Makine insan gibi düşünüyor mu?" ikiliğinin dışına taşımasında. Dil modelleri insanın epistemik faaliyetlerini genişletebilir; ancak bu genişleme insanın yargı yetisini kendiliğinden güçlendirmez. Aynı teknoloji sorgulamayı derinleştirebileceği gibi düşünsel tembelliği de teşvik edebilir. Makaleye yöneltilebilecek itiraz da buradan çıkar: "Türetilmiş normatiflik" kavramı, modellerin ürettiği ölçütlerin zamanla insan ölçütlerini dönüştürdüğü bir dünyada ne kadar dayanır? Birlikte evrim gerçekten karşılıklıysa, "sorumluluk insanda kalır" cümlesi bir betimleme mi, yoksa bir talep mi? Noller ikincisini kastediyor gibi görünüyor; ve bu, makalenin bir epistemoloji çalışması olduğu kadar bir eğitim programı da olduğunu gösteriyor.

Bu nedenle yapay zekâ çağında eğitim, doğru komutlar vermeyi öğretmekle yetinemez. Kaynakları değerlendirme, iddiaları sınama, belirsizlikle yaşama, gerekçe isteme ve yanlışlanma ihtimalini kabul etme becerileri daha da önemli hâle geliyor. Asıl ölçüt, insanın yapay zekâdan daha hızlı cevap alması değil, aldığı cevap karşısında daha iyi sorular sorabilmesi. Çünkü düşünmenin genişlemesi ile düşünmenin devredilmesi arasındaki sınır, makinenin ürettiği cümlelerde değil, insanın o cümlelerle ne yaptığı yerde belirir.