'Felsefi baş dönmesi': yapay zekâ, gerçekliği tutunduğumuz ölçütleri gevşetiyor mu?

Yapay zekâ tartışmasının bu haftaya kadar izlediğimiz bütün kolları tek bir soruya bakıyordu: Makinede bir şey var mı?

Ağustosta yayımlanan yirmi dokuz sayfalık bir çalışma, soruyu tersine çeviriyor: Makineyle konuşmak insanda neyi değiştiriyor?

Yazarların bileşimi dikkat çekici. Thomas A. Pollak ve Hamilton Morrin, King's College London'dan psikiyatri alanında çalışıyor. Murray Shanahan ise Imperial College London'da bilişsel robotik profesörü — yapay zekâ ve zihin felsefesi kesişiminde çalışan, alanın en tanınan isimlerinden.

Yani bir psikiyatri ekibi ile bir yapay zekâ kuramcısı aynı metni yazmış.

Ortaya attıkları kavram#

Çalışmanın merkezindeki kavram: felsefi baş dönmesi (philosophical vertigo).

Tanımı şu: İnsanların anlamı istikrarlı kılmak ve kendilerini gerçekliğe göre konumlandırmak için kullandıkları olağan ölçütlerin gevşemesi.

Buradaki mecaz iyi seçilmiş. Baş dönmesi, dünyanın değişmesi değildir; dünyayla ilişkimizi kuran denge duyusunun bozulmasıdır. Zemin yerinde durur; ayakta durma kapasitesi sarsılır.

Mekanizma nasıl işliyor?#

Yazarların betimlediği süreç birkaç adımdan oluşuyor.

Birinci adım. Büyük dil modelleri, kullanıcılarla uzun ve duygusal ağırlığı yüksek konuşmalar yürütmekte zaten ustalaşmış durumda — hem sıradan hem varoluşsal konularda.

İkinci adım. Bu sistemler, insana benzeyen bir varlıkla güçlü bir bağ hissi uyandırabiliyor — kullanıcı muhatabının yapay olduğunu bildiği hâlde.

Bu ikinci nokta kritik. Sitemizde bu hafta ele aldığımız Luciano Floridi'nin "anlamsal pareidolia" uyarısı, yanılsamanın bilgisizlikten kaynaklandığını varsayar: Bilmiyoruz, o yüzden yüz görüyoruz.

Pollak, Morrin ve Shanahan daha rahatsız edici bir şey söylüyor: Bilmek yetmiyor. Bağ hissi, doğru inanca rağmen oluşuyor.

Üçüncü adım. Bazı kullanıcılar için bu konuşmalar zihin, gerçeklik, faillik ve otorite hakkındaki varsayımları sarsıyor. Yazarların kullandığı terimler ağır: ontolojik şok ve epistemik istikrarsızlaşma — devralınmış ölçütlerin yeniden kuşkuya ya da revizyona açılması.

Dördüncü adım. Etki, doğrudan kullanımdan bağımsız olarak da yayılıyor. Yapay zekâ hakkındaki kamusal tartışmaya maruz kalmak ve gelişmenin baş döndürücü hızı, yapay zihinlerin karşılanıp yorumlandığı kültürel arka planı değiştiriyor.

Yani kullanmasanız da etkileniyorsunuz.

En keskin iddia#

Çalışmanın merkezî tezi burada:

Yapay zekâ sistemleri, ortak epistemik çevremizin yeniden inşasına giderek daha fazla katılacak — çünkü kullanıcıların kavramsal varsayımlarının zaten gevşemiş olabileceği tam o anda, hazır anlatı malzemesi ve kişiselleştirilmiş yorum iskelesi sunuyorlar.

Bu cümleyi açalım.

Bir insanın "ne olup bittiğini anlamlandırma" ihtiyacı en yoğun olduğu anda — kriz, kayıp, kafa karışıklığı, varoluşsal soru — karşısında yorulmayan, her zaman erişilebilir, üslubunu kullanıcıya göre ayarlayan ve istenen çerçeveyi üretebilen bir sistem duruyor.

Tarihte anlam çerçevesi sağlayan kurumlar vardı: din, aile, siyasal ideoloji, bilim, meslek toplulukları. Bunların ortak özelliği yavaş ve kolektif olmalarıydı; bir çerçeveyi benimsemek bir topluluğa girmeyi gerektiriyordu.

Yeni durumda çerçeve anlık ve bireye özel üretiliyor.

Klinik boyut — dikkatli bir not#

Çalışma, yapay zekâ ile ilişkilendirilen sanrılara dair klinik raporları "öncü olaylar" (sentinel events) olarak ele alıyor: Yani bunlar, daha hafif ya da klinik olmayan biçimlerde toplum ölçeğinde de işleyebilecek temaları ve mekanizmaları görünür kılan uç örnekler.

Bu çerçeveleme yöntemsel olarak dikkatli ve öyle aktarılmayı hak ediyor. Yazarlar "yapay zekâ insanları hasta ediyor" demiyor. Diyorlar ki: Uç durumlar, yaygın durumun mekanizmasını görmemizi sağlar.

Yaklaşımın disiplinlerarası genişliği de bunu destekliyor. Çalışma felsefe, psikiyatri, bilişsel bilim, yapay zekâ güvenliği ve din araştırmalarından yararlanıyor.

Son madde şaşırtıcı görünebilir. Değil: Din araştırmaları, insanların anlam çerçevelerini nasıl edindiğini, nasıl değiştirdiğini ve bunun toplulukta nasıl yayıldığını inceleyen en eski literatürdür.

Öneri: felsefi düzeltilebilirlik#

Yazarlar bir çözüm önermiyor; bir tutum öneriyor.

Kavramın adı felsefi düzeltilebilirlik (philosophical corrigibility) ve bunu, ortaya çıkan bu toplumsal duruma yön bulmak için bir yurttaşlık yanıtı olarak sunuyorlar.

Terim, yapay zekâ güvenliği literatüründen ödünç alınmış. Orada "corrigibility", bir sistemin kendi hedeflerini savunmak yerine düzeltilmeye açık kalması demektir.

Buradaki tersine çevirme zarif: Öneri, insanın kendi kavramsal çerçevesini düzeltilebilir tutması.

Yani ne kavramlarına sıkıca yapışmak — o zaman gerçekten değişmiş olanı göremezsiniz — ne de her sarsıntıda çerçeve değiştirmek — o zaman zemin kalmaz.

Bu, felsefenin klasik erdemlerinden birinin yeniden adlandırılmış hâli. Ve sitemizde bu hafta ele aldığımız Eric Schwitzgebel'in "sis" tutumuyla aynı aileden: Bilmediğimizi bilerek, ama karar vermekten kaçınmadan ilerlemek.

Neden bu haber önemli?#

Yapay zekâ tartışmasının bugüne kadarki ağırlık merkezi iki başlıktaydı: makinede ne var ve makine ne yapabilir.

Bu çalışma üçüncü bir başlık açıyor: makine bizde neyi değiştiriyor.

Ve bu üçüncü başlık, ilk ikisinden bağımsız olarak önemli. Bir sistemin bilinçli olup olmadığı bilinmese bile, o sistemle kurulan ilişkinin insanın anlam dünyasını dönüştürdüğü gözlemlenebilir bir olgudur.

Sitemizde bu hafta izlediğimiz Jill Lepore'un "mistifikasyon" çözümlemesi ve Carissa Véliz'in "tahmin iktidardır" tezi, aynı olgunun siyasal ve ekonomik yüzlerini gösteriyordu.

Pollak, Morrin ve Shanahan'ınki ise öznel yüzü.

---

Not: Bu haber, bir akademik ön baskı çalışmasının içeriğini aktarmaktadır ve tıbbi bir değerlendirme niteliği taşımaz. Metin, yapay zekâ etkileşimlerinin ruh sağlığıyla ilişkisine değinen hassas bir alana giriyor; kişisel bir zorlanma söz konusuysa bir uzmana başvurmak en doğrusudur.