Derrida yapay zekâ çağında neden yeniden okunuyor?

Yapay zekâ tartışması birkaç sorunun etrafında dönüyor: Makineler düşünebilir mi? İnsan zekâsını aşabilir mi? Dil modelleri gerçekten anlıyor mu?

Jacques Derrida'nın düşüncesi bu soruların bir adım gerisine çekiliyor ve daha temel bir şey soruyor:

Bir makine yazabiliyor, cevap üretebiliyor ve insanın dilsel izlerini işleyebiliyorsa; "yazar", "özne", "hafıza", "anlam" ve "sorumluluk" dediğimiz şeylerin sınırı nerede başlar, nerede biter?

Derrida 2004'te öldü; yapay zekâ üzerine yazmadı. Ama yazı, teknik, arşiv ve hafıza üzerine geliştirdiği kavramlar, bugün bu tartışmanın neden yalnızca teknolojik değil felsefi bir mesele olduğunu anlamak için yeniden okunuyor.

Teknoloji nötr bir araç değildir#

Derrida'nın düşüncesinde teknoloji, insanın elindeki tarafsız bir alet olarak ele alınamaz.

Bir iletişim teknolojisi mevcut düşünceleri başka bir kanaldan iletmekle kalmaz; neyin söylenebileceğini, neyin saklanabileceğini ve neyin hatırlanabileceğini de değiştirir.

Bu tezin en güçlü ifadesi Arşiv Humması'nda (Mal d'archive). Derrida orada arşivi, geçmişin muhafaza edildiği pasif bir depo olarak görmez. Arşivin teknik yapısı, arşive girecek şeyin yapısını da belirler.

Kitap 1994'te, elektronik posta yeni yaygınlaşırken yazıldı. Derrida orada, e-postanın yalnızca hızlı bir mektup olmadığını; kamusal ile özel arasındaki sınırı yeniden çizdiğini savunuyordu.

Arşiv artık yalnızca saklamıyor#

Bu düşünce büyük dil modelleri açısından doğrudan işe yarıyor.

Bu sistemler devasa bir dilsel arşiv üzerinde çalışıyor: kitaplar, makaleler, internet metinleri, kodlar, haberler. Bu külliyat veri kümesine dönüştürülüyor ve algoritmik işlemlerle yeni metinler üretiliyor.

Kritik soru artık "Yapay zekâ ne biliyor?" değil. Soru şu:

Yapay zekânın bildiğini sandığımız şey, hangi arşivleme ve seçme süreçlerinin sonucudur?

Geleneksel arşiv geçmişi kayıt altına alır. Dijital arşiv onu ayrıca sınıflandırır, sıralar ve görünür kılar. Yapay zekâ ise bir adım daha ileri gider: Arşivdeki izlerden yeni cümleler, yeni görüntüler, yeni olasılıklar üretir.

Böylece arşiv ile üretim arasındaki sınır bulanıklaşır. Derrida'nın tezi tam burada güncelleniyor: Teknoloji geçmişi muhafaza etmekle kalmaz, geçmişin hangi biçimde karşımıza çıkacağını da belirler.

"Yapay zekâ yazıyor" derken ne diyoruz?#

Derrida'nın yazı üzerine düşüncesi bu tartışmada başka bir kapı açıyor.

Derrida, Batı felsefesinin uzun süre konuşmayı yazıya göre daha asli, daha canlı ve özneye daha yakın gördüğünü göstererek bu hiyerarşiyi sorgulamıştı. Onun "yazı" kavramı kâğıda dökülen kelimelerden ibaret değil: izlerin dolaşımı, tekrarlanabilirlik ve anlamın hiçbir zaman tek bir kaynağa bağlanamaması meselesi.

Buradan bakıldığında yapay zekânın ürettiği metin rahatsız edici bir soru doğuruyor:

Bir metnin anlamlı olması için arkasında onu yazan bilinçli bir öznenin bulunması zorunlu mudur?

Bir dil modeli şiir ürettiğinde ortada insanınkine benzeyen bir niyet olmayabilir. Yine de metin okunabilir, yorumlanabilir ve anlamlandırılabilir.

Derridacı açıdan bu verimli bir paradoks: Metnin anlamı, onu üreten öznenin niyetinden bağımsız olarak dolaşıma girebilir.

Dolayısıyla yapay zekâ yalnızca "makineler insan gibi yazabilir mi?" sorusunu değil, daha zor olanını da gündeme getiriyor: Yazmak için bir insan özneye gerçekten ihtiyaç var mı?

Asıl problem zekâ değil, sorumluluk#

Derrida'yı bu tartışmada önemli kılan ikinci kavram sorumluluk.

Bir sistem yanlış bilgi ürettiğinde sorumlu kim? Algoritmayı yazan mühendis mi, modeli geliştiren şirket mi, veriyi sağlayan kurumlar mı, sistemi kullanan gazeteci ya da akademisyen mi? Yoksa sorumluluğun hiç kimse tarafından bütünüyle üstlenilemediği yeni bir alan mı oluşuyor?

Derrida'nın etik ve siyaset felsefesinin önemli bir bölümü, kararın kurallara indirgenemeyeceği düşüncesine dayanır. Gerçek bir karar, önceden belirlenmiş bir yordamın mekanik uygulaması değildir; kuralın yetmediği yerde alınır. Kural yeterse ortada karar değil, hesap vardır.

Buradan çıkan ayrım nettir: Bir algoritma seçenekleri hesaplayabilir. Ama hesaplanabilir olan ile sorumluluk taşıyan karar aynı şey değildir.

Sitemizde bu ay aktardığımız yapay zekâ yazarlığı tartışması da tam bu noktada düğümlendi: Bir derginin yapay zekâ yazarlığını yasaklama gerekçesi metnin kalitesi değil, arkasında sorumluluk taşıyan birinin bulunmasıydı.

Öteki, veriye dönüştüğünde#

Derrida'nın düşüncesinde etik "ben"in kendi dünyasında kurulmaz. Ötekiyle karşılaşma ve ona karşı yükümlülük merkezîdir.

Yapay zekâ sistemleri ise insanları veriye, profile, kategoriye ve istatistiksel örüntüye dönüştürüyor.

Bir insan artık yalnızca bir isim değil: bir tüketici davranışı, bir kredi riski, bir yüz görüntüsü, bir sağlık profili, bir siyasi eğilim kategorisi, bir işe alım puanı.

Derrida'nın çerçevesi burada bir uyarı sunuyor: İnsan, hakkında hesaplama yapılabilen özelliklerinin toplamından ibaret değildir.

Yapay zekânın en büyük felsefi sorunu belki de insanı ne kadar iyi taklit ettiği değil; insanı ne ölçüde hesaplanabilir bir nesneye dönüştürdüğü.

İz ve unutulma hakkı#

Derrida'nın iz kavramı da yeni bir anlam kazanıyor.

İnternette bırakılan her iz — mesajlar, aramalar, fotoğraflar, satın almalar, konum verileri — giderek büyüyen veri kümelerinin parçası hâline geliyor.

Derrida'nın arşiv düşüncesi şunu hatırlatıyor: Bir şeyi kaydetmek onu saklamak değildir. Kaydetmek, aynı zamanda gelecekte nasıl okunacağını belirleyecek koşulları yaratmaktır.

Bu yüzden "unutulma hakkı" yalnızca hukuki bir mesele değil. Aynı zamanda etik bir soru: Bir makinenin hafızasından silinmeyen bir insan gerçekten unutulmuş sayılabilir mi?

Derrida bugün teknolojiye karşı mı çıkardı?#

Bu soruya "evet" ya da "hayır" demek kolay olurdu; ama Derrida'nın düşüncesi böyle bir ikiliğe izin vermiyor.

Derrida teknoloji karşıtı bir filozof olarak okunamaz. Tersine, elektronik iletişimin ve yeni medya teknolojilerinin insan deneyimini nasıl dönüştürdüğü üzerine erken dönemde ciddi biçimde düşündü.

Derridacı yaklaşım ne körü körüne hayranlık ne de romantik bir karşı çıkış olur. Sorduğu soru başkadır: Teknoloji insanın dünyasını nasıl yeniden kuruyor?

Merkezin sarsılması#

Derrida'nın felsefesinin çekirdeğinde, anlamın tek ve değişmez bir merkeze sabitlenmesine yönelik eleştiri bulunur. Yapısöküm, metinlerin ve kurumların varsaydığı karşıtlıkları ve temelleri sorgulayan bir yaklaşımdır.

Yapay zekâ bu sorunu gündelik hayata taşıyor:

Bir metnin yazarı kim? Bir görüntünün üreticisi kim? Bir fikrin kaynağı nerede? Bir kararın sahibi kim?

İnsan ile makine arasındaki sınır bulanıklaştıkça, modern düşüncenin üzerine kurulduğu yazar, özne, özgünlük, niyet ve mülkiyet kavramları yeniden tartışmaya açılıyor.

Sonuç#

Teknoloji dünyasının yaygın yanılgılarından biri, bütün soruların daha iyi modeller ve daha fazla veriyle çözülebileceğini düşünmek.

Oysa bazı sorular teknik değil, felsefi: Anlamak nedir? Hatırlamak nedir? Bir özne olmak ne demektir? Bir karardan sorumlu olmak ne demektir?

Derrida'nın bugün okunmasının nedeni bu sorulara hazır cevap vermesi değil. Önemi, soruların altındaki varsayımları görünür kılmasında.

Belki de mirası tek bir öneride toplanıyor: Teknolojinin bize verdiği cevaplardan önce, teknolojinin hangi soruları sormamızı engellediğine bakmak.

Çünkü yapay zekâ çağının en büyük felsefi problemi, makinelerin insan gibi düşünmeye başlaması olmayabilir. Asıl problem, insanların kendi düşünme biçimlerini makinelerin çalışma biçimine göre yeniden tanımlamaya başlaması olabilir.