Dijital gelecek tasarımları demokrasiyi neden dışarıda bırakıyor?

Teknoloji şirketlerinin gelecek tasavvurlarını dinleyin. Bir örüntü fark edeceksiniz.

Akıllı şehirler, kişiselleştirilmiş sağlık, otonom ulaşım, algoritmik yönetişim, yapay genel zekâ. Vaatler cömert, ayrıntılar teknik.

Ve neredeyse hiçbirinde oy verme yok.

King's College London'dan Rob Gallagher'ın Philosophy & Technology dergisinde mayısta yayımlanan çalışması, bu boşluğun tesadüf olmadığını savunuyor.

Makalenin adı: "Eşikteki Gelecekler: Özerklik ile Otomasyon Arasında."

Ana tez#

Gallagher'ın iddiası doğrudan: Çağdaş dijital gelecek tasavvurları demokratik siyaseti sık sık kenara itiyor — bazen açıkça demokrasi-sonrası gelecekler önerecek noktaya kadar.

Ama bu bir komplo iddiası değil. Yazar, olgunun kaynağını temel bir paradoksta buluyor:

Siyasal ve etik bir ideal olarak özerklik ile teknolojik ve ekonomik bir zorunluluk olarak otomasyon arasındaki kavramsal gerilim.

Özerklik, insanın kendi kuralını kendisinin koyması demektir — Kant'tan bu yana modern ahlak ve siyaset felsefesinin merkezî kavramı.

Otomasyon ise bir işlemin insan müdahalesinden bağımsızlaştırılması demektir. Verimlilik, tam olarak insanın devreden çıkarılmasıyla ölçülür.

İki kavram aynı sözcük ailesinden gelir — autos, kendi — ama zıt yönlere bakar. Birinde kendi kuralını koyan insandır; ötekinde kendi kendine işleyen sistemdir.

Paradoks yeni değil#

Gallagher'ın önemli katkılarından biri, bu gerilimin güncel olmadığını göstermesi.

Paradoks, tesadüfi değil; modernliğin denetim ve akılcılaştırma arayışının içine tarihsel olarak yerleşmiş durumda. On dokuzuncu ve yirminci yüzyıla bakan makale, mecazın toplumsal-teknik tahayyülleri şekillendirmedeki kurucu rolünü öne çıkarıyor.

Bu, felsefi olarak dikkat çekici bir yöntem tercihi. Bir teknolojiyi hangi mecazla anlattığımız, onunla ne yapabileceğimizi belirler.

Beyin bir santral miydi, bir bilgisayar mı? Toplum bir organizma mı, bir makine mi? Yapay zekâ bir araç mı, bir fail mi?

Bu mecazlar betimleyici değildir; kurucudurlar. Sitemizde bu ay ele aldığımız Pocock'un "siyasal diller" kavramıyla aynı mantık: Bir şeyi anlatma biçimi, onun hakkında ne söylenebileceğini sınırlar.

Bugünkü söylemler#

Makale, günümüze gelince üç söylem kümesini inceliyor: veri-leştirme (datafication), akıllılık (smartness) ve yapay zekâ.

Bulgusu keskin: Bu söylemler kendilerini olumsallığa açık olarak sunuyor — gelecek belirsizdir, olasılıklar sonsuzdur, teknoloji yolu açar. Ama fiilen bizi, demokratik katılım yerine finansal spekülasyonu ayrıcalıklı kılan paradigmalara kilitliyorlar.

Mekanizma şöyle işliyor. Bir gelecek tasavvuru yatırım çeker; yatırım altyapı kurar; altyapı kurulduğunda alternatifler pahalılaşır; pahalı hâle gelen alternatif tartışma konusu olmaktan çıkar.

Böylece "açık" görünen gelecek, aslında sermaye tarafından önceden daraltılmış olur. Kararı veren bir meclis değil, bir yatırım turudur.

İki paradigmaya birden karşı#

Makalenin en özgün hamlesi sonuçta.

Gallagher, dijital geçmişi, bugünü ve geleceği incelemenin bize iki ayrı şeye karşı temkinli olmayı öğrettiğini savunuyor.

Birincisi: Akılcı bireycilik üzerine kurulu hümanist söylemler. Yani "özerk birey kendi kararını verir" anlatısı — ki bu, insanın ne kadar kurumlara, dile, altyapıya bağımlı olduğunu gizler.

İkincisi: Failliği giderek daha fazla devretmemizin beklendiği akıllı sistemler ve makine öğrenmesi modelleri.

Bu çifte reddin önemi büyük. Çünkü teknoloji tartışması genellikle bu iki kutup arasında sıkışır: Ya "insanı merkeze koyalım" denir, ya da "sistem daha iyi karar verir".

Gallagher her ikisini de yetersiz buluyor ve üçüncü bir yol öneriyor: bedenlenmiş kolektif zekâya dayanan, iç içe geçmişliği (entanglement) kabul eden ve alternatif tahayyüllere alan açan gelecek kurma biçimleri.

"İnsan-sonrası" ne demek, ne demek değil?#

Bu noktada bir ayrım gerekiyor.

Posthümanizm, "insan artık olmayacak" demek değildir. Sorusu şudur: İnsan kavramını neden bugünkü biçimiyle kabul ediyoruz?

Donna Haraway'in sibernetik organizma tartışmalarından Rosi Braidotti'nin posthümanist felsefesine uzanan gelenek, insanı diğer varlıklardan kesin biçimde ayıran sınırları sorguladı.

Yapay zekâ bu tartışmayı somutlaştırıyor. Hafızası telefonunda, bilgisi bulutta, kararları algoritmik önerilerle biçimlenen ve iletişimi yapay zekâ aracılığıyla gerçekleşen bir insanın "tek başına" bir özne olduğunu söylemek giderek zorlaşıyor.

Ama Gallagher'ın çalışması buradan kolay bir sonuca varmayı reddediyor. İnsanın sınırlarının bulanıklaşması, otomatik olarak makinelere yetki devretmeyi haklı çıkarmaz. Tersine: Failliğin dağılmış olduğu bir dünyada, sorumluluğun nasıl dağıtılacağı daha da acil bir siyasal sorudur.

Türkiye'den bakınca#

Bu tartışmanın Türkiye'deki karşılığı çoğunlukla teknik ve düzenleyici düzlemde yürüyor: veri koruma, yapay zekâ mevzuatı, dijital dönüşüm.

Oysa Gallagher'ın işaret ettiği soru düzenleyici değil, kurucu: Bir teknoloji hakkında karar alınırken, o kararı kim, hangi mecazlarla ve hangi zeminde alıyor?

Bu köşede bugün ele aldığımız Judith Butler'ın demokrasi eleştirisi ile bu çalışma aynı noktada buluşuyor — farklı yollardan. Butler, demokrasinin hiç tam gerçekleşmediğini söylüyor. Gallagher, dijital geleceğin onu gerçekleştirmeyi daha da zorlaştıracak biçimde tasarlandığını.

İkisi de aynı uyarıyı veriyor: Bir düzenin kaçınılmaz görünmesi, kaçınılmaz olduğu anlamına gelmez.