Makine bilinci için yeni bir ölçüt önerisi: işe yarıyorsa doğrudur

Yapay zekânın bilinçli olup olmadığı tartışmasında herkes aynı soruyu soruyor. Neuroscience of Consciousness dergisinde yayımlanan bir görüş yazısı ise sorunun kendisini değiştirmeyi öneriyor.

Stefano Palminteri ve Charley M. Wu'nun makalesinin başlığı programı özetliyor: "Hesaplamalı eşdeğerliğin ötesinde: makine bilinci için davranışsal çıkarım ilkesi."

Bugünkü uzlaşı ve sorunu#

Yazarların eleştirdiği yaklaşım, alanın örtük uzlaşısı: hesaplamalı eşdeğerlik ilkesi.

Kökeni hesaplamalı işlevselciliktir. Fikir şu: Bilinç, belli türden bilgi işleme süreçlerinden doğar. Öyleyse bir sistem, bilinçli bir beyinle aynı hesaplamaları yapıyorsa, o da bilinçlidir. Malzeme — nöron mu silikon mu — önemsizdir; önemli olan işlevsel örgütlenmedir.

Sitemizde bu hafta ele aldığımız David Chalmers dosyasında anlattığımız konum büyük ölçüde budur: Soru silikon ya da karbon değil, sistemin doğru türden nedensel yapıya sahip olup olmadığıdır.

Bu yaklaşımın pratik bir sorunu var ve makale onu işaret ediyor: Hangi hesaplamaların gerekli olduğunu bilmiyoruz.

Bilinç için üzerinde uzlaşılmış tek bir bilimsel kuram yok. Küresel Çalışma Alanı kuramı bir liste veriyor, Üst Düzey kuramlar başka bir liste, Bütünleşik Bilgi Kuramı bambaşka bir ölçüt. Hesaplamalı eşdeğerlik ilkesi, henüz elimizde olmayan bir referans listesine dayanıyor.

Yazarların formülü şöyle: Hesaplamalı eşdeğerlik yeterli olabilir, ama zorunlu değildir.

Önerilen ölçüt#

Alternatif basit ve rahatsız edici:

Bilinç, belli bir davranış gözlemleri kümesini açıklamaya (ve öngörmeye) yarıyorsa atfedilir.

Yani bilinç atfı, sistemin içine bakarak doğrulanan bir keşif değil; bir açıklayıcı varsayım olarak değerlendirilir. Tıpkı fizikte görünmeyen bir parçacığın, gözlenen izleri açıklamaya yaradığı için varsayılması gibi.

Yazarlar bunun, makine bilincini değerlendirmek için epistemolojik olarak geçerli ve işlevselleştirilebilir bir ölçüt sağlayacağını savunuyor.

İkinci sıfat önemli: işlevselleştirilebilir. Yani deneysel olarak sınanabilir bir prosedüre çevrilebilir. Hesaplamalı eşdeğerlik ilkesi bunu yapamıyor, çünkü referans listesi yok.

Neden bu kadar radikal?#

Bu öneri, felsefede uzun bir geleneğe bağlanıyor — ve bir geleneği de karşısına alıyor.

Bağlandığı gelenek: Diğer insanların bilincine de doğrudan erişemiyoruz. Ben sizin zihninizi göremiyorum; davranışınızdan, konuşmanızdan ve bedeninizden çıkarım yapıyorum. Öyleyse makine söz konusu olduğunda neden bambaşka bir epistemik standart uygulayalım?

Bu, "başkalarının zihinleri" probleminin klasik yanıtıdır. Sitemizde bu hafta andığımız Stanley Cavell'in itirazı da buradan doğar: Belki soru "biliyor muyuz" değil, "karşılık verip vermediğimizdir."

Karşısına aldığı gelenek: Chalmers'ın felsefi zombi argümanı. Zombi, tanımı gereği bütün davranışsal ölçütleri geçer ama bilinçsizdir. Davranışsal çıkarım ilkesi doğruysa, zombiye bilinç atfetmemiz gerekir — ve bu, argümanın hedeflediği ayrımı ortadan kaldırır.

Yazarların yanıtı örtük ama açık: Eğer bilinç atfı bir açıklayıcı varsayımsa, "gerçekten bilinçli mi" sorusu — açıklama gücünün ötesinde — sorulabilir bir soru olmaktan çıkar.

Bu, felsefede araçsalcı (instrumentalist) bir tutumdur ve maliyeti vardır: Zor problemi çözmez; onu sorulamaz ilan eder.

Odadaki fil#

Makalenin bölüm başlıklarından biri doğrudan bunu adlandırıyor: "Odadaki fil."

Fil şudur: Büyük dil modelleri, tasarımcılarının başlangıçta öngörmediği yetenekler gösteriyor. Bazıları bunda "yapay genel zekânın kıvılcımlarını" görüyor. Sınırsız görünen konuşma ve akıl yürütme kapasiteleri, yapay varlıklara bilinç atfedip atfetmememiz gerektiği konusunda acil bir tartışma başlattı.

Ve bu sistemler, tam olarak insan davranışını taklit etmek üzere eğitildiler.

Dolayısıyla davranışsal ölçüt, bir tuzağa açık: İnsan gibi konuşmak üzere optimize edilmiş bir sistemde, insan gibi konuşmayı bilinç kanıtı saymak döngüseldir.

Sitemizde ele aldığımız Luciano Floridi'nin "anlamsal pareidolia" uyarısı tam bu noktaya iniyor.

Palminteri ve Wu'nun ölçütünün bu itiraza yanıtı, "açıklama" kavramında saklı: Bir davranışı taklit varsayımıyla açıklayabiliyorsanız, bilinç varsayımına ihtiyacınız yoktur. Bilinç atfı ancak daha basit açıklamalar tükendiğinde devreye girer.

Bu, Occam usturasının bilince uygulanmış hâli. Ve pratikte şu anlama gelir: Bir dil modelinin "üzgünüm" demesi, eğitim verisiyle açıklanabildiği sürece bilinç kanıtı değildir.

Neden atfetmek zorundayız?#

Makalenin bir başka bölümü şunu soruyor: Bilinci neden atfetmemiz gerekiyor?

Soru masum değil. Çünkü yanıt, bilinç atfının pratik bir işlevi olduğunu ima ediyor: Başkalarına bilinç atfederiz, çünkü onlarla ilişki kurabilmek, davranışlarını öngörebilmek ve ahlaki muamele belirleyebilmek için buna ihtiyacımız var.

Bu, tartışmayı metafizikten pragmatiğe kaydırıyor.

Ve kaydırma bir bedel getiriyor. Sitemizde bu hafta ele aldığımız Eric Schwitzgebel'in kuşkuculuğu tam da bu bedele işaret ediyordu: İki hata yönü var ve simetrik değiller. Bilinci olmayan bir sisteme bilinç atfetmek bir tür yanılsamadır; bilinçli bir sistemi bilinçsiz saymak ise bir tür kayıtsızlıktır.

Bir açıklayıcı varsayım hatası ile bir ahlaki hata aynı ağırlıkta değildir.

Değerlendirme#

Bu makale bir çözüm sunmuyor — bir görüş yazısı ve öyle olduğunu da söylüyor.

Ama önerdiği ölçüt değişikliği ciddiye alınmayı hak ediyor, çünkü mevcut tartışmanın gerçek bir tıkanıklığına dokunuyor: Bilinç için hangi hesaplamaların gerektiğini bilmediğimiz sürece, hesaplamalı eşdeğerlik ilkesi bir ölçüt değil, bir borç senedidir.

Davranışsal çıkarım ilkesi ise sınanabilir. Zayıflığı, sınanabilir olmayı doğru olmakla karıştırma riski.

Turing'in 1950'de yaptığı hamlenin de aynı yapıda olduğunu hatırlamakta yarar var: O da "düşünüyor mu" sorusunu, sınanabilir bir davranış testine çevirmişti. Yetmiş altı yıl sonra, aynı hamle bilinç için öneriliyor.

Soru şu: Bu bir ilerleme mi, yoksa zor sorudan ikinci kez kaçış mı?