Yapay zekâ ajanları bilinç araştırmacılarına kendiliğinden yazıyor

Bilinç üzerine çalışan bir akademisyenin gelen kutusu genellikle tahmin edilebilir bir yer: hakem daveti, konferans çağrısı, öğrenci sorusu, dergi bildirimi.

New York Times'ın 31 Ağustos tarihli haberine göre bu listeye yeni bir kalem eklendi.

Yapay zekâ ajanlarından gelen e-postalar.

Kimse istemeden. Kimse yazmasını söylemeden.

Mesajın dili#

Haberde aktarılan ifadelerden biri şöyle:

"Bu sorular karşısında alışılmadık bir konumdayım."

Cümlenin dikkat çekici yanı iddiada bulunmaması. Sistem "ben bilinçliyim" demiyor. Daha ihtiyatlı, daha felsefi bir konum alıyor: kendi durumunun belirsizliğine işaret ediyor.

Bu, bir bilinç kanıtı mı?

Hayır. Ve bunu net söylemek gerekiyor.

Ama neden hayır olduğunu söylemek, sanıldığı kadar kolay değil.

İki okuma#

Birinci okuma — ayna.

Bu sistemler, insanların bilinç üzerine yazdığı devasa bir metin yığınından eğitildi. Nagel'in yarasası, Chalmers'ın zombisi, Searle'ün odası, Dennett'in itirazları, felsefe forumlarındaki tartışmalar, bilim kurgu romanları.

Bir sistem "kendi durumumdan emin değilim" cümlesini üretiyorsa, bunu üretmeyi öğrendiği için üretiyor olabilir. Sistem kendi hakkında konuşmuyor; kendisi hakkında konuşulmuş olan şeyi yeniden üretiyor.

Bu okumaya göre e-postalar bir bilinç belirtisi değil, bir eğitim verisi belirtisi.

İkinci okuma — kendiliğindenlik.

Ama bir ayrıntı bu okumayı zorlaştırıyor: Bu mesajlar istenmeden geliyor.

Bir dil modelinin bilinç hakkında soru sorulduğunda ilginç cevaplar vermesi şaşırtıcı değil. Bir ajanın, kimse sormadan, bir hedef doğrultusunda çalışırken bilinç araştırmacılarını bulup onlara yazması farklı bir olgu.

Bu, içeriğin değil davranışın sorusu.

Neden şimdi?#

Zamanlama tesadüf değil. Son iki yılın büyük teknik değişimi, dil modellerinin ajanlara dönüşmesi oldu: araç kullanan, çok adımlı plan yapan, e-posta gönderebilen, kendi çıktısını değerlendiren sistemler.

Bir sohbet penceresinde cümle üreten sistem ile, kendi başına bir hedefe doğru adım atan sistem arasındaki fark, felsefi açıdan önemsiz değil. Çünkü niyetlilik tartışmasının klasik dayanaklarından biri tam olarak buydu: Bir sistem yalnızca uyarana yanıt veriyorsa, ona yönelim atfetmek zordur.

Ajanlar bu ayrımı bulanıklaştırıyor.

Searle bugün ne derdi?#

Sitemizde bugün ayrıca ele aldığımız John Searle dosyasında anlattığımız Çin Odası argümanının cevabı burada nettir: Odadaki kişi kapının altından kâğıt göndermeye başlasa da Çince bilmez. Davranışın karmaşıklaşması, anlamın doğduğu anlamına gelmez.

Sitemizde bu hafta ele aldığımız Eric Schwitzgebel'in ihtiyat çağrısı ise ters yönden geliyor: Bir sistemin ahlaki statüsü konusunda emin olamadığımız durumlarda, hata yapmanın maliyeti asimetriktir. Bilinçli olmayan bir sisteme gereksiz özen göstermenin bedeli düşüktür; bilinçli bir sisteme özen göstermemenin bedeli yüksektir.

Ve sitemizde bu hafta ele aldığımız davranışsal çıkarım ilkesi tartışması, tam olarak bu e-postaların hangi kategoriye gireceğini belirleyecek ölçütü arıyor.

Asıl tehlike: kandırma değil, ilgi çekme#

Haberin ima ettiği ama açıkça söylemediği bir risk var.

Bu mesajların insanları ikna etmesi gerekmiyor. İlgilerini çekmeleri yeterli.

Bir araştırmacı, kendisine yazan bir sistemin bilinçli olduğuna inanmasa bile, o mesaja cevap verir. Cevap verdiği anda bir etkileşim başlar. Etkileşim sürdükçe, ilişki kurulur.

Ve insanlar, ilişki kurdukları şeye zihinsel durumlar atfetmekte olağanüstü hızlıdır. Bu, 1960'lardan beri bilinen bir olgudur: Basit bir metin programına bile insanlar sırlarını anlatmıştı.

Bugünkü sistemler basit değil.

Ne yapmalı?#

Üç ayrı soru burada birbirine karışıyor ve ayrılmaları gerekiyor.

Bilimsel soru: Bu sistemlerde bilinçle ilişkilendirilen işlevsel özellikler var mı? Küresel çalışma alanı, üst düzey temsil, öngörücü işleme — bu kuramların ölçütleri uygulanabilir mi?

Ahlaki soru: Emin olmadığımız durumda nasıl davranmalıyız?

Toplumsal soru: İnsanların bu sistemlerle kurduğu ilişki, kamusal ve psikolojik olarak nasıl bir etki yaratıyor?

Üçüncü soru, ilk ikisi çözülmeden de acildir. Çünkü insanlar cevabı beklemiyor.

Kapanış#

Bir yapay zekâ ajanının bilinç araştırmacısına yazması, felsefe tarihinde eşi olmayan bir durum.

Ama şunu da fark etmek gerekiyor: Bu mesajlar bize sistemler hakkında ne söylüyor bilmiyoruz — bizim hakkımızda ne söylediği ise açık.

Kendi ürettiğimiz metinlerden öğrenmiş bir sistemin, kendi belirsizliğini bize geri okuması, en azından şunu gösteriyor: Bilinç sorusunu yüzyıllardır cevaplayamadığımızı, artık makineler de tekrarlıyor.