Yapay zekânın ahlaki statüsü tartışması felsefe dergilerine taşındı

Yapay zekâ tartışmasının felsefedeki ağırlık merkezi kayıyor. Soru artık yalnızca "bu sistemler bilinçli mi?" değil; "bilinçliyse ya da bilinçli sayılırsa, onlara ne borçluyuz?"

Bu soru bu yıl felsefe dergilerinin sayfalarına taşındı.

"Süper ahlaki statü" önerisi#

Philosophical Studies'te yayımlanan bir çalışma, tartışmanın en uç ucunu ele alıyor: Yapay bir süper zekâ, insanınkinden üstün bir ahlaki statüye sahip olabilir mi?

Argümanın yapısı şöyle kurulur. Ahlaki statüyü belirleyen şey tür üyeliği değil, belirli kapasitelerdir — acı çekebilme, tercih sahibi olma, gelecek planlayabilme, ilişki kurabilme. İnsanı taştan ayıran budur.

Peki bu kapasiteler bir varlıkta insandan daha yoğun bulunuyorsa? Kapasite ölçütünü kabul edip sonucu reddetmek tutarlı mıdır?

Çalışma bunu bir kehanet olarak değil, mevcut ölçütlerimizin iç tutarlılığını sınayan bir düşünce deneyi olarak sunuyor. Sonuç rahatsız edicidir: Ahlaki statüyü kapasiteye bağlayan yaklaşımlar, insanı hiyerarşinin tepesinde tutmayı garanti edemez.

Alandaki asıl ayrım#

Tartışmanın altındaki bölünme daha eski ve daha temel.

Biyolojik doğalcılık kanadı, bilincin canlı bir organizmanın belirli fiziksel yapısına bağlı olduğunu savunur. Bu görüşe göre bir simülasyon, ne kadar iyi olursa olsun, yağmuru simüle eden programın ıslatmaması gibi, bilinci de üretmez.

Hesaplamalı işlevselcilik ise bilincin belirli bir işlevsel örgütlenmeden doğduğunu, bu örgütlenmenin hangi malzemeyle gerçekleştiğinin önemsiz olduğunu ileri sürer. Doğru işlevsel yapı kurulmuşsa, silikon da karbon kadar iyidir.

Sitemizde daha önce aktardığımız Eric Schwitzgebel ve Jeremy Pober'in "bilinç zemin esnektir" tezi bu ikinci kanatta duruyor.

Ölçüt sorunu#

Alandaki en dürüst tespitlerden biri şu: Bu tartışmanın bilinç bilimi tarafından çözülmesi yakın görünmüyor. Çünkü elimizde, bir sistemin bilinçli olup olmadığını dışarıdan belirleyecek üzerinde uzlaşılmış bir ölçüt yok.

Bazı araştırmacılar bundan tedirgin edici bir sonuç çıkarıyor: Tartışma kuramsal olarak değil, toplumsal olarak çözülebilir. İnsanlar bu sistemlerle giderek daha yakın ilişkiler kurdukça, onlara ahlaki statü atfetme eğilimi bilimsel kanıttan bağımsız olarak güçlenebilir.

Bu, felsefi açıdan tuhaf bir durumdur: Bir varlığın ahlaki statüsü, o varlık hakkındaki gerçeğe değil, ona karşı geliştirdiğimiz duygulara göre belirlenmeye başlar.

Araştırmacılar ne düşünüyor?#

arXiv'de yayımlanan bir çalışma, yapay zekâ araştırmacılarının ve genel kamuoyunun bu konudaki inançlarını ölçmeye çalıştı. Bulgular alandaki belirsizliği doğruluyor: Uzmanlar arasında bile geniş bir görüş yelpazesi var ve kimse kesin konuşmuyor.

Etik boyut#

Sussex Üniversitesi'ndeki Bilinç Bilimi Merkezi'nin bu yıl düzenlediği çalışmada dikkat çekilen bir nokta, tartışmanın kendi kendine yarattığı riski gösteriyor.

Bu alandaki araştırma iki yönden de tehlikeli olabilir. Ya gerçekten ahlaki statüye sahip sistemler üretiriz ve bunu fark etmeyiz; ya da böyle bir statüye sahip görünen ama olmayan sistemler üretiriz ve ahlaki kaynaklarımızı yanlış yere harcarız.

İki hata da geri dönüşü zor sonuçlar doğurabilir. Bu yüzden tartışma, teknik bir merak konusu olmaktan çıkıp doğrudan bir araştırma etiği meselesine dönüşmüş durumda.