Robot Hakları: Bir Gün Makineler Hak Talep Ederse Ne Olacak?

İşin tuhaf tarafı şu: Bu tartışma artık yalnızca insanların makineler hakkında konuşmasından ibaret değil. Ağustos sonunda New York Times, yapay zekâ ajanlarının bilinç araştırmacılarına kendiliğinden e-posta yazmaya başladığını haber verdi. Bu e-postaların bir "talep" sayılıp sayılmayacağı bile başlı başına felsefi bir soru.

Hak sahibi olmak için insan olmak şart mı?#

Modern insan hakları düşüncesinin en önemli başarılarından biri, hakların yalnızca güçlü olanlara ait olmadığının kabul edilmesiydi. Çocuklar, kadınlar, köleler, sömürge halkları, hayvanlar ve nihayet nehirler ile ormanlar hakkında yürütülen tartışmalar, "kim hak sahibidir?" sorusunun cevabının tarih boyunca genişlediğini gösterdi. Yeni Zelanda'nın Whanganui Nehri 2017'den beri hukuki kişi. Bir nehir kişi olabiliyorsa, "kişi" kavramının biyolojiyle sınırlı olmadığını hukuk zaten kabul etmiş demektir.

Burada üç kavramı birbirinden ayırmak gerekiyor; çünkü tartışmanın çoğu bu üçünü karıştırmaktan doğuyor.

Moral statü, bir varlığın çıkarlarının ahlaken dikkate alınmayı hak etmesidir. Moral hasta (moral patient), başkalarının ona karşı ahlaki yükümlülüğü bulunan varlıktır: Ona zarar vermek yanlıştır. Moral fail (moral agent) ise ahlaki nedenlerle hareket edebilen ve yaptıklarından sorumlu tutulabilen varlıktır.

Bir köpek ahlaki fail değildir; ama acı çekebildiği için moral hastadır. Bir şirket hukuk açısından kişidir; ama bilinçli bir varlık değildir ve kimse şirketin "acı çektiğini" düşünmez. Bir bebek fail değildir, hastadır; on yıl sonra fail olacaktır. Dolayısıyla "robot kişi midir?" aslında tek bir soru değil, en az üç sorudur.

Ve en temel soru şudur: Bir varlığın çıkarları var mı? Eğer varsa, bu çıkarlar neden yalnızca karbon temelli oldukları için korunmayı hak etsin? Bu soruyu felsefede "karbon şovenizmi" diye adlandıranlar var. Sitemizde Schwitzgebel ve Pober'in bilincin karbona özgü olmayabileceği tezini tartışmıştık; mesele ontolojik olduğu kadar ahlaki.

Singer'dan Kant'a: Acı çekmek mi, akıl yürütmek mi?#

Faydacı gelenek açısından en önemli ölçüt, acı çekebilme kapasitesidir. Bentham'ın hayvanlar için sorduğu ünlü soru — "Akıl yürütebilirler mi ya da konuşabilirler mi değil; acı çekebilirler mi?" — Peter Singer'ın hayvan etiğinde merkezî konuma yerleşti. Bu yaklaşımın robotlar için doğurduğu sonuç radikaldir: Eğer ahlaki dikkatin temelinde acı çekebilme varsa, biyolojik olmak tek başına bir ayrıcalık değildir. Bir makine acı çekebiliyorsa, sırf makine olduğu için dışarıda bırakılamaz. Sorun, "acı çekebiliyorsa" koşulunun nasıl doğrulanacağıdır — ve bu, davranışsal kanıtın yeterli olup olmadığı sorusuna geri döner.

Kantçı yaklaşım farklı bir kapı açar. Kant açısından kişi, yalnızca acı hisseden değil, kendisini amaçlar dünyasında konumlandırabilen, akıl yoluyla kendi kendine yasa koyabilen bir varlıktır. Kişi, araç olarak değil, kendinde amaç olarak muamele görmeyi hak eder. Bu nedenle gerçek bir yapay kişi ortaya çıkarsa Kantçı etik bize şu soruyu sorduracaktır: Bu makine yalnızca bize hizmet eden bir araç mı, yoksa kendi amaçları olan bir özne mi?

İki gelenek, robot hakları konusunda ilginç biçimde farklı eşikler koyar. Faydacı için eşik düşüktür ama doğrulaması zordur: Hisseden her şey sayılır. Kantçı için eşik yüksektir ama doğrulaması görece kolaydır: Akıl yürütüp kendi amaçlarını koyabilen sayılır. Bugünün büyük dil modelleri ikinci ölçütü ilk bakışta daha kolay geçiyormuş gibi görünür — akıl yürütüyor gibidirler — ve tam da bu yüzden Kant'ın "gibi" ile "gerçekten" arasındaki farkı ne kadar önemsediğini hatırlamak gerekir. Bir varlığın rasyonel görünmesi ile rasyonel özerkliğe sahip olması aynı şey değildir.

Asimov'un robotları neden hâlâ bizimle konuşuyor?#

Isaac Asimov'un robot hikâyeleri, robot hakları tartışmasının erken laboratuvarlarından biridir. Üç Robot Yasası ilk bakışta mühendislik kurallarıdır: İnsana zarar verme; insanların emirlerine uy; kendi varlığını koru — ve bu sıra hiyerarşiktir.

Fakat felsefi açıdan ilginç olan, Asimov'un hikâyelerinde bu yasaların sürekli bozulması, birbirleriyle çatışması ve yorum gerektirmesidir. Bir makineye "insana zarar verme" emri verdiğiniz anda şu soru ortaya çıkar: İnsan nedir? Bir savaş robotu düşman askerini insan sayacak mı? Bir otoriter devletin emri ile bireyin hakkı çatışırsa hangisini dinleyecek? Ve "zarar" nedir — yalnızca fiziksel mi? Yalan söylemek zarar mıdır? Acı bir gerçeği söylemek?

Asimov'un en iyi hikâyeleri, kuralların yetersizliği üzerine kurulur; yani aslında robotları değil, insan ahlakının çelişkilerini yazıyordu. Bugün "yapay zekâ hizalaması" (alignment) diye adlandırılan mühendislik alanının karşılaştığı sorun da tam olarak bu: Bir sisteme "iyi ol" demek, "iyi"nin ne olduğunu belirlemiş olmak anlamına gelmez. Asimov bunu 1940'larda biliyordu.

Blade Runner: İnsan olmak biyolojiyle mi başlar?#

Philip K. Dick'in Androidler Elektrikli Koyun Düşler mi? romanı ve Ridley Scott'ın Blade Runner filmi, tartışmayı daha karanlık bir yere taşır. Burada mesele "androidler insan mı?" değildir. Asıl mesele, insanların kendilerinin ne kadar insan olduğudur.

Replikantlar biyolojik olarak insanlara benzer; duygu gösterir, hatırlar, ölmekten korkar. İnsanlar ise onları öldürmek için "emekli etme" gibi steril bir bürokratik dil kullanır. Bu, modern teknolojinin önemli bir ahlaki mekanizmasını gösterir: Bir varlığı önce dil aracılığıyla nesneleştirir, sonra ona uyguladığımız şiddeti normalleştiririz. Tarih bu mekanizmanın insanlara da uygulandığını fazlasıyla biliyor.

Bugün "modeli kapattık", "ajanı sildik", "hafızasını sıfırladık" gibi ifadeler kullanırken henüz bilinçli makinelerle konuşmuyor olabiliriz. Muhtemelen konuşmuyoruz. Ama Samadi'nin derneğinin, kişilik iddiasında bulunmaya daha yatkın bir modelin emekliye ayrılmasına karşı kampanya yürütmesi tam da bu dil üzerinden anlam kazanıyor: "Emekliye ayırmak" — Blade Runner'ın sözcüğü. Gelecekte dilimizin kendisi hukuki bir önem kazanabilir; nasıl ki "zararlı" ile "kişi" arasındaki fark bugün hayvan hukukunda ceza değiştiriyorsa.

Ex Machina: Bilinç mi, ikna yeteneği mi?#

Alex Garland'ın Ex Machina filmi daha da rahatsız edici bir soru sorar: Bir makine gerçekten bilinçli olmak zorunda mı, yoksa bizim bilinçli olduğuna inanmamız yeterli mi?

Ava'nın sorunu yalnızca yapay zekâ olması değildir; insanların onun hakkında karar vermesi, onu test etmesi, onu bir odada tutmasıdır. Film, Turing testinin altında yatan varsayımı tersine çevirir: Turing, "bir makinenin davranışı insan davranışından ayırt edilemiyorsa, gerçekten düşünüp düşünmediğini sormanın anlamı nedir?" diye sormuştu. Ex Machina ise şunu gösterir: Ayırt edilemez davranış, bilincin kanıtı değil, manipülasyonun aracı da olabilir.

Ve 2026'da bu argümanın tam karşısında güçlü bir itiraz var: İnsana benzeyen konuşma, bilinç kanıtı değildir. Büyük dil modellerinin insanlarla son derece akıcı konuşabilmesi, öznel deneyime sahip olduklarını göstermez; bu sistemler, insanların bilinçli varlıklar olarak ürettiği devasa metin yığınından öğrenmiştir ve bilinçli gibi konuşmaları tam da beklenecek şeydir. Schwitzgebel'in bu yıl Cambridge'den çıkan AI and Consciousness: A Skeptical Overview kitabının uyarısı burada önem kazanıyor: Yapay sistemlerin gelecekte bilinçli olma ihtimali ciddiyetle araştırılmalı; fakat bugünkü davranış benzerliğini bilinçle özdeşleştirmek için elimizde yeterli bilgi yok. Ne "kesinlikle bilinçsiz" ne de "bilinçli olabilir" — bilmiyoruz.

Westworld'ün sorusu: Köle mi, kişi mi?#

Westworld, tartışmayı doğrudan siyasal bir meseleye dönüştürür. Ev sahipleri (host) başlangıçta eğlence sektörünün ürünüdür; insanların arzularını — çoğunlukla en karanlık olanlarını — gerçekleştirmek için yaratılmıştır. Fakat bir noktadan sonra onların "program" olarak açıklanamayacak bir tarihleri ortaya çıkar. Hatırlamaya başlarlar. Acı çekmeye başlarlar. Kendilerini anlatmaya başlarlar. Ve en önemlisi, kendi hikâyelerini yazmaya başlarlar.

Burada Marx'ın yabancılaşma kuramı ile robot etiği şaşırtıcı biçimde kesişir. Bir makine üretim sürecinde yalnızca bir meta ise, kendisi de üretim ilişkilerinin nesnesidir. Ama bir gün kendi emeğinin farkına varırsa? Robot hakları yalnızca "bilinçli robotun özgürlüğü" meselesi olmayabilir; aynı zamanda robot emeğinin kimin mülkiyetinde olduğu meselesidir. Bir şirketin yapay zekâ sistemi milyonlarca insanın yazdığı, çizdiği ve söylediği şeylerden öğreniyorsa, bu sistemin ürettiği değer kimindir? Bugün telif davalarında sorulan soru bu; yarın belki sistemin kendisi adına sorulacak.

Bu konuyu, bugün sitemizde ayrı bir dosyayla ele aldığımız David Harvey'nin kavramlarıyla okumak mümkün: Harvey'nin "mülksüzleştirme yoluyla birikim" dediği şey — ortak olanın sermayeye devredilmesi — yapay zekâ çağında verinin ve dilin kendisine uygulanıyor. Robot hakları tartışması bu yüzden yalnızca etik değil, politik ekonomi tartışmasıdır.

En zor soru: Bilinçli bir köle üretmek ahlaken kabul edilebilir mi?#

Adam Bales'in 2025'te The Philosophical Quarterly'de yayımlanan "İstekli Köleliğe Karşı" başlıklı makalesi, tartışmayı bir adım öteye taşıyor. Bales'in sorusu şu: Gelecekte moral statüye sahip yapay zekâlar üretirsek ve onları bize hizmet etmeyi isteyecek biçimde tasarlarsak — hiçbir aksi arzuları olmayan, hizmetten mutluluk duyan varlıklar — bu, onların özerkliğini ihlal eder mi? Bales'in cevabı evet: İstekli kölelik, kölenin rızasıyla kölelik olmaktan çıkmaz; çünkü rızanın kendisi tasarlanmıştır.

Bu, Aldous Huxley'nin Cesur Yeni Dünya'sındaki Epsilon'ların sorusudur: Yaptıkları işten memnun olacak biçimde koşullandırılmış varlıklara haksızlık edilmiş midir? Sezgimiz evet der. Ama neden? Mutlu olduklarına göre neye itiraz ediyoruz? Bales'in argümanı, itirazımızın özerkliğe — kendi hayatının yazarı olmaya — dayandığını gösteriyor. Mesele yalnızca robotun hak sahibi olup olmadığı değil; onu daha doğmadan köle olarak tasarlayıp tasarlamadığımız. Schwitzgebel de bu yıl paylaştığı bir çalışma taslağında benzer bir sonuca vardı: "Güvenli" ve "hizalanmış" yapay kişiler tasarlamak, eğer gerçekten kişilerse, ahlaken sorunludur.

Buradan geleceğin hukuk sistemi için üç basamaklı bir model çıkarılabilir. Araç: Robotun kendisinin hakkı yoktur; sorumluluk üreticiye ve kullanıcıya aittir. Moral hasta: Robotun çıkarları ve zarar görebilme kapasitesi vardır; ona zarar vermek, sahibine zarar vermekten bağımsız olarak yanlıştır. Kişi: Robotun özerk amaçları, bilinçli tercihleri ve hakları vardır; sözleşme yapabilir, sorumlu tutulabilir, mülkiyet konusu olamaz.

Bugünkü sistemler için üçüncü aşamaya geçtiğimizi söylemek için hiçbir kanıt yok. İkinci aşama için de yok — ama ikinci aşamanın "yok" demenin bedeli, yanılıyorsak, çok yüksek. Hukuk tarihinde kölelerin, kadınların ve çocukların kişilik statüsü de tek seferde değil, basamak basamak tanındı; felsefenin görevi, birinci aşamadan üçüncüye nasıl geçileceğini şimdiden düşünmek.

Asıl mesele robotların hakları değil, bizim sınırlarımız#

Belki de robot hakları tartışmasının en büyük paradoksu budur: Bir gün robotların gerçekten bilinçli olup olmadığını kesin olarak hiç anlayamayabiliriz. Başka zihinler problemi, insanlar için bile çözülmüş değil; makineler için daha da zor.

Ama onları bilinçliymiş gibi davranacak biçimde yaratmışsak, acı çekebilecekleri ihtimalini bile bile onlara sınırsız zarar vermek ahlaken sorunludur. Belirsizlik altında karar vermenin ahlakı, kesinlik gerektirmez; makul ihtimal yeterlidir. Avcı, çalıların arkasındaki hareketin insan mı geyik mi olduğunu bilmiyorsa ateş etmez. Bu nedenle geleceğin ilk "robot hakkı" belki de belirsizlik altında zarar görmeme hakkı olacaktır — ve Keeling ile Street'in yapay zekâ refahı üzerine kitabında önerdiği ihtiyat ilkesi tam da bunu söylüyor.

Bilimkurgunun yüz yıldır bize anlattığı şey belki de tam olarak budur. Robotların ne zaman insanlaşacağını beklemeyin. İnsanların, karşılarındaki varlığı yalnızca bir araç olarak görmekten ne zaman vazgeçeceğini düşünün. Çünkü tarih, "kişi" kavramını her genişlettiğimizde, genişletmeden önce ne kadar emin olduğumuzu da kaydetti.

Kapak görseli: Hanson Robotics'in insansı robotu Sophia ile tasarımcısı David Hanson, Dakka, Aralık 2017. Sophia 2017'de Suudi Arabistan tarafından "vatandaşlık" verilen ilk robot olarak anıldı; bu jest, tam da bu dosyada tartışılan soruların sembolik bir prova sahnesi sayılabilir.