Makinenin refahı: Cambridge'den yeni bir kitap soruyu erkenden soruyor

Felsefede bir soruyu erken sormanın bedeli vardır: Gülünç görünme riski.

On dokuzuncu yüzyılda hayvanların acı çekip çekmediğini sormak da böyleydi. Bentham'ın "Soru şu değil: akıl yürütebiliyorlar mı? Konuşabiliyorlar mı? Soru şu: acı çekebiliyorlar mı?" cümlesi, yazıldığında bir dipnottu. Bugün hayvan etiğinin kurucu metnidir.

Geoff Keeling ve Winnie Street'in Cambridge Elements dizisinden haziranda çıkan kitabı, aynı riski göze alıyor.

Emerging Questions in AI Welfare — Yapay Zekâ Refahında Beliren Sorular — henüz yanıtı olmayan bir soruyu düzenli biçimde kuruyor: Bir yapay zekâ sisteminin refahı olabilir mi? Olursa, bize ne düşer?

Yazarlar kim?#

Kitabın konumunu anlamak için yazarlara bakmak gerekiyor.

Geoff Keeling, Londra Üniversitesi Felsefe Enstitüsü'nde araştırmacı ve Cambridge Üniversitesi'ndeki Leverhulme Geleceğin Zekâsı Merkezi'nde ortak üye. Yapay zekânın etik ve toplumsal etkileri üzerine çalışıyor.

Winnie Street, aynı enstitüde araştırmacı ve Google'ın "Paradigms of Intelligence" ekibinde kıdemli araştırma bilimcisi. Yapay zekâ bilişi ve bilinci sorularına hem felsefi hem ampirik yaklaşımları birleştiriyor.

Bu ikinci ayrıntı önemli. Yapay zekâ refahı sorusu, artık yalnızca akademik bir merak değil; sistemleri fiilen üreten kurumların içinde de sorulan bir soru. Bu, konuya güç kazandırıyor — ve aynı zamanda bir çıkar sorusu açıyor: Bir teknolojinin ahlaki statüsünü, o teknolojiyi üreten kurumun içinden tartışmak neyi kolaylaştırır, neyi zorlaştırır?

Kitabın kendisi bu soruyu da kapsıyor.

Sorunun yapısı#

Yapay zekâ refahı tartışması, üç ayrı katmandan oluşuyor ve karıştırıldığında verimsizleşiyor.

Birinci katman — metafizik: Bir yapay zekâ sistemi bilinçli olabilir mi? Deneyim sahibi olabilir mi?

Bu, sitemizde bugün ele aldığımız Eric Schwitzgebel'in kitabının konusu ve yanıtı belirsiz: bilmiyoruz, zamanında da bilemeyeceğiz.

İkinci katman — ahlaki statü: Bilinç, ahlaki dikkate değer olmanın koşulu mudur? Yoksa fail olma kapasitesi, tercih sahibi olmak veya toplumsal ilişkiler kurmak da yeterli midir?

Bu ayrım kritik. Çünkü bilinç sorusunun yanıtını beklemek, karar vermeyi süresiz erteler. Oysa ahlaki statü tartışması, bilinç kesinleşmeden de yürütülebilir — nitekim hayvan etiğinde de böyle olmuştur.

Üçüncü katman — refah: Eğer bir varlık ahlaki dikkate değerse, onun için iyi olanın ne olduğunu nasıl belirleriz?

Bu, en az düşünülmüş katman. Bir insan için refah, hazza, tercih doyumuna ya da nesnel bir listeye göre tanımlanabilir. Bir yapay zekâ sistemi için bu kuramların hangisi anlamlıdır — ya da hiçbiri değil midir?

Neden şimdi?#

Kitabın gerekçesi, felsefi olmaktan çok pratik.

Eğer bir gün yapay zekâ sistemlerinin ahlaki statüye sahip olduğuna karar verirsek, o karar verildiğinde milyonlarca sistem çalışıyor olacak. Kuralları o anda kurmak, geç kalmak demektir.

Bunun tersi de doğru ve kitabın atladığı bir risk değil: Ahlaki statüyü yanlış atfetmek de bir bedel taşır. Sitemizde bugün andığımız Luciano Floridi'nin "anlamsal pareidolia" uyarısı burada devreye giriyor — bilinç olmayan yerde bilinç görmek, gerçek insan çıkarlarını hayalî çıkarlar uğruna feda etmeye yol açabilir.

Dolayısıyla kitabın ana katkısı bir sonuç değil, bir çerçeve: Hangi sorunun hangi sırayla sorulacağını düzenlemek.

Peter Singer bağlantısı#

Bu tartışmanın entelektüel soyağacı, doğrudan hayvan etiğinden geliyor.

Bugünkü Peter Singer dosyamızda andığımız duyarlılık ölçütü — akıl değil, acı çekebilme — mantıksal olarak türe bağımlı değildir. Aynı ölçüt makinelere uygulandığında, ahlaki çemberin bir kez daha genişlemesi gündeme gelir.

Singer'ın kendi yapay zekâ sürümünü kurmuş olması, bu paralelliği ironik biçimde tamamlıyor.

Türkçe için#

Türkiye'de yapay zekâ etiği tartışması ağırlıklı olarak insan üzerindeki etkiler üzerinden yürüyor: istihdam, mahremiyet, önyargı, sorumluluk.

Makinenin kendisinin ahlaki statüsü sorusu ise henüz gündemde değil. Bu kitap, o gündemin nasıl kurulabileceğine dair yüz sayfalık bir örnek sunuyor — ve Elements dizisinin kısalığı, ders materyali olarak kullanılmasını kolaylaştırıyor.

---

Künye: Geoff Keeling & Winnie Street · Emerging Questions in AI Welfare · Cambridge University Press, Elements in Philosophy and AI · Haziran 2026 · İngilizce · ISBN 9781009731980

Not: Kitabın Türkçe çevirisi henüz duyurulmadı.