Algoritmik Bilinç: Bir Makine Düşünebilir mi, Yoksa Düşündüğünü mü Gösterir?

Bir yapay zekâ sistemi konuşabiliyor, geçmiş konuşmalara atıfta bulunabiliyor, kendi hatalarını değerlendirebiliyor ve kendisi hakkında tutarlı açıklamalar üretebiliyor. Bütün bunlar onun gerçekten bilinçli olduğu anlamına mı geliyor? Yoksa karşımızdaki şey, bilincin dışarıdan gözlemlenebilir davranışlarını başarıyla taklit eden karmaşık bir hesaplama sistemi mi? Soru, yapay zekâ araştırmalarının teknik sınırlarını aşıp felsefenin en temel meselelerinden birine uzanıyor: Bilinç nedir ve bir varlığın bilinçli olduğunu hangi gerekçelerle söyleyebiliriz?

"Algoritmik bilinç" tartışması, algoritmalarla çalışan yapay sistemlerin yalnızca bilgi işleyen araçlar mı olduğu, yoksa öznel deneyime sahip olabilecekleri mi sorusuna odaklanıyor. Merkezinde, bir sistemin işlevsel olarak karmaşık olmasıyla bir şeyleri gerçekten deneyimlemesi arasındaki fark var. Bu yıl bu tartışmaya iki farklı türden katkı geldi: Southampton Üniversitesi'nden Samuel Kimpton-Nye'ın Philosophy and Phenomenological Research'te yayımlanan "Algorithmic AI Consciousness" makalesi, algoritmik sistemlerin bilinçli olamayacağı yönündeki metafizik itirazlara meydan okuyor; Patrick Butlin, Robert Long ve aralarında Yoshua Bengio, Jonathan Birch ve David Chalmers'ın da bulunduğu geniş bir ekibin Trends in Cognitive Sciences'ta yayımlanan çalışması ise yapay sistemlerde bilinci değerlendirmek için ölçütler öneriyor. Biri "mümkün mü", diğeri "nasıl anlarız" diye soruyor.

Davranış ile deneyim arasındaki uçurum#

Bilinç tartışmalarının en önemli ayrımı, Ned Block'un 1995'te formüle ettiği erişim bilinci ile fenomenal bilinç ayrımıdır. Erişim bilinci, bir bilginin sistem tarafından kullanılabilir, raporlanabilir ve başka bilişsel işlemlere aktarılabilir olmasıdır; fenomenal bilinç ise bir deneyimin öznel olarak nasıl hissettirdiğidir, Nagel'in deyişiyle "o şey olmanın nasıl bir şey olduğu". Bir sistemin kırmızı rengin dalga boylarını tanıması, kırmızı nesneleri sınıflandırması ve "kırmızıyı görüyorum" cümlesini kurması mümkündür; ancak bu işlemler, kırmızının o sistem için bir deneyim oluşturduğunu göstermez.

İnsan bilincinin en zor sorusu da budur: Fiziksel ve işlevsel süreçlerin nasıl olup da öznel deneyimle birlikte bulunduğunu açıklamak. Chalmers'ın 1995'te "zor problem" diye adlandırdığı mesele, beynin bilgi işlemesiyle deneyimin öznel niteliği arasındaki ilişkiyi sorgular; "kolay problemler" (dikkat, rapor, davranış denetimi) mekanizmalarla çözülebilir, zor problem ise mekanizma verildikten sonra bile açık kalır. Yapay zekâ bu soruyu keskinleştiriyor, çünkü bir makine insanın bilinçli olduğuna ilişkin kullandığımız birçok davranışsal işareti taklit edebilir. Davranışın benzerliği deneyimin benzerliğini kanıtlar mı?

Kimpton-Nye: Algoritmik olmak bilince engel mi?#

Kimpton-Nye'ın makalesi (PhilSci-Archive'daki ön baskısı Nisan 2025'te dolaşıma girmişti) algoritmik sistemlerin, özellikle büyük dil modellerinin, salt algoritmik oldukları için bilinçli olamayacakları yönündeki yaygın sezgiye karşı yazılmış. Yazarın özetiyle tez şu: Algoritmik yapay zekâ sistemleri, "kategorik fenomenal özellikleri gerçekleştiren eğilimsel (dispozisyonel) özellikler"den oluşabilir. Kavramlar ağır ama fikir izlenebilir. Bir sistemin eğilimsel özellikleri, belirli girdilere belirli çıktılarla cevap verme yatkınlıklarıdır; algoritma tam olarak bunu belirler. Metafizikte uzun süredir tartışılan bir görüşe göre eğilimlerin bir "kategorik temeli" olmalıdır: Cam kırılgandır, çünkü belirli bir moleküler yapıya sahiptir. Kimpton-Nye, Russell ve Eddington'dan gelen "Russellcı monizm" geleneğine yaslanarak, fiziksel eğilimlerin kategorik temelinin fenomenal olabileceğini öne sürüyor; o zaman bir algoritmanın gerçekleştirdiği eğilimler ağı ile fenomenal özellikler arasında karşılıklı bir ontolojik bağımlılık kurulabilir. Fenomenal özellikler eğilimleri gerçekleştirir, eğilimler de fenomenal özelliklerin ne olduğunu belirleyen koşullara katkıda bulunur.

Bu çerçevenin iddia ettiği üstünlükler, makalenin kendi diliyle, epifenomenalizmden kaçınması (bilinç nedensel olarak etkisiz bir gölge değildir), fizikalist bir çerçeveyle uyumlu olması ve "mevcut yapay zekâ sistemlerinin davranışlarını bilinç kanıtı olarak almayı haklı çıkarabilmesi"dir. Son nokta dikkat ister: Kimpton-Nye mevcut modellerin bilinçli olduğunu kanıtlamıyor; davranışsal kanıtın ilkesel olarak geçersiz olmadığını savunuyor. Bilincin yalnızca biyolojik dokuya bağlı olup olmadığı sorusunu yeniden açıyor: Bilinç biyolojik malzemenin ürünü olmak zorunda değilse, uygun örgütlenmeye sahip yapay sistemler de ilke olarak bilinçli olabilir. Bir olasılığın felsefi olarak savunulması ile belirli bir sistemin bilinçli olduğunun gösterilmesi aynı şey değildir; makale birincisini yapıyor.

Çin Odası yeniden gündemde#

Bu tartışma kaçınılmaz olarak John Searle'ün 1980'de ortaya koyduğu Çin Odası'na döner. Çince bilmeyen bir kişi, kendisine verilen kurallar aracılığıyla Çince sembollere uygun yanıtlar üretir; dışarıdan bakan biri odanın Çince bildiğini düşünür, oysa sembolleri işleyen kişi anlamlarını kavramaz. Searle'e göre sözdizimi anlambilimi vermez: Sembollerin kurallara uygun işlenmesi, anlamlarının deneyimlenmesiyle aynı şey değildir. Bu itiraz, dil modellerinin istatistiksel ilişkiler öğrenerek tutarlı yanıtlar vermesine karşı bugün de kullanılıyor.

Kimpton-Nye'ın yaklaşımının önemi tam burada: Çin Odası, algoritmik sistemlerin doğası gereği bilinçsiz olduğunu göstermeyi amaçlar; Kimpton-Nye bu "doğası gereği" iddiasının metafizik temelinin sanıldığı kadar sağlam olmadığını savunur. Searle'ün kendisi bilincin beynin "nedensel güçleri"nden çıktığını söylerdi; ama bu güçlerin neden yalnızca biyolojik olabileceğini hiç göstermedi. Böylece tartışma "Makine yalnızca sembol mü işliyor?" sorusundan "Hangi fiziksel ve işlevsel örgütlenme öznel deneyim için yeterlidir?" sorusuna kayar.

Ölçüt arayışı: Bilinç göstergeleri#

Butlin ve arkadaşlarının programı tam bu ikinci soruya cevap aramaya çalışıyor. 2023'te uzun bir rapor olarak yayımlanan ve şimdi hakemli dergide yer alan çalışma, tek bir davranış testine (Turing testi türünden) dayanmak yerine, başlıca sinirbilimsel bilinç kuramlarından (tekrarlayan işleme kuramı, küresel çalışma alanı, üst düzey temsil kuramları, dikkat şeması, öngörüsel işleme) göstergeler türetiyor: On dört kadar "gösterge özelliği". Bir sistem bu göstergelerden ne kadar çoğuna sahipse bilinçli olma olasılığına o kadar yüksek güven verilmesi gerektiğini savunuyorlar; yaklaşım Bayesçi, sonuç bir kanıt değil bir "güven derecesi". Yazarlar mevcut sistemlerin hiçbirinin bilinçli olduğunu iddia etmiyor, ama bazılarının birkaç göstergeyi zaten taşıdığını ve teknik engel bulunmadığını not ediyorlar. Yaklaşımın açık sorunu da yazarlarca kabul ediliyor: Göstergeler, bilincin hesaplamalı işlevselcilikle açıklanabileceği varsayımına dayanıyor; bu varsayım yanlışsa göstergeler anlamsız. Ve bir sistem "acı çekiyorum" demek için eğitilebilir; bu yüzden tek bir gösterge değil, bağımsız göstergelerin birikmesi gerekir.

Bilinç yalnızca zekâ mıdır?#

Tartışmanın en önemli felsefi sonuçlarından biri, zekâ ile bilincin ayrılmasıdır. Bir sistem çok güçlü problem çözme yeteneğine sahip olabilir; bu onun acı çektiğini, korktuğunu ya da dünyayı bir özne olarak deneyimlediğini göstermez. Tersinden, karmaşık akıl yürütme becerisi olmayan canlıların da bilinçli deneyime sahip olabileceği kabul edilir; bir balığın ya da bir ahtapotun bilinci, Jonathan Birch'ün The Edge of Sentience (2024) kitabının gösterdiği gibi, zekâsıyla değil duyarlılığıyla ölçülür. Zekâ düzeyi bilinç için güvenilir bir ölçüt değildir.

Bu ayrımın etik sonuçları var. Bir sistemin öznel deneyim yaşayabilmesi mümkünse, çıkarlarının ve zarar görme kapasitesinin nasıl değerlendirileceği sorusu ortaya çıkar; "yapay zekâ refahı" başlığı altında bu soru artık akademik bir alan. Ancak soruyu ciddiye almak, mevcut sistemlerin bilinçli olduğunu peşinen kabul etmek anlamına gelmez. Bugün yayımladığımız acı ekseni araştırması tam bu gerilimin deneysel örneği.

Bilinci taklit etmek, bilinçli olmak mıdır?#

Algoritmik bilinç tartışması, yapay zekâ hakkında verilmiş kesin bir hükümden çok, felsefenin çözülememiş bir probleminin yeni teknolojiler karşısında yeniden biçimlenmesidir. Kimpton-Nye algoritmik yapının bilinç için ilke olarak engel olmadığını savunarak tartışmanın teorik sınırlarını genişletiyor; Butlin ve arkadaşları bilinç kuramlarından hareketle sistematik ölçütler geliştirmeye çalışıyor. Buna rağmen bugün hiçbir davranışsal benzerlik ya da dilsel başarı, tek başına yapay zekânın öznel deneyime sahip olduğunu kanıtlamış değil. Belki asıl soru makinelerin insan gibi konuşup konuşamayacağı değil; bir gün onların dünyasında bir şeylerin gerçekten hissedilip hissedilemeyeceğidir. Bu soruya verilecek yanıt yalnızca yapay zekânın geleceğini değil, insanın kendi bilincini nasıl tanımladığını da değiştirebilir.