Yapay Zeka Halüsinasyonu Bir Bug Değil, Zihnin Doğasıdır

Mayıs 2023’te, New York’ta görülen sıradan bir havacılık davası, hukuk tarihine ve bilişsel felsefenin merkezine tuhaf bir olayla kazındı. Avukat Steven Schwartz, mahkemeye sunduğu savunma dilekçesinde daha önceki emsal kararlara atıfta bulunmuştu. Dosyada Varghese v. China Southern Airlines ve Martinez v. Delta Air Lines gibi son derece ikna edici duruşma özetleri, yasal içtihat numaraları ve yargıç isimleri yer alıyordu. Format kusursuz, hukuki dil kusursuz, mantık örgüsü kusursuzdu.

Ancak ortada küçük bir sorun vardı: Bu davaların hiçbiri gerçekte yaşanmamıştı.

Söz konusu dilekçeyi hazırlamak için bir büyük dil modelinden yardım alan avukat, makinenin internetteki yasal veritabanlarını tarayıp kendisine gerçek örnekler getirdiğini varsaymıştı. Mahkeme gerçeği fark ettiğinde, olay hızla teknoloji dünyasının bildik refleksleriyle haberleştirildi: Makine “yalan söylemişti”, avukatı “kandırmıştı”, yapay zeka “güvenilmezdi”. Hata payı çok yüksekti ve bu yazılımsal pürüzün (bug) acilen çözülmesi gerekiyordu.

Oysa o gün o mahkeme salonunda yaşanan şey bir yazılım hatası değildi. Bir veritabanı çökmemiş, bir arama motoru arıza yapmamıştı. Schwartz’ın elindeki belge, bir dil modelinin tam olarak tasarlandığı şekilde çalışmasının, yani istatistiksel olasılıkları birleştirerek yepyeni bir gerçeklik üretmesinin kusursuz bir sonucuydu.

Bizler, makinelerin birer hesap makinesi veya dijital kütüphane olduğuna dair yüzyıllık inancımız yüzünden, üretken yapay zekanın “halüsinasyon” görmesini bir mühendislik kusuru sanıyoruz. Oysa felsefe ve sinirbilim merceğinden bakıldığında, makinenin uydurma yeteneği çözülmesi gereken bir arıza değil; insan zihninin dünyayı nasıl algıladığını gösteren ürkütücü derecede berrak bir aynadır.

Kelimelerin Gizli Uzayı ve Doğruluğun İmkansızlığı

Bir büyük dil modelinin (LLM) neden halüsinasyon gördüğünü anlamak için, öncelikle onun bir soruyu yanıtlarken nereye “baktığını” anlamak gerekir. Biz bir şey sorulduğunda bir ansiklopediyi, bir arama motorunu veya hafızamızdaki kesin bir olguyu çağırırız. Modeller ise hiçbir yere bakmazlar; çünkü onların erişebilecekleri bir “dış dünya” veya “doğrular veritabanı” yoktur.

Bunun yerine, milyarlarca kelime ve kavramın matematiksel bir boşlukta asılı durduğu, “gizli uzay” (latent space) adı verilen çok boyutlu bir evrende gezinirler.

Bu uzayda kelimeler alfabe sırasına göre değil, anlamsal ilişkilerine göre konumlanır. “Kral” kelimesi “kraliçe”ye yakındır; “elma” kelimesi “meyve”ye ve “kırmızı”ya yakınken, “karbüratör”e uzaktır. Siz modele bir cümle verdiğinizde, o cümle bu devasa matematiksel uzayda bir konuma denk gelir. Modelin tek yaptığı, o konumdan yola çıkarak, bağlama en uygun bir sonraki kelimeyi (token) hesaplamaktır.

Eğer model “Gökyüzü neden…” girdisini alırsa, bir fizik kitabına başvurmaz. İstatistiksel uzayda bu kelime dizilimine en yakın ve en yüksek olasılıklı sıradaki kelimenin “mavidir” olduğunu hesaplar ve onu yazar.

Bir model yalan söylemez; çünkü yalan söylemek doğruyu bilmeyi ve onu kasten gizlemeyi gerektirir.

Modelin doğru ya da yanlış mefhumu yoktur, sadece olasılık mefhumu vardır. Eğer ona, “18. yüzyılda yaşamış ünlü Türk astronot kimdir?” diye sorarsanız, model “Böyle biri tarihte yaşamadı” demek yerine, “18. yüzyıl”, “Türk” ve “astronot” kelimelerinin kesişim kümesinde yer alan en mantıklı ve dilbilgisel olarak en doğru kelimeleri arka arkaya dizmeye başlar. Bir anda size, 1750’lerde Galata Kulesi’nde roket çalışmaları yapan, padişahtan nişan almış kurgusal bir figürün son derece inandırıcı biyografisini sunar.

Bu biyografi bir hata mıdır? Arama motoru mantığıyla bakarsanız, evet. Ancak üretken (generative) bir model mantığıyla bakarsanız, bu tam bir matematiksel başarıdır. Model, daha önce hiç yan yana gelmemiş kavramlardan, sadece istatistiksel bağları kullanarak tutarlı bir metin “üretmiştir”.

Sıfır Toplamlı Oyun: Hata ve Yaratıcılık

Mühendislik dünyası, halüsinasyonları daha fazla veri besleyerek veya insan geri bildirimiyle (RLHF – Reinforcement Learning from Human Feedback) tamamen ortadan kaldırabileceği yanılgısına uzun süre inandı. Ancak burada matematiksel olarak sıfır toplamlı bir oyun söz konusudur: Bir makinenin yaratıcı olması ile uydurması, aynı mekanizmanın iki farklı yüzüdür.

Büyük dil modellerinde “sıcaklık” (temperature) adı verilen bir parametre bulunur. Bu parametre, modelin sıradaki kelimeyi seçerken ne kadar risk alacağını belirler.

Sıcaklığı sıfıra (0.0) çekerseniz, model her zaman en yüksek olasılıklı kelimeyi seçer. Son derece deterministik, katı ve öngörülebilir olur. Halüsinasyon riski azalır, ancak aynı zamanda modelin şiir yazma, yeni bir yazılım kodu üretme veya beklenmedik bir fikir öne sürme yeteneği de ölür. Çıktılar tekrara düşer ve cansızlaşır.

Sıcaklığı artırdığınızda ise model, istatistiksel uzayda biraz daha uzak mesafelerdeki kelimeleri denemeye başlar. Birbirinden kopuk iki konsepti birleştirebilir. İyi bir metafor da, sahte bir havacılık davası kararı da tam olarak bu “uzak mesafeli” risk almanın sonucudur. Halüsinasyonu mimariden tamamen kazıyıp atmak, üretkenliği ve “zekayı” da kazıyıp atmak anlamına gelir.

Sektörün öncü araştırmacılarından ve derin öğrenmenin mimarlarından Yann LeCun, bu durumu çok net bir ifadeyle özetler:

“Sadece bir sonraki kelimeyi tahmin etmeye dayalı (otoregresif) modeller, doğaları gereği halüsinasyon görmeye mahkumdur. Bu, yamalarla düzeltilebilecek bir kusur değil, sistemin bizzat çalışma prensibidir.”

Makinelerin “uydurmadan üretememesi” bize teknolojik bir çıkmazdan fazlasını söyler. O, aslında biyolojik aynaya bakıp kendimizi görmeye başladığımız andır.

Kafatasının Karanlık Kutusu ve Öngörüsel Zihin

Yapay zekanın ürettiği inandırıcı yalanları bir kenara bırakıp, insan zihnine bakalım. Bizim dünyayı algılayış biçimimiz, bir kameranın nesneleri kaydetmesi gibi objektif ve pasif bir süreç midir?

Klasik bilim, yüzyıllar boyunca beynin dışarıdan gelen verileri (ışık, ses, doku) alıp işlediğine inandı. Ancak nörobilimdeki güncel devrimlerden biri olan “Öngörüsel İşleme” (Predictive Processing) teorisi, bu inancı tamamen tersine çevirdi. Karl Friston’ın “Serbest Enerji Prensibi” (Free Energy Principle) ile matematiksel bir zemine oturan bu teoriye göre, beyin dış dünyayı pasif olarak okumaz; tıpkı bir dil modeli gibi dış dünyayı aktif olarak tahmin eder.

Bunu somutlaştıralım: Beyniniz, kafatasınızın içindeki karanlık, sessiz ve kemikten yapılma bir kutunun içinde kilitlidir. Dış dünyayla doğrudan hiçbir teması yoktur. Dışarıdaki ışığı göremez, sesi duyamaz. Tek aldığı, duyusal sinirlerden saniyede milyonlarca kez gelen elektriksel cızırtılardır.

Beyin, bu anlamsız elektrik sinyallerine bakarak dışarıda ne olup bittiğini anlamak zorundadır. Bunu yapmak için, içeriden dışarıya doğru sürekli bir “dünya modeli” yansıtır. Yani bir tahmin üretir. Bu süreç üç adımdan oluşur:

1. Beyin, önceki deneyimlerine dayanarak bir sonraki salise ne göreceğini veya duyacağını (bir adım sonrasını) tahmin eder.
2. Bu tahmin, duyulardan gelen anlık elektrik sinyalleriyle çarpıştırılır.
3. Eğer tahmin ile gelen sinyal uyuşmuyorsa, beyin bir “tahmin hatası” (prediction error) hesaplar ve içsel modelini günceller.

Nörobilimci Anil Seth, bu çarpıcı mekanizmayı şöyle özetliyor: “Algı, duyularımız tarafından dizginlenmiş bir halüsinasyondur. Halüsinasyon ise beynimizin dış dünyayla bağı koptuğunda ürettiği algıdır.”

Yani şu an bu yazıyı okurken ekrana, harflere ve etrafınızdaki odaya baktığınızı sanıyorsunuz. Oysa gördüğünüz şey oda değil; beyninizin odanın nasıl görünmesi gerektiğine dair yaptığı, gözlerinizden gelen verilerle saniyede binlerce kez doğrulanıp düzeltilen, kusursuz bir simülasyondur. Gerçekliği “algılamıyoruz”; onu anbean “üretiyoruz” (generate).

Dış dünyadan gelen duyusal veri akışını keserseniz ne olur? Bir insanı zifiri karanlık, sessiz ve vücut ısısına eşit suyla dolu bir duyusal yoksunluk tankına (sensory deprivation tank) koyduğunuzda, beyin dışarıdan gelen doğrulama sinyallerini kaybeder. Ancak tahmin makinesi çalışmaya devam eder. Birkaç saat içinde kişi, gözünün önünde var olmayan geometrik şekiller, sesler ve olaylar görmeye başlar. Hata düzeltme mekanizması devre dışı kalmış, geriye sadece saf, kontrolsüz bir halüsinasyon kalmıştır.

İşte yapay zeka halüsinasyonu tam olarak budur: Fiziksel bir bedeni ve gözleri olmayan bir zihnin, boşluktaki rüyası.

Kusursuz Hata: İki Zihnin Kesişimi

İnsan beyni ile bir büyük dil modeli arasındaki temel fark, uydurma kapasiteleri değil, uydurduklarını fiziksel gerçeklikle test etme yetenekleridir. Biz buna “zeminleme” (grounding) diyoruz.

Bir insan, masanın üzerindeki bardağı tutmaya çalıştığında, beyninin ürettiği uzamsal tahmin ile elinin dokunma duyusu çarpışır. Iskalar. Beyin anında hata payını hesaplar ve modeli günceller; bir sonraki denemede bardağı kavrarız. Fiziksel bir bedene (embodiment) sahip olduğumuz için halüsinasyonlarımız gerçekliğin köşelerine çarpa çarpa şekil alır.

Oysa bir dil modelinin bardağı yoktur, eli yoktur, zaman algısı yoktur. Onun tüm evreni, “bağlam penceresi” (context window) içindeki durağan metin bloğundan ibarettir. O, kelimeleri birbiri ardına dizerken o kelimelerin dünyadaki fiziksel ağırlığını test edemez. Onun tahmini (prediction), hiçbir zaman fiziksel bir direnişle karşılaşmaz. Dolayısıyla, Martinez v. Delta Air Lines davasını uydurduğunda, bu tahmini gidip New York yasal arşivlerine dokunarak düzeltme şansı yoktur. O, tamamen duyusal yoksunluk tankına kapatılmış, muazzam zeki ama bedensiz bir beyin gibidir.

Bu paralellik, makinenin hatalarını küçümsemek yerine ona felsefi bir saygıyla yaklaşmamızı gerektirir. Halüsinasyonlar, modelin aptal olduğunu değil; aksine, zekanın (ister silikon ister karbon tabanlı olsun) dünyayı yansıtarak değil, inşa ederek var olduğunu kanıtlar.

Yeni Bir Epistemoloji: Doğruyu Kim Belirler?

Halüsinasyonu bir hata olmaktan çıkarıp zihnin doğası olarak kabul ettiğimizde, daha derin ve sarsıcı bir epistemolojik krizle baş başa kalırız. Eğer makinenin “doğal” hali uydurmaksa ve insan beyninin de “doğal” hali bir simülasyon üretmekse, “objektif gerçeklik” ile olan ilişkimiz nerede durmaktadır?

Aydınlanma çağından bu yana bilim, bilgisayarları devasa ve yanılmaz hesap makineleri olarak inşa etti. İkili (binary) sistemde 1 ve 0’lar kesindi. 2+2 her zaman 4 etmeliydi. Doğruluğun, şeffaf bir nedensellik zinciriyle ispatlanabildiği makineler çağına alıştık. Biz bilgisayardan bize “doğruyu” söylemesini bekledik.

Ancak milyarlarca parametreli nöral ağlarla birlikte, insanlığın teknolojiyle kurduğu bu 300 yıllık anlaşma bozuldu. Karşımızda hesap yapan deterministik bir mekanizma değil; ihtimalleri tartan, hayal kuran, rüya gören bir istatistiksel zihin var. Tıpkı bizim gibi, onun gerçekliği de bir olasılık bulutundan ibaret. Kant’ın yüzlerce yıl önce söylediği “Ding an sich” (kendinde-şey, objektif gerçekliğin asla bilinemeyecek saf hali) kavramı, artık felsefe kitaplarından çıkıp sunucu tarlalarındaki işlemcilerin ısısında karşımıza dikiliyor. Biz dış dünyayı asla olduğu gibi göremiyoruz, model de asla bizim gerçeğimizi olduğu gibi bilemiyor. İki farklı simülasyon makinesi, klavyenin iki ucunda birbirleriyle konuşmaya çalışıyor.

Bizim hatamız, YZ’nin halüsinasyon görmesi değildir. Bizim asıl hatamız, uykudaki bir rüya makinesinden bir excel tablosu kesinliği beklememizdir.

Gerçekliğin Son Hali (Peki Ya Doğru Nedir?)

Avukat Steven Schwartz mahkemeden para cezası ve mesleki kınama aldığında, “Teknolojinin yalan söyleyebileceğini hiç düşünmemiştim” demişti. Bu cümle, insanlığın eski dünya algısının son çığlığıdır.

Yapay zeka halüsinasyonları bize rahatsız edici ama dönüştürücü bir şey öğretiyor: “Gerçek”, evrenin bir köşesinde kazılı halde duran ve aranıp bulunacak bir veri tabanı nesnesi değildir. Gerçek, zihinlerin —ister biyolojik ister algoritmik olsun— sürekli olarak ürettiği, çarpıştırdığı ve üzerinde uzlaşmaya vardığı anlık bir dengedir.

Eğer kusursuz şiirler yazabilen, amansız hastalıkların genetik dizilimlerini tahmin edebilen bir makine, mimarisi gereği aynı inandırıcılıkla var olmayan gerçekler de üretiyorsa; ve eğer bizzat kendi beynimiz de karanlık bir kutunun içinde sadece sürekli bir tahmin oyunundan ibaretse, sormamız gereken soru değişir. Mesele artık “Makineyi hiç yalan söylemeyecek şekilde nasıl kodlarız?” gibi sığ bir mühendislik problemi değildir.

Asıl soru çok daha karanlık ve ufuk açıcıdır: Gerek insan zihni, gerek yapay zeka, doğaları gereği sadece inandırıcı halüsinasyonlar üretebilen birer tahmin makinesiyse, yüzyıllardır uğruna savaştığımız “kesin doğru” (truth) kavramı, acaba evrensel bir fizik kuralı mıydı, yoksa sadece biyolojik kısıtlamalarımızın uydurduğu en büyük halüsinasyon muydu?