Yapay zeka neden “halüsinasyon” görür

Bir dil modeli olmayan bir kitabı, var olmayan bir yasa maddesini ya da tutmayan bir istatistiği kendinden emin bir tonla yazdığında buna halüsinasyon deniyor. Kötü niyet ya da arıza değil; modelin temel çalışma biçiminin doğal sonucu.

Kök neden: olasılık, doğruluk değil

Model bir sonraki token’ı, eğitim verisindeki örüntülere göre “en akla yatkın” olana göre seçer. Akla yatkınlık doğruluk demek değildir. “2019 tarihli bir çalışmaya göre” ifadesinden sonra bir dergi adı gelmesi dil açısından son derece olasıdır; o derginin o çalışmayı yayımlayıp yayımlamadığını denetleyen bir mekanizma yoktur.

Modelin içinde “bunu bilmiyorum” diyen bir uyarı lambası da yok. Bilgi, katsayıların içine dağılmış hâlde durur; eksik olduğunda boşluk hissedilmez, en olası devam üretilir.

Neden bu kadar kendinden emin konuşuyor

İki sebep: eğitim verisinin büyük kısmı kendinden emin yazılmış metinlerden oluşur (ansiklopediler, makaleler, kılavuzlar) ve eğitim sonrası insan geri bildirimi genellikle net, yardımcı, kararlı cevapları ödüllendirir. “Emin değilim” demenin ödülü, çoğu zaman akıcı bir cevabınkinden düşüktür. Sonuç: tonun güveni, bilginin güvenilirliğiyle ilgili hiçbir bilgi taşımaz.

Riskin en yüksek olduğu yerler

• Kaynak, künye, DOI, sayfa numarası. Biçimi öğrenmek kolay, içeriği doğrulamak modelin elinde değil.
• Kesin sayılar ve tarihler. Özellikle nadir, yerel veya çok yeni veriler.
• Az yazılmış konular. Niş bir yazılımın parametreleri, küçük bir kurumun mevzuatı, yerel uygulamalar.
• Eğitim tarihinden sonrası. Model kesim tarihinden sonrasını bilmez; arama aracı yoksa boşluğu tahminle doldurur.
• Çok adımlı hesap. Ara adımlardaki küçük bir hata, sonuca kesinlik görünümüyle taşınır.

Azaltan yöntemler

Kaynağı bağlama koymak

Belge arama (RAG) ile modele cevabı içeren metni verirsiniz; model üretmek yerine özetler. Halüsinasyonu büyük ölçüde azaltır ama bitirmez: yanlış parçayı seçebilir ya da verilen metnin ötesine geçebilir. “Yalnızca verdiğim metne dayan, yoksa bilmiyorum de” talimatı bu yüzden işe yarar.

Araç kullanmak

Hesap için hesap makinesi, güncel bilgi için arama, kod için çalıştırma. Modelin tahmin ettiği değerle, bir aracın ürettiği değer arasındaki fark güvenilirliğin büyük kısmıdır.

Soruyu bölmek

Tek bir uzun istek yerine adımlara ayırmak, hatanın nerede oluştuğunu görünür kılar ve ara adımları doğrulamanıza izin verir.

Doğrulanabilir çıktı istemek

“Kaynak ver” yeterli değil — bağlantı isteyin ve açın. Var olmayan bir bağlantı anında belli olur; var olmayan bir kaynak adı olmaz.

Günlük kullanım için kural

Yapay zeka çıktısını, konuyu bilen ama kaynak göstermeyen bir meslektaşın notu gibi değerlendirin: taslak olarak değerli, delil olarak değersiz. Yanlış olması size pahalıya gelecek her şeyi (sayı, isim, tarih, hukuki hüküm, dozaj, fiyat) bağımsız bir kaynaktan doğrulayın.

Model bilmediğini bilmiyor. Bu yüzden “emin misin?” sorusu bir doğrulama yöntemi değil; modelin aynı mekanizmayla üretilmiş ikinci bir cevabıdır.