Yapay Zeka Neden Yanlış Bilgi Verir? Halüsinasyonu Anlamak

Yapay zeka sohbet asistanına bir soru soruyorsunuz, son derece kendinden emin, akıcı ve ikna edici bir cevap geliyor. Sonra kontrol ettiğinizde cevaptaki kitabın hiç yazılmadığını, alıntının hiç söylenmediğini ya da tarihin yanlış olduğunu görüyorsunuz.

Bu duruma halüsinasyon deniyor. Yapay zeka kullanan herkesin bilmesi gereken en önemli kavramlardan biri bu. Bu yazıda neden olduğunu ve kendinizi nasıl koruyacağınızı sade bir dille anlatacağız.

Halüsinasyon nedir?

Halüsinasyon, bir yapay zeka modelinin gerçek olmayan bir bilgiyi gerçekmiş gibi sunmasıdır. Bunun en tipik örnekleri şunlardır:

• Var olmayan kitap, makale ya da akademik kaynak önermek
• Bir kişiye hiç söylemediği bir sözü atfetmek
• Yanlış tarih, rakam ya da istatistik vermek
• Olmayan bir kanun maddesine, yönetmeliğe veya mahkeme kararına atıf yapmak
• Var olmayan bir internet adresi uydurmak

İşin zor tarafı şu: Yanlış bilgi, doğru bilgiyle aynı özgüvenle ve aynı akıcılıkla sunulur. Cevabın tonuna bakarak hangisinin doğru, hangisinin uydurma olduğunu anlayamazsınız.

Neden oluyor?

Bunu anlamak için yapay zeka sohbet asistanlarının temelde nasıl çalıştığını hatırlamak gerekir. (Ayrıntısını Yapay Zeka Nedir? yazımızda anlattık.)

Bu araçların arkasındaki büyük dil modelleri, çok büyük miktarda metin üzerinde eğitilmiştir ve temel işleri, verilen bir metnin ardından en uygun gelecek kelimeyi tahmin etmektir. Bu tahmini kelime kelime sürdürerek cümleler, paragraflar, uzun cevaplar üretirler.

Burada kritik nokta şu: Model bir bilgiyi bir veritabanından “çekip getirmez”. Ona en makul, en uygun görünen metni üretir. Çoğu zaman en makul görünen metin aynı zamanda doğru olan metindir, çünkü model eğitim sırasında doğru bilgiyi defalarca görmüştür. Ama şu durumlarda bu denge bozulabilir:

• Konu az bilinen bir konuysa: Model o konuda az örnek gördüyse “makul görünen” bir şey uydurma eğilimi artar.
• Çok spesifik bir ayrıntı soruluyorsa: Kesin bir sayfa numarası, tam bir tarih, bir kişinin doğum yeri gibi.
• Soru, cevabın var olduğunu varsayıyorsa: “X’in Y hakkında yazdığı kitabın adı ne?” diye sorarsanız, böyle bir kitap olmasa bile model bir isim üretebilir.
• Bilgi güncelse: Model belli bir tarihe kadarki verilerle eğitildiği için ondan sonrasını bilmez, ama yine de cevap vermeye çalışabilir.

Kısacası halüsinasyon bir “arıza” değil, bu teknolojinin çalışma biçiminin doğal bir yan etkisi. Modeller her geçen yıl daha az halüsinasyon görüyor, ama bu sorun tamamen ortadan kalkmış değil.

Hangi işlerde daha riskli?

Halüsinasyon her işte aynı derecede sorun yaratmaz.

Düşük risk	Yüksek risk
Fikir üretmek (beyin fırtınası)	Kaynak, alıntı, referans istemek
Metni düzeltmek, kısaltmak, sadeleştirmek	Kesin rakam, istatistik, tarih istemek
E-posta ya da yazı taslağı hazırlamak	Hukuki, tıbbi ya da mali konularda karar vermek
Sizin verdiğiniz bir metni özetlemek	Güncel haberler ve son gelişmeler hakkında soru sormak

Sol sütundaki işlerde model sizin verdiğiniz malzemeyle ya da yaratıcılık gerektiren bir işle uğraşır; küçük bir hata kolayca fark edilir. Sağ sütunda ise modelin bilgisine güvenmeniz gerekir. Hata yaparsa bunu ancak dışarıdan kontrol ederek anlarsınız.

Kendinizi nasıl korursunuz? 6 pratik öneri

1. Önemli bilgiyi mutlaka doğrulayın

Bir yere yazacağınız, birine ileteceğiniz ya da karar vereceğiniz her bilgiyi güvenilir bir kaynaktan kontrol edin. Bu, yapay zekayla çalışmanın altın kuralıdır.

2. Kaynakları tek tek kontrol edin

Model size kitap, makale veya web adresi önerdiyse, bunların gerçekten var olup olmadığını arayın. Uydurma kaynaklar genellikle çok inandırıcı başlıklara sahip olur.

3. Belirsizlikleri sorun

Prompt’unuza şunu ekleyin:

Emin olmadığın bilgiler varsa açıkça belirt. Bilmiyorsan uydurma, “bilmiyorum” de.

Bu, sorunu tamamen çözmez ama riski belirgin şekilde azaltır.

4. Malzemeyi siz verin

Model bir konuyu “hatırlamak” yerine sizin verdiğiniz metin üzerinden çalıştığında çok daha güvenilir olur. Örneğin bir yönetmelik hakkında soru soracaksanız, yönetmeliğin metnini yapıştırın ve “sadece bu metne dayanarak cevap ver” deyin.

5. Varsayım içeren sorulardan kaçının

“Atatürk’ün 1930’da yazdığı şiirin adı ne?” yerine “Atatürk’ün yazdığı bilinen şiirler var mı?” diye sorun. İlk soru, model için bir cevap uydurma baskısı yaratır.

6. Web araması yapan araçları tercih edin

Güncel bilgiler ve kaynak gerektiren işler için internette arama yapıp kaynak gösterebilen araçları ya da özellikleri kullanın. Bu durumda da gösterilen kaynağa tıklayıp gerçekten o bilgiyi içerip içermediğine bakmayı unutmayın.

Son söz

Halüsinasyon, yapay zekayı kullanmamak için bir neden değil; nasıl kullanacağınızı bilmek için bir neden. Yapay zekayı her şeyi bilen bir ansiklopedi gibi değil, çok hızlı çalışan ama arada bir emin olmadan konuşan yetenekli bir asistan gibi düşünün. Taslak hazırlamak, fikir üretmek ve metin düzenlemek için harika bir yardımcıdır. Ama son kontrol her zaman sizde olmalı.

Daha iyi ve daha güvenilir cevaplar almak için İyi Prompt Nasıl Yazılır? yazımıza da göz atabilirsiniz.