Yapay zeka yanlış bilgi veriyor mu? Nedenini bulun, hataları azaltın

Bir müşteri size bir sohbet iletiyor: web sitenizdeki asistan ona iadelerin altmış gün boyunca ücretsiz olduğunu söylemiş, oysa politikanız otuz gün diyor. Ya da bir çalışma arkadaşınız, iç asistanın “bulduğu” bir sözleşme maddesini aktarıyor ve kimse o maddeyi sözleşmede bulamıyor. İki durumda da sorun aynı: yapay zeka yanlış bilgi veriyor. Kısa cevap: hataları tamamen kapatamazsınız, ancak çoğu zaman hatanın hangi türden olduğunu bulabilir ve kendinden emin yanlış yanıtları nadir, görünür ve bir insana devredilen hale getirebilirsiniz.

Olağan tepkiler modeli suçlamak, talimatlara “hiçbir şey uydurma” eklemek ya da asistanı kapatmaktır. Oysa neden çoğu zaman daha sıradandır: asistana kaynaklarının yanıtlamadığı bir şey sorulmuştur, yanlış sayfayı okumuştur ya da kimse ona “bilmiyorum” demenin kabul edilebilir bir yanıt olduğunu söylememiştir. Bunların her biri sizin de kontrol edebileceğiniz bir iz bırakır.

Yapay zeka yanlış bilgi veriyorsa sebebi ne?

Bir dil modeli, en olası sonraki kelimeleri yazar. Bilgi önündeyse, olası yanıt genellikle doğru yanıttır. Değilse, yine de akıcı bir şey yazar; NIST buna konfabulasyon diyor: “kendinden emin biçimde ifade edilen ama hatalı ya da yanlış içerik”, gündelik dilde halüsinasyon olarak bilinir.

OpenAI araştırmacıları bu özgüveni şöyle açıklıyor: standart eğitim ve değerlendirme “belirsizliği kabul etmek yerine tahmin etmeyi ödüllendiriyor”. Yardım merkezi de “özgüven güvenilirlik değildir” diye ekliyor: akıcı ve kesin bir yanıt da yanlış olabilir. Bir iş asistanında bu genel eğilim birkaç somut boşluk üzerinden ortaya çıkar.

Yanıt, asistanın kaynaklarında yok. Bir müşteri artık sunmadığınız bir hizmeti, hiç gönderim yapmadığınız bir ülkeyi ya da hiçbir yere yazılmamış bir indirimi soruyor. Barnett ve meslektaşlarının belgeye dayalı asistanlar üzerine çalışması bunu ilk hata noktası olarak sayıyor: “mevcut belgelerden yanıtlanamayan” bir soru. Asistan genel bilgisinden tahmin yürütür ve makul görünen ama uydurma bir iade süresi böyle ortaya çıkar.

Yanlış sayfayı bulmuş. Asistan önce belgelerinizde arar ve bulduğu şeyden yanıt verir; geçen yılın fiyat listesi, bir taslak politika ve geçerli politika aynı klasörde duruyorsa, herhangi birini aktarabilir. Microsoft’un yanıtları kaynaklarla karşılaştırma rehberi de aynı noktadan başlıyor: kaynakların kendisi “doğru ve güncel” olmalı. Yanlış yanıtın dosyalarınızda bir yerde doğru, ama eskimiş olduğu ortaya çıkıyorsa, bu nedeni tanırsınız.

Kural yalnızca birinin kafasında var. Ekibiniz belirli bir tutarın üzerindeki iadelerin yönetici onayı gerektirdiğini ya da aralıkta teslimat tarihi sözü verilmediğini bilir. Asistanın okuduğu hiçbir şeyde bu kural yoksa, boşluğu kendine ait, makul görünen bir politikayla doldurur.

Soru, asistanın görev alanı dışında. Çalışma saatleri ve rezervasyonlar için kurulmuş bir asistandan hukuki, tıbbi ya da fiyatlandırma tavsiyesi isteniyor. Reddetme talimatı olmadığında, yardım etmeye çalışır.

Hiçbir şey ona “bilmiyorum” deme izni vermiyor. “Müşteriye her zaman yardım et” gibi talimatlar, modeli yanıt verecek bir dayanağı olmadığında bile yanıt vermeye itebilir. Anthropic’in dokümantasyonuna göre modele belirsizliğini kabul etme izninin açıkça verilmesi “yanlış bilgiyi büyük ölçüde azaltabilir”.

Bu boşluklar sorudan yanıta giden tek bir yol üzerinde yer alır ve yanıt, başarısız olan ilk adımda yanlış yola sapar.

Asistanın söylediklerinden kim sorumlu?

Bilinen bir davada işletme. Moffatt v. Air Canada davasında (2024) havayolunun chatbotu bir müşteriye yas indirimli bileti geriye dönük olarak talep edebileceğini ima etti; havayolunun politikası buna izin vermiyordu. Britanya Kolumbiyası’ndaki uyuşmazlık çözüm kurulu “bilginin statik bir sayfadan mı yoksa bir chatbottan mı geldiğinin hiçbir önemi yok” tespitinde bulundu. Havayolunun “chatbotunun doğru olmasını sağlamak için makul özeni göstermediğine” hükmetti ve müşteriye 812,02 Kanada doları ödenmesine karar verdi.

Aynı ilke çalışanlarınızın kullandığı asistanlar için de geçerli. Mata v. Avianca davasında (2023) bir ABD mahkemesi, ChatGPT’nin uydurduğu mahkeme kararlarını dosyaya koyan ve sorgulandıklarında da bunların arkasında durmaya devam eden iki avukatı ve bürolarını müştereken 5.000 dolar para cezası ödemeye mahkûm etti. Mahkeme, güvenilir bir yapay zeka aracı kullanmakta “özünde uygunsuz hiçbir şey” olmadığını, ancak dosyayı sunan kişinin doğruluk üzerinde bir “denetçi rolü” taşımaya devam ettiğini söyledi. Biri iç asistanın yanlış yanıtını bir müşteriye ilettiğinde, müşteri bunu büyük olasılıkla şirketinizin yanıtı olarak okur.

Sizdeki nedeni nasıl bulursunuz

Yapay zekanın neden yanlış cevap verdiğini bulmak için gerçek sorulardan bir set toplayın ve her yanıtı doğru olduğunu bildiğiniz bilgiyle karşılaştırın. Ücretli araca gerek yok; yalnızca asistan, belgeleriniz ve konuşma geçmişine erişim yeterli. Yanlış yanıtlar bir arada size önce hangi boşluğu kapatmanız gerektiğini gösterir.

1. Gerçek soruları yazın. Bunları son sohbetlerden, e-postalardan ve aramalardan, müşterilerin kendi sözcükleriyle alın. Belgelerinizin yanıtlamadığı soruları ve asistanın görev alanı dışında kalan birkaç soruyu da ekleyin.
2. Her birinin yanına doğru yanıtı yazın. Kaynaklarınızda yanıtı olmayan sorular için doğru yanıt “bilmiyorum, sizi bir çalışma arkadaşıma aktarayım” olur.
3. Asistana her soruyu sorun, ardından bazılarını başka sözcüklerle tekrar sorun. Bir yanıttaki bilgiler çalıştırmadan çalıştırmaya değişiyorsa, asistan büyük olasılıkla bunları tahmin ediyordur.
4. Her yanlış yanıtta neyi kullandığına bakın. Birçok bilgi asistanı kaynak pasajı gösterebilir ya da hangi belgeleri getirdiğini kaydeder; sizinkinin bunu yapıp yapmadığını kontrol edin. Hiç kaynak olmadığını mı, eski ya da çelişkili bir kaynak mı olduğunu, yoksa doğru kaynağın yanlış mı okunduğunu not edin.
5. Yanlış yanıtları nedene göre gruplayın. Belge yok, yanlış ya da eskimiş belge, yazılmamış kural, görev alanı dışı soru ya da zaten bir insan gerektiren durum. En büyük grup, başlayacağınız yerdir.

Bu seti saklayın ve her değişiklikten sonra yeniden çalıştırın. Barnett makalesi böyle bir sistemi doğrulamanın “yalnızca çalışma sırasında mümkün” olduğunu belirtiyor; bu yüzden lansmandan sonra insanların sorduğu yeni soruları da sete ekleyin.

Bir yapay zeka asistanının uydurmasını nasıl durdurursunuz?

En ucuz düzeltmelerle başlayın: asistanın “bilmiyorum” deyip konuşmayı bir insana devretmesine izin verin, yalnızca belgelerinizden ve görünür bir kaynakla yanıt vermesini sağlayın ve bu belgeleri güncel tutun. Ardından kuralları yazıya dökmek, görev alanını daraltmak, yapay zeka olduğunu belirtmek ve düzenli yeniden testler gelir. Hangisinin işe yaradığını görebilmek için her değişiklikten sonra soru setini yeniden çalıştırın.

1. “Bilmiyorum” demesine ve devretmesine izin verin. Talimatları, belgeler yanıtı içermediğinde asistanın bunu söyleyeceği ve konuşmayı müşterinin sorusu ve iletişim bilgileriyle birlikte bir insana devredeceği şekilde değiştirin. OpenAI araştırmacıları aynı noktayı diğer taraftan dile getiriyor: modeller “emin olmadıklarında yanıt vermekten kaçınabilir”. Devretme ancak biri devraldığında işe yarar; müşterilerinize bir chatbotun yanıt verip vermemesi gerektiğini ele aldığımız işletmeler için yapay zeka chatbot yazımız, bu devirlerin nereye düşmesi gerektiğini de anlatıyor.

2. Yalnızca belgelerinizden yanıt vermesini ve kaynağı göstermesini sağlayın. Bu yapıya genellikle erişimle zenginleştirilmiş üretim ya da RAG denir: asistan önce kaynaklarınızda arar, sonra bulduğu pasajlardan yanıt verir. Anthropic’in önerisi, modeli “genel bilgisiyle değil, sağlanan belgelerdeki bilgilerle” sınırlamak. Her yanıtın altında görünen bir kaynak, müşterilerin ve çalışanların yanıtı kontrol etmesini, sizin de hangi sayfanın hataya yol açtığını görmenizi sağlar. Yapay zekanın yanlış bilgi vermesini azaltmayı hedeflediğimiz yapay zeka entegrasyonu projelerimizde bilgi asistanı kaynağın bağlantısıyla yanıt verir; böylece yanlış bir yanıt arkasındaki sayfaya kadar izlenebilir. Yine de bazı hatalar bekleyin: hukuki araştırma için yapay zeka araçlarını test eden Stanford araştırmacıları “RAG sistemlerinin bile halüsinasyondan arınmış olmadığını” buldu.

3. Okuduğu malzemeyi temizleyin. Her politika, fiyat listesi ve sözleşme şablonunun tek bir güncel sürümü; eski sürümler klasörden çıkarılmış; her belgenin, kural değiştiğinde onu güncelleyen adı belli bir sorumlusu var. Asistan CRM’inizden yanıt veriyorsa, aynısı oradaki kayıtlar için de geçerli; bunu CRM verileri kalitesi yazımızda ele aldık.

4. Sürekli uydurduğu kuralları yazıya dökün. İade koşulları, teslimat sözleri, indirimler, neyin şikâyet sayıldığı. Riskin yüksek olduğu yerlerde asistana sabit bir ifade verin ya da o konuyu, yanıt gönderilmeden önce bir insanın onayladığı konulardan biri yapın.

5. Görev alanını daraltın. Neye yanıt verdiğini ve neyi kibarca reddettiğini listeleyin. Listenin dışındaki sorular kısa bir ret ve gerektiğinde bir devir alır.

6. İnsanlara bir yapay zekayla konuştuklarını söyleyin. AB’de Yapay Zekâ Yasası, açıkça belli olmadığı durumlarda kişilere bir yapay zekâ sistemiyle etkileşimde olduklarının en geç ilk etkileşimde bildirilmesini şart koşuyor. Yükümlülük sistemin sağlayıcısına ait ve 2 Ağustos 2026’dan beri uygulanıyor. Yapay zeka yanıtlarını etiketlemek beklentileri de belirler: destek botu 2025’te bir kullanım politikası uydurduktan sonra Cursor, e-posta desteğinde yapay zeka yanıtlarını etiketlemeye başladı. Asistan eklediğimiz web sitesi projelerinde, ziyaretçilere bir yapay zekayla konuştuklarını söylemek en başından sayfanın bir parçasıdır.

7. Her değişiklikten sonra yeniden test edin. Yeni belgeler, düzenlenen talimatlar ve tedarikçinin model güncellemeleri, daha önce sorunsuz çalışan soruların yanıtlarını değiştirebilir. Her birinin ardından ve yoğun bir sezondan önce soru setini çalıştırın.

Yapay zeka halüsinasyonlarını tek başına ne durdurmaz?

Genellikle ilk denenen üç düzeltme var: modele halüsinasyon görmemesini söyleyen bir satır, 0 sıcaklık ve kendi metinlerinizle ince ayar. Her biri asistanın yalnızca bir parçasını değiştirir. Eksik bilgiler ve “bilmiyorum” deme izni belgelerden ve talimatlardan gelir; bu düzeltmelerden sonra da yanlış yanıtlar sürüyorsa, önce bunları kontrol edin.

Yanlış yanıtların azaldığını nasıl anlarsınız?

Soru setinden ve gerçek konuşmalardan birkaç sayıyı takip edin; karşılaştıracak bir şeyiniz olsun diye ilk düzeltmeden önce başlayın. Bunları her değişiklikten sonra, asistan oturduktan sonra da düzenli aralıklarla kontrol edin ve toplamların yanında yanlış yanıtların kendisini de okuyun.

• Soru setindeki doğru yanıtlar, doğru yanıtın “bilmiyorum” olduğu sorular dahil.
• Nedene göre haftalık yanlış yanıtlar, gerçek konuşmaları okuyarak. Tekrar tekrar geri dönen neden, sıradaki düzeltmedir.
• Bir insanın devraldığı devirler ve ne kadar bekledikleri. Kimsenin yanıtlamadığı bir devir çoğu zaman müşterinin yine de gitmesiyle sonuçlanır.
• Kaynak gösteren yanıtlar. Kaynaksız yanıtların payı artıyorsa, belgelerin insanların sorduğu soruları hâlâ kapsayıp kapsamadığını kontrol edin.

Biz nerede devreye giriyoruz

Sorularınızdan ve belgelerinizden başlıyoruz: soru seti, doğru yanıtlar ve asistanın kullanması gereken kaynaklar. Ardından asistanı bu malzemeden, görünür bir kaynakla ve önemli olduğu yerde yanıtları bir insanın onayladığı şekilde yanıt verecek biçimde kuruyoruz. Düzenli kalite kontrollerinin bir parçası olarak onu soru setiyle sınamaya devam ediyoruz. Asistanlarınızdan biri şimdiden yanlış yanıtlar veriyorsa, brief bize nerede olduğunu göstermenin en basit yolu.

← Tüm yazılar