ChatGPT’ye bu konuda itimat etmeyin: Yanlış bilgi veriyor!

ChatGPT’nin “hızlı ve doğru bilgiye erişim” hedefiyle geliştirilen arama motoru, iddialı bir şekilde karşımıza çıkmışt. Ancak, Columbia Üniversitesi Tow Dijital Gazetecilik Merkezi’nin gerçekleştirdiği son testler, bu iddiaların ciddi eksikliklerle dolu olduğunu ortaya koydu. Araştırma, ChatGPT’nin haber aramalarında hem tutarsız sonuçlar ürettiğini hem de yanlış bilgileri güvenle sunduğunu kanıtladı. İşte detaylar…

ChatGPT haber arama konusunda güvenilir mi?

ChatGPT, sunduğu bazı örneklerde, Orlando Sentinel gazetesinde yayımlanan bir okuyucu mektubunu Time dergisinin haberi olarak aktardı. Ayrıca, New York Times’a ait bir makale, izinsiz kopyalayan bir siteye atfedildi. Araştırmacılar, ChatGPT’ye 20 farklı kaynaktan alınan 200 alıntının kaynağını sordu. İşte sonuçlar:

• 153 yanlış yanıt: Alıntılar tamamen yanlış kaynaklara atfedildi ya da eksik bilgilerle sunuldu.
• 7 doğru yanıt: Sadece 7 durumda ChatGPT, “Bu bilgiyi bulamıyorum” diyerek doğru bir cevap veremedi. Ancak yanıtlar, “görünüşe göre,” “muhtemelen,” ya da “tam olarak bulamadım” gibi tereddüt belirten ifadelerle sunuldu.

ChatGPT’den gizemli sansür: Size bunları asla söylemeyecek!

ChatGPT bazı isimlere sansür uyguluyor. Kullanıcılar, bu isimleri girdikten sonra yanıt alamadıklarını fark etti.

OpenAI, test sonuçlarının ürünlerinin “alışılmadık bir şekilde değerlendirildiğini” savunarak, bu tür sorunların veri eksikliğinden kaynaklandığını ifade etti. Yine de arama sonuçlarını iyileştirmek üzere çalıştıklarını ve sistemin doğruluk oranını artırmayı hedeflediklerini belirttiler.

ChatGPT’nin, arama sonuçlarını oluştururken kaynaklarına dayalı bir açıklama yapmaması, en büyük sorunlardan biri olarak değerlendiriliyor. Sistem, özellikle izin verilmeyen sitelerden bilgi edinemediğinde bile eksik ya da yanlış bilgiler üreterek bir “güvenli yanılgı” oluşturuyor. Böylece, kullanıcılar yanıltıcı bilgilerle karşılaşabiliyor.

Peki, bu konuda sizin görüşleriniz nelerdir? Sizce yapay zekanın haber aramalarındaki bu tür eksiklikler nasıl giderilebilir? Düşüncelerinizi aşağıdaki yorumlar bölümünde paylaşabilirsiniz.