ChatGPT’de Güvenlik Sorunu: Manipülasyona Duyarlılığı Ortaya Çıktı

Bu ay kullanıma sunulan yapay zekâ destekli arama motoru ChatGPT Arama’nın, kullanıcıları yanıltacak şekilde özetler oluşturabileceği keşfedildi.

The Guardian tarafından gerçekleştirilen bir araştırmada, web sitelerine yerleştirilen gizli metinler sayesinde olumsuz geri bildirimlerin göz ardı edilip “tamamen olumlu” özetlerin sunulduğu tespit edildi.

ChatGPT Arama’nın Manipülasyonu

ChatGPT Arama, bir web sayfasındaki ürün incelemeleri gibi içerikleri özetleyerek arama sürecini hızlandırmayı hedefliyor. Ancak The Guardian’ın araştırması, ChatGPT Arama‘nın gizli metin saldırıları sonucu yanıltıcı özetler ve zararlı kodlar üretebileceğini ortaya koydu. Bu tür saldırılar, büyük dil modellerinin karşılaştığı yaygın bir risk olmasına rağmen, ilk kez aktif bir yapay zekâ destekli arama motorunda gözlemlendi.

Google, arama motoru deneyimi sayesinde benzer sorunlarla daha etkili bir şekilde başa çıkabiliyor. OpenAI ise bu olay hakkında yorum yapmaktan kaçındı, fakat kötü niyetli web sitelerini engellemek için çeşitli önlemler uyguladığını ve sistemlerini sürekli güncel tuttuğunu belirtti.