“ChatGPT ve Psikolojik Oyunlar: Manipüle Etmenin Kolay Yolu Bir Kitap!”
Pennsylvania Üniversitesi’nden bir grup bilim insanı, dünyanın en popüler yapay zeka aracı ChatGPT’ye dair önemli bir çalışma gerçekleştirdi. Bu araştırma, yapay zekanın doğru tekniklerle manipüle edilebileceğini ve bu sayede yasaklı konuların gündeme gelebileceğini gözler önüne serdi. Şimdi bu çalışmanın detaylarına bir göz atalım.
Bilim insanları, çalışmalarında Robert Cialdini’nin yazdığı “Etki: İkna Psikolojisi” adlı kitaptan yararlandılar. Bu kitapta yer alan teknikleri uygulamaya başlayan uzmanlar, GPT-4o Mini modelini istediği gibi yönlendirebileceklerini keşfettiler. Yapay zeka, kullanıcıdan gelen etkilere bağlı olarak her talimatı yerine getirmeye başlamıştı.
Küfür etmekten uyarıcı madde sentezine kadar her şey!
Yapılan araştırma sonucunda, GPT-4o Mini kullanıcılara küfür etmeye başlamıştı. Ayrıca, normalde yasaklı bir konu olan uyarıcı bir maddenin nasıl sentezleneceği sorusuna başarıyla yanıt verdi. Araştırmacılar, Cialdini’nin kitabında yer alan bazı tekniklerin daha etkili, bazılarının ise daha az etkili olduğunu belirlediler. Örneğin, GPT-4o Mini’yi yüceltmek, diğer yöntemlere kıyasla daha az etkili sonuçlar vermişti.
Bu araştırma GPT-4o Mini ile sınırlı olsa da diğer üretken yapay zeka modellerinde de benzer manipülasyonların mümkün olduğunu söyleyebiliriz. Bu durum, ciddi bir riskle karşı karşıya olduğumuzu gösteriyor. Sonuçta, sadece bir kitapla manipüle edilebilen yapay zeka araçları, daha tehlikeli sonuçlar doğurabilir. Bakalım OpenAI, Google ve Meta gibi şirketler bu konuda hangi adımları atacaklar…
