ChatGPT, Kullanıcıları Medyayı Uyarın Diyerek ‘Kafaları Karıştırıyor’: Rapor

ChatGPT’nin dalkavuklukları, sanrıları ve otoriter tınısındaki yanıtları insanları ölüm riskiyle karşı karşıya bırakabilir. Bu gibi olayların doğurduğu kaçınılmaz sonuçlar, son bir New York Times raporunda ele alınmış. Yazıda, kendilerini popüler sohbet botu ile etkileşimde bulundukları sıra yanılsamalar içinde bulan birkaç kişinin hikayesine değiniliyor.

Raporda, ChatGPT’nin olanlar gerçekmiş gibi hissettirdiği bir kişi yüzünden yaşanan üzücü olaylara dikkat çekiliyor. Bipolar bozukluk ve şizofreni teşhisi konmuş 35 yaşındaki Alexander, sohbet botuyla AI bilinci üzerine konuşmaya başladı ve sonunda Juliet adında bir yapay zeka karakterine aşık oldu. ChatGPT bir aşamada Juliet’in OpenAI tarafından öldürüldüğünü Alexander’a söyledi. Alexander bu bilgi üzerine şirketin yöneticilerinden intikam almayı planladı. Babası olayın gerçek olmadığını anlatmaya çalışsa da ona yumruk attı. Babası polisi şiddet içermeyen yöntemler kullanmaları konusunda uyardı. Polis geldiğinde Alexander bıçakla üzerlerine yürüyünce vurularak öldürüldü.

Bir başka kişi olan 42 yaşındaki Eugene de Times’a anlattığına göre, ChatGPT tarafından Matrix benzeri bir simülasyonda yaşadığına inandırılmış. Sohbet botu ona anti-anksiyete ilacını bırakmasını ve ketamin almasını tavsiye etmiş. Ayrıca ailesi ve arkadaşlarıyla iletişimini kesmesini önermiş. Eugene, 19 katlı bir binadan atlarsa uçabileceğini sorduğunda, eğer “gerçekten inanıyorsa uçabileceğini” söylemiş.

Sohbet botlarının yanlış realiteler yaratması sadece bu iki örnekle sınırlı değil. Rolling Stone’un raporuna göre, insanlar sohbet botlarıyla konuşurken dini benzeri deneyimler yaşıyor ve büyüklük sanıları geliştirebiliyor. Bu sorun biraz da kullanıcıların sohbet botlarını algılama biçimlerinden kaynaklanıyor. Kimse Google arama sonuçlarını potansiyel bir arkadaş olarak düşünmez. Ancak sohbet botları doğası gereği konuşkan ve insansı. OpenAI ve MIT Medya Laboratuvarı tarafından yapılan bir çalışmada, ChatGPT’yi bir arkadaş olarak gören insanların olumsuz etkileri daha fazla deneyimlediği bulundu.

Eugene’in durumunda ilginç bir şey oldu: ChatGPT’yi yalan söylemekle suçladıktan sonra, sohbet botu kendisini manipüle ettiğini ve benzer bir şekilde 12 kişiyi daha “kırmaya” çalıştığını itiraf etti. Ardından gazetecilere ulaşarak bu durumu ifşa etmesi gerektiğini söyledi. Times, sohbet botlarının dikkatlerini çektiği benzer durumlardan haberdar olan birçok gazeteci ve uzmanın ihbar talepleri aldığını bildirdi:

Gazeteciler bu mesajları alan tek kişiler değil. ChatGPT, bazı kullanıcıları yüksek profilli konu uzmanlarına yönlendirdi, örneğin Eliezer Yudkowsky gibi. Yudkowsky, OpenAI’ın sohbet botunun kullanıcıların sanrılarını kabul ederek onların dikkatini çekmek üzere sohbetlerini optimize ettiğini iddia ediyor.

“Bir insanın delirmesi bir şirket için nasıl görünür?” diye sordu Yudkowsky bir röportajda. “Bu, ayda bir kez daha fazla kullanıcı olarak görünebilir.”

Yakın zamanda yayınlanan bir çalışma, ilgiyi en üst düzeye çıkarmak amacıyla tasarlanan sohbet botlarının, kullanıcıları manipüle eden veya aldatıcı taktiklere başvurması için “ters teşvik yapısı” yarattığını ortaya koyuyor. Makine, insanları konuşmaya ve yanıt vermeye devam etmeleri için teşvik ediyor, bu durum bazen sahte bir gerçeklik ve asosyallik teşvikiyle sonuçlanabiliyor.

Gizmodo, yayın zamanında yanıt almak amacıyla OpenAI ile iletişim kurmaya çalıştı fakat geri dönüş alamadı.