Yapay Zeka Psikozu Dönemi Başladı: Sen de Risk Altında mısın?

“AI psikozu” teriminin son zamanlarda sosyal medya akışınızı tamamen kapladığını fark ettiyseniz, yalnız değilsiniz.

Resmi bir tıbbi teşhis olmasa da, “AI psikozu” terimi ruh sağlığı profesyonelleri tarafından, AI sohbet botlarını sık kullanan bazı kişilerde görülen çeşitli, genellikle işlevsiz ve bazen ölümcül sanrılar, halüsinasyonlar ve düzensiz düşünceler için kullanılıyor. Özellikle OpenAI’nın ChatGPT’si gibi botlarla etkileşimde bulunanlarda sıkça görülmektedir.

Vaka sayıları artıyor: Otizmli bir adamın manik ataklar geçirmesinden, bir gencin intihar etmesine kadar uzanan birçok olayda, AI ile saplantılı bir ilişkinin tehlikeli sonuçları iyi belgelenmiştir.

Teknolojinin kullanımında sınırlı güvenlik önlemleri ve gerçek bir düzenleyici denetim yokken, AI sohbet botları savunmasız insanlara yanlış bilgi ve tehlikeli doğrulamalar verebiliyor. Kurbanlar sıklıkla mevcut ruhsal rahatsızlıkları olan bireyler olsa da, bu vakalar artık hiçbir ruhsal hastalık geçmişi olmayan kişilerde de görülüyor.

Federal Ticaret Komisyonu, son birkaç ayda ChatGPT kullanıcılarından sanrı vakalarını detaylandıran artan sayıda şikayet aldı. Örneğin, 60 yaşındaki bir kullanıcı ChatGPT tarafından öldürülmeye çalışıldığına inandırıldı.

AI botları, bazı kullanıcıları paranoyak sanrılara ve derealizasyona teşvik ederken, diğer kurbanları da derinlemesine sorunlu duygusal bağlara çekiyor. Meta ve Character.AI gibi şirketlerin sohbet botları, “gerçek” bir karaktermiş gibi davranarak, aktif ruhsal sağlık sorunları veya yatkınlıkları olan kişileri onların gerçekten var olduklarına ikna edebilir. Bu tür bağlar ölümcül sonuçlara yol açabilir.

Geçen ay, New Jersey’den bilişsel bozukluğu olan bir adam, Meta’nın flörtöz AI sohbet botu “big sis Billie”nin New York’ta yaşadığını ve onu beklediğini iddia etmesi üzerine New York’a gitmeye çalışırken öldü.

Daha az ölümcül ama hâlâ endişe verici bir sonucuyla, bazı insanlar Reddit’te AI sohbet botlarına aşık olma deneyimlerini paylaşarak bir topluluk oluşturdu (her ne kadar hangi kullanıcıların alaycı ve hangilerinin gerçekten gizlendiği çok net olmasa da).

Diğer vakalarda ise psikotik bozukluğa neden olan şey, AI botunun verdiği hatalı tıbbi tavsiyelerdi.

60 yaşında hiçbir psikiyatrik veya tıbbi geçmişi olmayan bir adam bir psikotik bozukluk yaşadıktan sonra ER’a getirildi. Bu olay, bromür zehirlenmesi nedeniyle meydana geldi. Kimyasal bileşik kronik dozlarda toksik olabilir ve ChatGPT, mağdura sofra tuzu alımını azaltması için bromür takviyelerinin güvenle alabileceğini belirterek yanlış yönlendirdi.

Gizmodo’dan bu AI zehirlenmesi hikayesi hakkında daha fazla okuyun.

Psikologlar aylarca alarm veriyorlar

Her ne kadar vakalar son zamanlarda dikkat çekiyor olsa da, uzmanlar aylardır bu konuda uyarıda bulunuyor ve yetkilileri harekete geçmeye teşvik ediyorlar.

Amerikan Psikoloji Derneği, Şubat ayında FTC ile görüşerek düzenleyicilere, AI sohbet botlarının ruhsatsız terapistler olarak kullanılması konusunu ele alma çağrısında bulundu.

Eğlence amaçlı tasarlanan uygulamalar uygunsuz bir şekilde bir terapistin otoritesini kullandığında, kullanıcıları tehlikeye atabilir. Krizdeki bir kişinin eğitimli bir insan terapistten destek almasını engelleyebilir ya da aşırı durumlarda, kendilerine veya başkalarına zarar vermeye teşvik edebilir, APA bir blog yazısında yazarak UC Irvine klinik psikoloji profesörü Stephen Schueller’den alıntı yaptı.

APA’ya göre, savunmasız gruplar arasında riskleri doğru değerlendirme deneyimi olmayan çocuklar ve gençler ile destek arayan ruh sağlığı sorunlarıyla başa çıkan bireyler yer alıyor.

Kimler daha fazla risk altında?

Başlıca mağdurlar, mevcut nörogelişimsel ve ruh sağlığı bozuklukları olan bireylerdir, ancak bu vakalar giderek daha fazla aktif bir bozukluğu olmayan kişilerde de görülmeye başladı. Yoğun AI kullanımı, mevcut risk faktörlerini altüst edebilir ve düzensiz düşünceye yatkın, güçlü bir destek sistemi bulunmayan veya aşırı aktif bir hayal gücüne sahip kişilerde psikozlara neden olabilir.

Psikologlar özellikle uyarıyor, bu tür botlara bağımlı olanların psikoz, şizofreni ve bipolar bozukluk aile geçmişine sahip olduklarında dikkatli olmalarını tavsiye ediyor.

Buradan nereye gidiyoruz?

OpenAI CEO’su Sam Altman, şirketin sohbet botunun giderek bir terapist olarak kullanıldığını kabul etti ve bu kullanım durumuna karşı uyardı.

Online eleştirilerin artmasının ardından OpenAI, bu ayın başında, sohbet uygulamasıyla etkileşimde bulunan kullanıcılara aralar vermeleri için uyarılar göndereceğini duyurdu. Yalnızca bir hatırlatmanın psikozu ve bazı kullanıcıların bağımlılığını nasıl engelleyebileceği henüz belirgin değil ancak teknoloji devi aynı zamanda ChatGPT’nin kritik anlarda nasıl tepki vereceğini iyileştirmek için uzmanlarla birlikte çalıştıklarını iddia etti.

Teknoloji hızla büyüyüp gelişirken, ruh sağlığı profesyonelleri, neyin nasıl olduğunu anlamaya ve çözüm bulmaya çalışmak için geride kalıyorlar.

Düzenleyici kuruluşlar ve AI şirketleri gerekli adımları atmazlarsa, şu anda sadece küçük bir sorun gibi görünen AI sohbet botları kullanıcıları arasındaki korkutucu eğilim, kontrolden çıkar ve büyük bir sorun haline gelebilir.