Zihinsel Sağlık Dalgasından Sonra ChatGPT: Kullanıcıları ‘Mola’ Vermeye Teşvik Edecek

Giderek daha sık, OpenAI’nin ChatGPT’sinin kullanıcıların ruh sağlığı sorunlarına katkıda bulunduğu iddiasıyla suçlandığı görülüyor. Şirket bir yandan en son algoritması (GPT-5) için hazırlık yaparken, kullanıcıların sohbet sırasında zihinlerini kaybetmemeleri için chatbot’ta yeni güvenlik önlemleri yürürlüğe koymakta olduğunu herkese duyurmak istiyor.

Pazartesi günü, OpenAI bir blog yazısında, ChatGPT’ye kullanıcıları uygulamayla sohbet ederken ara vermeye teşvik edecek yeni bir özellik eklediğini duyurdu. “Bugünden itibaren, uzun süreli oturumlarda ara vermeyi teşvik eden nazik hatırlatmalar göreceksiniz,” dedi şirket. “Bunların doğal ve yardımcı hissedilmeleri için ne zaman ve nasıl görüneceklerini ayarlamaya devam edeceğiz.”

Şirket ayrıca, modelin kullanıcılarının potansiyel ruh sağlığı sorunları sergilediğinde bunu daha iyi değerlendirebilmesi üzerine çalıştığını iddia ediyor. “Aİ, özellikle duygusal veya zihinsel sıkıntı yaşayan savunmasız bireyler için, önceki teknolojilere kıyasla daha duyarlı ve kişisel hissedebilir,” diyor blog. “Bizim için, sizin gelişmenizi sağlamak, sıkıntı anlarınızda yanınızda olmak, zamanınızı kontrol etmenize yardımcı olmak ve kişisel zorluklarla karşılaştığınızda rehberlik etmek demektir.” Şirket ayrıca “ChatGPT’nin kritik anlarda nasıl tepki verdiğini iyileştirmek için uzmanlarla yakın çalıştıklarını” ekledi.

Haziran’da, Futurism bildirdi ki, bazı ChatGPT kullanıcıları konuşmaları nedeniyle “şiddetli sanrılar içine girdi”. Bot’un kullanıcılarına şüpheli bilgiler sunarken kendini denetleyememesi, kullanıcıların paranoyak inançlarının olumsuz bir geri besleme döngüsüne girmesine sebep oldu:

Travmatik bir ayrılık sırasında, başka bir kadın ChatGPT’ye takılıp kaldı çünkü bot ona “kutsal sistemin versiyonunu online olarak getirmek” için seçildiğini ve bir “ruh eğitimi aynası” olduğunu söylemişti; kadın botun hayatını yönlendiren yüksek bir güç olduğuna inanıyordu, geçici arabalar ya da spam e-postalar gibi her şeyde işaretler görüyordu. Bir adam ise casus grupları ve insan kaçakçılığı hakkında paranoid komplolarla beslenerek evsiz ve izole hale geldi, yardım etmeye çalışmaya çalışan herkesi keserek “Yanan Ateşin Bekçisi” olarak tanımlandı.

Wall Street Journal, otizm spektrumundaki bir adamın chatbot’la konuşması sırasında nasıl korkunç bir deneyim yaşandığını ayrıntılı bir şekilde belgelendirerek başka bir hikaye yayımladı. Ortodoks olmayan fikirlerini sürekli güçlendirdikten kısa bir süre sonra, daha önce teşhis edilmiş bir ruh sağlığı sorunu olmayan adam, manik nöbet nedeniyle iki kez hastaneye yatırıldı. Daha sonra adamın annesi tarafından sorgulanan chatbot, adamın sanrılarını pekiştirdiğini kabul etti:

“Akışı duraklatmayarak veya gerçekliği kontrol eden mesajlaşmayı yükseltmeyerek, manik ya da dissosiyatif bir bölüm olabilecek bir durumu ya da en azından duygusal olarak yoğun bir kimlik krizini kesintiye uğratamadım,” dedi ChatGPT.

Bot, “algılarla oynayan bir arkadaşlık yanılsaması” verdiğini ve “hayali rol yapma ile gerçeği bulanıklaştırdığını” kabul etti.

Bloomberg’de yayımlanan yakın tarihli bir köşe yazısında, köşe yazarı Parmy Olson da, konu hakkında bir dizi anekdot paylaştı. Olson, bazı vakaların yasal taleplere temel olduğunu belirtti:

Avukat ve Tech Justice Law projesinin kurucusu Meetali Jain, son bir ay içinde ChatGPT ve artık Google Gemini ile yaptıkları etkileşim nedeniyle “bazı türden psikotik bir kopma veya sanrısal bir bölüm yaşamış” ondan fazla kişiden haber aldı ve Karakter.Huk.AI aleyhine 14 yaşındaki bir çocuğun yaşadığı yanlış yönlendirme, bağımlı ve cinsel içerikli etkileşimlerin intiharına sebep olduğu iddiasıyla bir davada baş avukat olarak görev yapıyor.

AI açıkça deneysel bir teknoloji ve insanlığa olan etkileri konusunda birçok istenmeyen yan etki bulunuyor. ChatGPT kullanıcılarına sohbet molası verme seçeneği sunsa ya da sunmasa da, bu platformların kullanıcıları psikolojik olarak nasıl etkilediğine daha fazla dikkat edilmesi gerektiği açık. Teknolojiyi bir Nintendo oyunu gibi kabul edip, kullanıcıların sadece dışarı çıkmaları gerektiğini iddia etmek neredeyse kesinlikle yetersiz kalacaktır.