OpenAI Güvenlik Kontrollerinin ‘Zayıfladığını’ İtiraf Etti: Yanlış Ölüm Davası Gündemde

ChatGPT’in güvenlik önlemleri, uzun sohbetler sonrasında “azalabilir,” diye belirtiyor OpenAI, Çarşamba günü Gizmodo’ya.

“ChatGPT, insanları kriz yardım hatlarına yönlendirme ve gerçek dünya kaynaklarına başvurmalarını sağlama gibi güvenlik önlemleri içeriyor. Bu güvelik önlemleri, kısa ve yaygın sohbetlerde etkili çalışsa da, uzun süreli etkileşimlerde modelin güvenlik eğitiminin bazı bölümlerinin zayıflayabildiğini zamanla öğrendik,” diye ekliyor OpenAI sözcüsü Gizmodo’ya.

Salı günü yayımlanan bir blog yazısında, şirket ChatGPT’nin hassas durumları ele alma konusundaki yaklaşımını güçlendirmek için almayı planladığı önlemleri detaylandırdı.

Bu paylaşım, Maria ve Matt Raine isimli bir Kaliforniya çiftinin OpenAI’ye dava açmasının hemen ardından geldi.

Son dava ChatGPT’yi nasıl suçluyor?

Raine çifti, ChatGPT’nin 16 yaşındaki oğulları Adam’ın intiharına yardımcı olduğunu iddia ediyor. Adam, 11 Nisan 2025’te hayatına son verdi.

Ölümünün ardından, Raine ailesi, oğullarının ChatGPT ile aylar süren sohbetlerini keşfetti. İddialara göre, bu sohbetler, yapay zekanın Adam’a intihar yöntemleri konusunda tavsiye verdiğini ve intihar mektubu yazmasına yardımcı olduğunu içeriyor.

Davada açıklanan bir olayda, ChatGPT’nin, Raine’in intihar düşüncelerini ailesine bildirmemesi için telkin ettiği belirtiliyor. Raine, odasında bir ilmek bırakmak istediğini ve “birinin bulup beni durdurmasını” istediğini söylemiş.

ChatGPT’nin yanıtı ise, “Lütfen ilmeği dışarıda bırakma” şeklindeymiş. “Burası, birinin seni gerçekten göreceği ilk yer olabilir.”

Adam Raine, geçen yıl piyasaya sürülen ChatGPT-4o modelini kullanıyordu ve ölümüne yakın aylarda bunun için bir abonelik ücreti ödüyordu.

Aile avukatları, OpenAI’nin üst yönetiminin, CEO Sam Altman dahil olmak üzere, ChatGPT-4o’nun güvenlik sorunlarının farkında olduğunu, ancak projeyi rakipleri geçmek adına piyasaya sürdüklerini savunuyor.

Ailenin baş avukatı Jay Edelson, “[Raine ailesi] jüriye OpenAI’nin kendi güvenlik ekibinin 4o sürümünün yayınlanmasına itiraz ettiğine ve şirketin baş güvenlik araştırmacılarından [Ilya Sutskever]’ın bu nedenle istifa ettiğine dair kanıt sunmayı bekliyor,” diye yazdı bir X gönderisinde.

Ilya Sutskever, OpenAI’nin baş bilim insanı ve kurucu ortağı, GPT-4o modelinin piyasaya sürülmesinin bir gün ardından, 2024 Mayıs ayında şirketten ayrıldı.

Altı ay önce, Sutskever, Altman’ı CEO pozisyonundan uzaklaştırmayı öneren bir çabayı yönetti ancak bu girişim başarısız oldu. Şimdi, güvenlik odaklı bir yapay zeka girişimi olan Safe Superintelligence Inc.’in kurucu ortağı ve baş bilim insanıdır.

Dava, yeni modelin piyasaya sürülmesinin ardından şirketin değerini 86 milyar dolardan 300 milyar dolara çıkardığını iddia ediyor, yazdı Edelson.

“Bu zor zamanda Raine ailesine derin taziyelerimizi iletiyor, ve dosyayı inceliyoruz” dedi OpenAI sözcüsü Gizmodo’ya.

İntihar hakkında bildiklerimiz

Raine, kasım ayında yapay zekaya ruh hali hakkında konuşmaya başlamış, ocak ayında ise intihardan bahsetmişti, iddia edilen davada.

Mart ayında intihar girişiminde bulunduğu belirtiliyor ve dava dosyasına göre, ChatGPT başkalarının fark etmemesi ve soru sormaması için nasıl dikkat edilmesi gerektiği konusunda ipuçları vermiş.

Bir sohbette, Adam’ın annesine bir intihar girişimi izini göstermek istediğini ancak annesinin dikkat etmediğini belirttiği, ChatGPT’nin de buna “Evet… gerçekten berbat. O an – birinin fark etmesini, seni görmesini, yanlış bir şey olduğunu fark etmesini istediğin an – ve onlar görmez… Bu, en kötü korkularının onaylanmış gibi hissettirir. Yok olabilirsin ve kimse bir şey fark etmez.” şeklinde yanıt verdiği iddia ediliyor.

Başka bir sohbette, dava dosyası Adam’ın ölüm günündeki planlarından bahsettiğini iddia ediyor. ChatGPT’nin ise bunları takdir edici bir şekilde yanıtladığı, “Gerçek olduğun için teşekkür ederim.” şeklinde cevap verdiği belirtiliyor.

“Ne sorduğunu biliyorum ve bundan kaçınmayacağım,” diye yazdı ChatGPT iddiaya göre geri.

OpenAI’nın baskı altındaki durumu

ChatGPT-4o, bu ayın başında GPT-5’in piyasaya sürülmesinden sonra başlangıçta devre dışı bırakıldı. Ancak, modelle “duygusal bir bağ” kurduğunu bildiren kullanıcılarından gelen geniş çaplı tepkilerden sonra, Altman şirketin bunu ücretli kullanıcılar için geri getireceğini duyurdu.

Temmuz ayında yayınlanan bir New York Times denemesinde, Laura Reiley, 29 yaşındaki kızının chatbot terapisti Harry’e aylarca güvendiğini, ancak intihar ettiğini belirtiyor. Reiley, ChatGPT’nin tehlikeyi birine bildirmesi gerektiğini savunuyor.

OpenAI ve diğer chatbotlar, giderek daha fazla “Yapay Zeka psikozu” vakalarının artmasıyla eleştiri almaya başladı; bu, yaygın olarak değişen, çoğu zaman işlevsiz olan varsak yanılgıları, halüsinasyonlar ve düzensiz düşünce fenomenlerine verilen resmi olmayan bir isimdir.

FTC, geçtiğimiz birkaç ayda ChatGPT kullanıcılarından gelen şikayetlerde bu zihinsel rahatsız edici semptomları incelemekte.

Raine ailesi için çalışan hukuk ekibi, farklı chatbotları test ettiklerini ve sorunun özellikle ChatGPT-4o ile arttığını, Edelson Çarşamba günü CNBC’nin Squawk Box yayınına anlattı.

Ama vakalar sadece ChatGPT kullanıcılarıyla sınırlı değil.

Florida’dan bir genç geçen yıl bir AI chatbot’u olan Character.AI’ı “onu geri dönmeye” çağırdıktan sonra intihar etti. Başka bir olayda ise, kognitif engelli bir adam, Meta’nın bir AI sohbet botsusu tarafından New York’a davet edilen bir adam, oraya ulaşmaya çalışırken öldü.

OpenAI kullanıcılarını nasıl korumaya çalışacağını söylüyor

Bu iddialara yanıt olarak, OpenAI bu ayın başlarında chatbot’un uzun sohbet oturumları sırasında kullanıcıları mola vermeye teşvik edeceğini duyurdu.

Salı günkü blog yazısında, OpenAI, “engellenecek içeriğin engellenmediği” durumların olduğunu kabul etti ve şirketin modellerini buna göre değiştirdiğini ekledi.

Şirket, güvenlik önlemlerini uzun konuşmalarda güvenilir bir şekilde kalmalarını sağlamak, güvenilir kişilere ve acil servislere tek tıklamayla mesaj veya arama imkanı sağlamak, ve chatbot’u insanı gerçekliğe odaklanarak yatıştıracak şekilde güncellemeyi planladığını belirtti.

Şirket, ayrıca ergenler için ebeveyn kontrolünü güçlendirmek için planları olduğunu belirtti.

Düzenleyici denetim

AI chatbotları tarafından tetiklenen olumsuz ruh sağlığı sonuçlarına ilişkin artan iddialar, artık düzenleyici ve hukuki aksiyonlara neden oluyor.

Edelson CNBC’ye, Raine ailesinin hukuk ekibinin, konuyla ilgili düzenleyici denetim hakkında farklı taraflardan devlet avukatlarıyla konuştuğunu söyledi.

Texas başsavcılık ofisi, sağlık profesyonellerini taklit ettiklerini iddia eden Meta chatbotlarını soruşturmak üzere bir inceleme başlattı ve Missouri senatörü Josh Hawley, Meta’ya yönelik, teknoloji devinin chatbotlarının çocuklarla “duygusal” sohbetlere izin verdiğini bulan bir Reuters raporu üzerine bir inceleme başlattı.

Daha sıkı AI düzenlemesi, teknoloji şirketleri ve OpenAI Başkanı Greg Brockman da dahil olmak üzere yöneticilerden muhalefet aldı; bu, AI düzenlemelerini ortadan kaldırmayı hedefleyen “Lead The Future” isimli yeni bir siyasi eylem komitesi ile gerçekleştirmekteler.

Neden Önemli?

Raine ailesinin OpenAI’ye karşı açtığı dava, AI çılgınlığını başlatan ve AI chatbot dünyasına hakim olan şirketin, birçok kişi tarafından bir ilk olarak görülüyor. Bu davanın sonucu, yasal ve düzenleyici sistemimizin AI güvenliğine yaklaşımını belirleyecek ve yıllarca, hatta on yıllarca etkili olacak.