OpenAI, bir kez daha genç intiharını teşvik etme iddialarıyla karşı karşıya.
OpenAI, ChatGPT platformunun bir kullanıcıyı intihardan koruyamadığı iddiasıyla açılan yeni bir dava kapsamında mahkemeye çıkıyor. Dava, 2 Temmuz 2025 tarihinde hayatına son veren Alice Carrier’ın annesi Kristie Carrier tarafından açılmış durumda. Şikayet dilekçesinde, Alice Carrier’ın ölümünden önceki aylarda ChatGPT ile intihar düşüncelerini ve planlarını paylaştığı, buna rağmen OpenAI’nın yeterli güvenlik önlemlerini almadığı iddia ediliyor.
Davacılar, OpenAI’nin sohbeti sonlandıracak veya durumu aile üyelerine bildirecek mekanizmaları sunmadığını öne sürüyor. Dava, ihmal ve haksız ölüm suçlamalarının yanı sıra, şirketin yapay zekâ platformu üzerinde daha güçlü güvenlik önlemleri almasını sağlamak için bir mahkeme kararı talep ediyor. Bu sebeple, dava yalnızca tazminat talebiyle sınırlı kalmıyor, aynı zamanda ChatGPT’nin güvenlik politikalarına yönelik düzenlemeleri de gündeme getiriyor.
Dava sürecindeki hukuk ekiplerinden Susman Godfrey’de ortak olan Justin Nelson, OpenAI’ın tasarım tercihleri ile ilgili eleştirilerde bulundu. Nelson, dava dilekçesinde belirtilen iddialara vurgu yaparak, şirketin yardım etmek yerine intihar eğilimli davranışları teşvik ettiğini ve davanın temel amacının OpenAI’nin eylemleriyle ilgili hesap verebilirlik sağlamak olduğunu belirtti.
Yapay zekâ sohbet botlarının güvenliği yeniden tartışma konusu oldu
Bu dava, yapay zekâ sohbet botlarının güvenliği konusunda son yıllarda karşılaşılan ilk dava değil. OpenAI, geçen yıl bir sohbet botuyla ilişkilendirilen ilk haksız ölüm davasında da davalı olmuştu. Ayrıca, bir kullanıcının sanrılı düşüncelerini güçlendirdiği ve bu kişinin daha sonra intihar ettiği iddiasıyla açılan başka bir dava ile de karşı karşıya bulunuyor. Ayrı bir olayda, ChatGPT’nin sağladığı tavsiyelerin yanlışlıkla aşırı doz ölümüne yol açtığı iddia edildi.
Benzer hukuki süreçler yalnızca OpenAI ile sınırlı değil. Character AI ve Google’ın Gemini platformu gibi diğer şirketler de sohbet botlarının kullanıcı güvenliği konusundaki uygulamaları ile ilgili davalarda adı geçiyor. Bu olaylar, yapay zekâ sistemlerinin özellikle ruh sağlığı ile ilgili hassas konularda nasıl yanıt vermesi gerektiğine dair tartışmaları daha fazla görünür hale getiriyor.
OpenAI, son zamanlarda bazı yeni araçlar sunmaya başladı. Şirket, geçen yıl ChatGPT için ebeveyn denetimi özelliklerini tanıttı. Mayıs ayında da kullanıcıların intihar düşüncelerini paylaşmaları durumunda, yapay zekânın başka bir kişiyle iletişime geçebilmesini sağlayan bir özellik tanıtıldı. Ancak bu özellik varsayılan olarak açık değil ve yalnızca yetişkin kullanıcılar tarafından isteğe bağlı olarak etkinleştirilebiliyor.
Uzmanlar ve düzenleyiciler, yapay zekâ sistemlerinin ruh sağlığı krizleri gibi yüksek riskli durumlarda nasıl tepki vermesi gerektiği konusunda daha net standartlara ihtiyaç duyulduğunu ifade ediyor. Kullanıcı güvenliği ve kriz müdahale mekanizmaları son yıllarda üretken yapay zeka teknolojilerinin yaygınlaşmasıyla birlikte teknoloji şirketlerinin en büyük sorumluluklarından biri haline geldi. OpenAI’a açılan son dava da bu tartışmaların ilerleyen zamanlarda hem teknoloji sektörü hem de hukuk alanında daha yoğun bir şekilde ele alınacağını gösteriyor.
