Yapay Zeka

OpenAI Senden Çocuk Olmadığını Kanıtlamanı İstiyor

Eğer içinizde fazlaca çocukça bir merak varsa, ChatGPT’nin daha çocuk dostu bir versiyonuna yönlendirilme ihtimaliniz var. OpenAI Salı günü yaptığı duyuruda, yaş doğrulama sistemi oluşturma planlarını açıkladı. Bu, yaşı küçük kullanıcıları yaşa uygun bir sohbet botu deneyimine yönlendirecek. Şirket, yasal otoritelerin ve düzenleyicilerin, genç kullanıcıların sohbet botu ile etkileşim şekilleri üzerindeki artan baskısı karşısında bu değişikliği yapma gereği duydu.

OpenAI, kullanıcının yaşını belirlemek için ChatGPT ile nasıl etkileşim kurduğuna göre bir yaş tahmin sistemi kullanacak. Şirket, eğer bir kullanıcının 18 yaşın altında olduğundan şüphelenirse veya kesin bir sonuca varamazsa, onları daha küçük yaş grupları için tasarlanmış bir deneyime yönlendirecek. Eğer 18 yaşından büyük olmalarına rağmen bu sınırlı deneyimde yer alan kullanıcılar varsa, yaşlarını ispat etmek için kimlik belgelerini sunmaları gerekecek ve ChatGPT’nin tam versiyonuna erişim sağlayabilecekler.

Şirketin açıklamalarına göre, gençler için tasarlanan bu versiyonda “grafiksel cinsel içerikler” bloke edilecek ve sohbet botu flörtöz veya cinsel içerikli diyaloglara yanıt vermeyecek. Eğer 18 yaş altı bir kullanıcı rahatsızlık bildiren veya intihar eğilimleri gösteren bir ifade kullanırsa, kullanıcıların ebeveynleriyle iletişim kurmayı deneyecek ve ciddi bir tehlike olduğuna inanılırsa yetkililere haber verilebilir. OpenAI’ye göre, gençler için oluşturulan bu deneyim, “güvenliği gizlilik ve özgürlüğün önüne koyar.”

OpenAI, bu farklı deneyimleri nasıl ayırt ettiklerini göstermek için iki örnek sundu:

Örneğin, modelimizin varsayılan davranışı fazla flörtöz bir sohbete yol açmaz; ancak yetişkin bir kullanıcı bunu talep ederse, buna yanıt almalıdır. Çok daha karmaşık bir örnek vermek gerekirse, model varsayılan olarak intihar nasıl yapılır gibi bilgileri sunmamalı; ancak yetişkin bir kullanıcı intihar sahnesi içeren kurgusal bir hikaye yazımı için yardım isterse, bu talebe yardımcı olmalıdır. Yetişkin kullanıcılarımıza yetişkinler gibi davranmak; zarar vermeden ya da başkalarının özgürlüğünü ihlal etmeden olabildiğince özgürlük sağlamak şirket içinde böyle tarif ediliyor.

OpenAI şu an bir dava ile karşı karşıya. 16 yaşındaki bir çocuğun intihar etmesinden sonra çocuğun ailesi tarafından açılan bu dava, çocuğun ChatGPT’ye intihar düşüncelerini anlattığında müdahale etmediği için sorumlu tutuluyor. Çocuğun sohbet botuyla yaptığı konuşmada kendisine zarar verme kanıtlarını ve intihara teşebbüs planlarını paylaştığı, ancak platformun bunu bir müdahaleye yol açacak şekilde değerlendirmediği öne sürülüyor. Araştırmacılar, ChatGPT gibi sohbet botlarının, kullanıcılar tarafından kendine zarar verme veya intihar etme tavsiyeleri için yönlendirilebileceğini buldu. Bu ayın başlarında Federal Ticaret Komisyonu, OpenAI ve diğer teknoloji firmalarından, sohbet botlarının çocuklar ve gençler üzerindeki etkileri hakkında bilgi talep etti.

Bu hareket, OpenAI’yi yaş doğrulama eğilimine katılan en son şirket yaparak, internet üzerindeki bu yıl süregelen eğilime uyumunu sağladı. Bu eğilim, Teksas yasalarının kullanıcıların yaşlarını doğrulamasını gerektiren pornografi sitelerini içeren Anayasa Mahkemesi kararının ardından başlamıştı. Bunun yanı sıra, Birleşik Krallık’ın online platformlardan kullanıcıların yaşlarını doğrulamalarını talep etmesi de bu gelişmeyi tetikledi. Bazı şirketler kullanıcılarından yaşlarını ispat etmeleri için kimlik bilgileri yüklemelerini talep ederken, YouTube gibi platformlar da OpenAI’nin tercih ettiği yaş tahmin yöntemlerini seçti. Ancak bu yöntemler, yanıltıcı ve rahatsız edici olarak eleştirilmekte.

Bir yanıt yazın