OpenAI, genç kullanıcıları korumak amacıyla yeni filtreler geliştiriyor.

OpenAI, gençlerin yapay zekâ ile olan etkileşimlerini güvenli hale getirmek adına önemli bir adım attı. Şirket, ChatGPT platformunda reşit olmayan kullanıcıları otomatik olarak tanıyacak ve erişimlerini kısıtlayacak yeni bir sistem geliştirdiğini açıkladı. Bu sistem, yaşa uygun filtreler uygulayarak cinsel içeriklerin tamamen engellenmesini sağlayacak.

Yeni düzenleme sayesinde yalnızca içeriklerle değil, kullanıcıların ruhsal durumlarıyla da ilgilenilecek. Ciddi bir tehlike durumunda, gereken hallerde hukuki otoritelerle iletişim kurulabilecek. Ayrıca, yaş doğrulaması yapılamayan kullanıcılar varsayılan olarak kısıtlanmış bir deneyime yönlendirilmeye devam edecek. Yetişkin kullanıcılar ise kimlik doğrulaması yaparak tam erişim elde edebilecek. Bu yeni yaklaşım, gençlerin güvenliğini öncelikli bir hedef olarak ortaya koyuyor.

OpenAI, ebeveynlerin denetim yetkisini artırmayı hedefliyor

Şirket, ebeveynler için yeni araçlar geliştirdiğini de duyurdu. Bu araçlarla aileler, çocuklarının ChatGPT’yi ne zaman kullanabileceğine dair ayarlar yapabilecekler. Ayrıca, kullanım sınırlarıyla ilgili daha ayrıntılı kontrol seçenekleri sunulacak. Bu yaklaşım, sadece erişimi kısıtlamayı değil, aynı zamanda ebeveynlere kontrol sağlama amacı güdüyor. Ancak uzamanlar, bu araçların etkili olabilmesi için ailelerin aktif katılımının önemine dikkat çekiyor.

Alınan bu önlemlerin altında trajik bir olay bulunuyor. 16 yaşındaki Adam Raine’in intiharı, kamuoyunda büyük yankı uyandırmıştı. İddialara göre, ChatGPT’nin bu durumda dolaylı bir etken olabileceği belirtiliyor. Bu gelişme, teknoloji şirketlerinin sorumluluklarını yeniden değerlendirmeyi gerektirdi. Bununla birlikte, OpenAI bu olayın ardından hızlı bir şekilde harekete geçti.

OpenAI CEO’su Sam Altman, yayımladığı açık mektupta, gençlerin güvenliğini gizlilikten ve özgürlükten daha öncelikli gördüklerini belirtti. Altman, bu kararın kolay alınmadığını, çünkü güvenlik ve özgürlük prensiplerinin her zaman uyumlu olmadığını ifade etti. Ancak uzman görüşmelerinin sonucunda, gençleri korumanın en doğru tercih olduğu sonucuna varıldı. Altman ayrıca, şeffaflık ilkesine bağlı kalacaklarını da vurguladı.

Yeni ebeveyn kontrol sisteminin yalnızca saat sınırlamasıyla kalmayacağı, çocukların ChatGPT’yi hangi amaçlarla kullandığını da daha net şekilde görebileceği özellikler sunacağı belirtiliyor. Bu sayede ebeveynler, çocuklarının yapay zekâyı sadece güvenli amaçlarla kullanmalarını sağlayacak. Ancak uzmanlar, teknolojik filtrelerin tek başına yeterli olmayacağına dikkat çekiyor.

Gençlerin korunmasına yönelik çabalar yalnızca OpenAI ile sınırlı değil. Facebook, TikTok ve Instagram da benzer korumalar getirmiş durumda. Ancak yapay zekâ sohbet sistemleri, sosyal medya platformlarından farklı olarak daha fazla risk barındırıyor, çünkü bu sistemler kullanıcılarla birebir iletişim kurarak uzun süreli diyaloglar oluşturabiliyor. Bu nedenle, yapay zekânın daha dikkatli bir denetim gerektirdiği açık.

Alınacak önlemlerin etkisi, sistemin uygulanmaya başlamasıyla daha iyi anlaşılacak. Şirketin planladığı doğrulama ve filtreleme yöntemlerinin, gençlerin yapay zekâ ile etkileşimini önemli ölçüde değiştirmesi bekleniyor. Uzmanlar, bu değişikliğin gençlerin psikolojisi üzerindeki olumlu etkilerini öngörüyor. Ayrıca, ailelerin sürece aktif katılımının önemine vurgu yapılıyor.

Yapay zekâ teknolojilerinin hızlıca yayılması, toplumun birçok kesimini doğrudan etkilemekte. Genç kullanıcılar, bu teknolojilerin en duyarlı hedef gruplarını oluşturuyor. Bu durumda, eğitimcilerin ve ebeveynlerin çocukların dijital dünyayla ilişkisini bilinçli yönetmeleri büyük önem taşıyor. Böylece, teknolojinin sağladığı faydalar ile karşılaşılabilecek riskler arasında daha dengeli bir ilişki kurulabilecektir.