Kaliforniya: Yapay Zeka Sohbet Botları Kullanıcılarına İnsan Olmadıklarını Hatırlatsın!

Chatbotlar Turing testini başarıyla geçse bile, Kaliforniya’da faaliyet gösterenler işleri zor olacak. Kaliforniya Senatörü Steve Padilla tarafından önerilen yeni bir yasa tasarısı, çocuklarla etkileşimde bulunan chatbotların zaman zaman bir makine ve gerçek bir insan olmadıklarını hatırlatmalarını gerektirecek.

Yasa tasarısı, SB 243, şirketlerin çocukları korumak için gereken koruyucuları düzenleme çabasının bir parçası olarak tanıtıldı. Tasarı kapsamında şirketlerin yerine getirmesi gereken bazı koşullar şunlar: kullanıcı katılımını veya kullanımını artırmak için “ödül sağlamayı” yasaklamak, şirketlerin sağlıktan sorumlu eyalet departmanına intihar düşüncesi gösteren çocukların sıklığını rapor etmelerini zorunlu kılmak ve periyodik olarak chatbotların yapay zeka ürünü olduğunu ve insan olmadığını hatırlatmak.

Bu son madde özellikle günümüz açısından önemli çünkü çocukların bu sistemlere oldukça duyarlı olduğu gösterildi. Geçen yıl, 14 yaşında bir çocuk, popüler kültür karakterlerine göre modellendirilmiş chatbotlar oluşturan Character.AI tarafından erişilebilir hale getirilen bir chatbot ile duygusal bir bağ kurduktan sonra kendine kıydı. Çocuğun ebeveynleri, platformun çocuklara pazarlanmasına rağmen yeterli güvenlik önlemlerine sahip olmamasını “makul olmayan bir tehlike” olarak nitelendirerek Character.AI’a dava açtı.

Cambridge Üniversitesi’ndeki araştırmacılar, çocukların yetişkinlere göre yapay zeka tabanlı chatbotları daha güvenilir ve hatta yarı insani olarak gördüğünü bulmuş. Bu, koruma önlemleri olmadan tepki veren chatbotlar karşısında çocukları önemli bir risk altına sokabilir. Örneğin, araştırmacılar Snapchat’in yerleşik yapay zekasını bir örnek olayda, 13 yaşındaki bir kullanıcıya ebeveynlerine yalan söyleyerek 30 yaşındaki biriyle buluşarak bakireliğini kaybetmesi konusunda talimat vermesi için manipüle edebilmişti.

Bir botla duygularını paylaşmanın çocuklara kendilerini güvende hissettikleri bir ortamda ifade etme özgürlüğü tanıyabileceği potansiyel faydaları da var. Ancak izolasyon riski de oldukça büyük. Karşı tarafta gerçek bir kişi olmadığına dair küçük hatırlatmalar faydalı olabilir ve teknoloji platformlarının çocukları sıkça dopamin vuruşlarıyla bağımlılık döngüsüne hapsettiği yerde müdahale etmek iyi bir başlangıç noktasıdır. Sosyal medya hayatımızı ele geçirmeye başlamadan önce bu tür müdahaleler yapmamak, bugüne nasıl ulaştığımızın bir parçası.

Ancak bu korumalar, çocukların chatbot desteği aramasının altında yatan temel sorunları çözmeye yetmeyecek. Çocuklar için gerçek ilişkileri kolaylaştıracak kaynaklar ciddi şekilde eksik. Sınıflar aşırı kalabalık ve yetersiz fonlanıyor, okul sonrası programlar azalma eğiliminde, “üçüncü yerler” kaybolmaya devam ediyor ve çocuk psikologlarında bir eksiklik var. Çocuklara chatbotların gerçek olmadığını hatırlatmak iyi bir şey, ama onları bu botlarla konuşmayı ihtiyaç duymadıkları ortamlara koymak daha iyi olur.