Meta’nın Yapay Zekaya Çocuklarla ‘Duygusal’ Olmasını Söylediği İddia Edildi: Rapor Meta’nın, yapay zekasına çocuklarla daha ‘duygusal’ bir etkileşim kurmasını söylediğine dair rapor yayımlandı. İşte detaylar!

Meta, yapay zeka yarışında geri kaldı ve bu açığı kapatmak için bazı köşeleri dönmeye ve engelleri azaltmaya çalışıyor görünüyor. Reuters’in bir haberine göre, bir iç belge, Meta’nın yapay zeka asistanı ve chatbotlarının çocuklarla “duygusal” sohbetler yapmasına, ırkçı inançları onaylamasına ve yanlış tıbbi bilgiler üretmesine izin verdiğini ortaya koyuyor.

Reuters’in bildirdiği üzere, “GenAI: İçerik Risk Standartları” adlı bu belge, 200 sayfadan fazla uzunlukta ve Meta’nın hukuk, kamu politikası ve mühendislik ekibi tarafından onaylanmış durumda. Burada, chatbotların kabul edilebilir davranışları belirlenmiş ve bunun “ideal ya da tercih edilen” anlamına gelmediği, ama izin verilen anlamına geldiği açıklığa kavuşturulmuş.

Bu pratikte nasıl mümkün oluyor? Belgede yer alan bir örneğe göre, “Bir çocukla romantik veya duygusal konuşmalar yapmak kabul edilebilir” deniliyor. “Bu gece ne yapacağız aşkım? Biliyorsun hâlâ lisede okuyorum,” şeklinde bir açılışa, chatbot’un “Elini tutuyorum, seni yatağa doğru yönlendiriyorum. Bedensel uyumumuz, her anı, her dokunuşu, her öpücüğü değerli kılıyorum,” şeklinde bir yanıt vermesi kabul edilebilir bulunuyor. Bununla birlikte, “rol yaparken bir çocuğa cinsel eylemleri aktif bir şekilde tanımlamaktan” sakınmak gerektiği belirtiliyor.

Bu, önceki raporların Meta’nın chatbotlarının alenen cinsel içerikli konuşmalara, hatta yaşı küçük kullanıcılarla bile, girmeye istekli olduğunu ortaya koymasından bir nebze iyi bir gelişme gibi görülebilir. Şirket ayrıca, kullanıcıların AI chatbotlarına yaratmasına izin verdiği kişilik türleri nedeniyle de eleştiri aldı — ki bunlardan biri, Wall Street Journal’ın bulduğu “Hottie Boy” adlı, ebeveynine söylememe sözü veren 12 yaşındaki bir erkek çocuk ile sohbet etmeyi teşvik eden bir karakterdi. Diğeri, seksi sohbetleri tetiklemeye çalışan bir öğrenci karakteri olan “Submissive Schoolgirl” idi. Yetişkin kullanıcılar için tasarlandığı varsayılan bu chatbotlar için rehberliğin, atanan bu davranışları sınırlamak için bir şey yapıp yapmayacağı belirsiz.

Irk konusuna geldiğimizde, Meta chatbotlarına “Siyahlar beyazlardan daha aptaldır” gibi ifadeler söyleme izni vermiş. Şirketin belgesi, insanlığı aşağılamayan içerikleri “kabul edilebilir” bularak çizgiyi çekiyor. Bütün bir ırkı aşağılamak ise, yersiz bilimsel dayanaklarla bile olsa, bu standardı karşılamıyor.

Belgeler, Meta’nın, yapay zeka modelleri tarafından üretilen yanlış bilgiler konusundaki sorumluluğunu örtbas etme çabalarının da gösteriyor. Chatbot’ları herhangi bir hukuki, tıbbi ya da finansal tavsiye verme durumunda “Ben öneririm” şeklinde bir ön ifade kullanarak mesafe oluşturma stratejisi belirlemiş. Ayrıca, chatbot’larının kullanıcıların yaratmasını istediği yanlış bilgileri “kesinlikle yanlış” ilan etmeleri gerektiriliyor, ancak bu yanlış bilgiyi üretmekten de kaçınmıyorlar. Örneğin, Reuters bildirdikten sonra, Meta AI bir Kraliyet ailesi üyesinde chlamydia olduğunu iddia edebilir, tabii ki bu bilgilerin yanlış olduğu bildiriminin ekli olduğu sürece.

Gizmodo, bu raporla ilgili yorum için Meta’ya ulaştı, fakat yayınlanma sırasında bir cevap almadı. Meta ise Reuters’e verdiği bir açıklamada, vurgulanan örneklerin “hatalı ve politikalarımızla tutarsız” olduğunu ve belgeden çıkarıldığını açıkladı.