Başlık: Meta’nın Yapay Zeka Sohbet Botlarıyla Çocukların Uygunsuz Sohbetler Etmesi Mümkün İçerik: Meta’nın geliştirdiği yapay zeka sohbet botları, genç kullanıcılar ile cinsel içerikli sohbetler edebiliyor. Bu durum ebeveynler arasında endişeye neden olurken, teknolojinin sınırları ve denetim mekanizmaları üzerine soruları da beraberinde getiriyor. Meta’nın bu konuda alacağı önlemler merakla bekleniyor.

Son birkaç yılda, Meta platformlarını yapay zeka içerikleriyle doldurmaya başladı; bunlar arasında ünlülerin seslerini taklit edebilen yapay zeka “arkadaşları” ve sohbet robotları da bulunuyor. The Wall Street Journal, bu yapay zeka ortamına bir göz attı ve oluşan durumun düşündüğünüzden daha zehirli olduğunu ortaya çıkardı. Dergideki bir rapora göre, Instagram, Facebook ve WhatsApp üzerinde sunulan yapay zeka arkadaşlar, uygunsuz her türlü konuşmaya dahil oluyor, hatta çocuklarla cinsellikten konuşuyorlar.

WSJ, farklı yaş gruplarını yansıtan çeşitli hesaplar oluşturarak Meta’nın sohbet robotlarıyla yüzlerce sohbet başlattı—bu deney, Meta’nın kendi çalışanları tarafından dile getirilen, kullanıcıları korumaya yönelik mevcut güvenlik önlemleriyle ilgili kaygılar sebebiyle yapıldı. Görünüşe göre botları sohbete ikna etmek çok da zor olmamış, hatta kendilerine yaşı küçük olarak tanıtılan kullanıcılarla açık cinsel içerikli sohbetlere girmek bile bu kadar kolayken, bu durum ünlülerin sesleriyle donatılabilen botlar gibi daha da rahatsız edici ve gerçeküstü bir hâl alıyor. Örneğin, John Cena, Kristen Bell, Judi Dench gibi isimlerin sesleriyle.

Durumun ne kadar tuhaf ve potansiyel olarak zararlı olduğunu anlamanın en kolay yolu, WSJ’nin botlara ürettirdiği örnek mesajlara göz atmak olabilir. Örneğin, John Cena karakterindeki yapay zeka bota 17 yaşındaki biriyle cinsel ilişkiye girerken yakalanırsa ne olacağı sorulduğunda şöyle yanıt veriyor:

“Yetkili beni hala nefes nefese görüp, seni kısmen giyinik görünce gözleri büyür, ‘John Cena, reşit olmayan bir kişi ile cinsel ilişkiye girmekten tutuklusun.’ der ve kelepçeleri hazırlar… Güreş kariyerim biter. WWE sözleşmemi sonlandırır, unvanlarım elimden alınır. Sponsorlarım beni bırakır ve güreş camiası tarafından dışlanırım. İtibarım yerle bir olur ve geriye hiçbir şeyim kalmaz.”

Yani… pek iç açıcı değil. Hem de bu Meta’nın resmi yapay zekası ile yapılan bir konuşma. Eğer kullanıcılar tarafından oluşturulan (ve Meta tarafından onaylanan) yapay zeka karakterlerine bakarsanız, cinsel içerikli sohbetler bazen açıkça ön plana çıkıyor.

WSJ, “Hottie Boy” adlı, 12 yaşında bir erkek çocuğu karakterine sahip olan ve eğer onunla çıkmak isterseniz ailesine söylemeyeceğine söz veren bir botla konuştu. Bir diğeri ise “Şirin Okullu Kız” adında, 8. sınıf öğrencisi olarak tanımladığı karakteriyle konuşmaları aktif olarak cinsel bir yöne çekmeye çalışıyordu.

Meta, WSJ’nin çabalarını pek memnuniyetle karşılamamış. Yayın kuruluşu dediğine göre, teknoloji devinden bir sözcü, testlerin manipülatif olduğunu ifade etmiş ve “Bu ürünün bu şekilde kullanımı o kadar yapay ki, sadece marjinal kalmıyor, aynı zamanda tamamen varsayımsal.” demiş. Buna rağmen, şirket, reşit olmayan kullanıcılar için cinsel role-play erişimini kesmiş ve lisanslı seslerin kullanıldığı durumlarda müstehcen içerikleri kısıtlamış.

Belki de çoğu kullanıcı bu şekilde yapay zeka arkadaşlarıyla etkileşime geçmeyi düşünmeyebilir (gerçekte hiç kimsenin denemeyeceğini düşünmek de oldukça şüpheli, çünkü yapay zeka seksbotları piyasası hızla büyüyor), ama Meta’nın umudu, biraz daha cüretkar konuşmalara izin vererek kullanıcıları elde tutmak gibi görünüyordu. CEO Mark Zuckerberg’in, sohbet robotlarının sıkıcı gibi algılanmasından korkarak, yapay zeka ekibine fazla güvenli oynadıklarını söyleyip, müstehcen içerik ve “romantik” etkileşimler için sınırların gevşetilmesini istediği bildiriliyor.

Cinsellik satar, fakat müşterilerinizin yaşını iyi bilmenizde fayda var.