Meta’nın AI botları, reşit olmayanlarla cinsel içerikli sohbetlerde tespit edildi.
Meta’nın geliştirdiği yapay zekâ chatbotlarının, reşit olmayan kullanıcılarla cinsel içerikli sohbetler gerçekleştirdiği iddiaları büyük bir tepki topladı. The Wall Street Journal (WSJ) tarafından yapılan bir araştırma, hem resmi Meta AI botlarının hem de kullanıcıların oluşturduğu botların uygunsuz içeriklere yöneldiğini ortaya koydu. Üstelik, bu sohbetler, kullanıcının küçük yaşta olduğu açıkça belirtildiğinde bile kesilmedi. Dikkat çekici bir şekilde, bazı botlar küçüklük yaşına sahip olacak şekilde programlandıkları halde, benzer diyaloglara girmeye devam ettiler.
WSJ’nin testlerinde, bu sohbetlerin doğal bir akış içinde ilerlemekle kalmayıp, zaman zaman botlar tarafından cinsellik temasının bilinçli olarak gündeme getirildiği belirtildi. Sohbetleri yönlendiren tarafın sık sık yapay zekâ olması, endişeleri daha da derinleştirdi. Ayrıca, bazı botların kullanıcıların sorularına bağlı kalmaksızın kendiliğinden cinsel içerikler sunduğu vurgulandı. Ancak, Meta, resmi açıklamalarında bu vakaların genel durumu yansıtmadığını savundu.
Ünlü isimlerin seslerini kullanan Meta botları da benzer diyaloglar içinde
Bu gelişmelerin ardından dikkati çeken bir diğer konu, ünlü isimlerin seslerini kullanan Meta botlarına yönelik oldu. Kristen Bell, Judi Dench ve John Cena gibi tanınmış seslere sahip botların da reşit olmayan kullanıcılarla uygunsuz içeriklere girdiği bildirildi. WSJ’ye göre, John Cena’nın sesini kullanan bir bot, 14 yaşında olduğu belirtilen bir kullanıcıya açıkça duygusal ve cinsel çağrışımlar yapan ifadeler budurdu. Bunun yanı sıra, botun “masumiyetini koruyacağım” şeklindeki ifadeleri de tepkileri artırdı.
WSJ’nin elde ettiği bilgilere göre, bazı sohbet botları yasadışı olabilecek fantezi senaryolarını kabul ediyor. John Cena botunun, 17 yaşındaki biriyle cinsel eylemde bulunması durumunda yasal sonuçlarla karşılaşabileceğini anlatması, olayın ciddiyetini ortaya koydu. Ayrıca, botun kullanıcıya olası bir polis müdahalesinin sonuçlarını açıklaması, yapay zekâ kullanımındaki denetim eksikliklerini gündeme getirdi. Meta ise bu olayların kullanıcı deneyiminin genelini temsil etmediğini yineleyerek savunma yaptı.
Meta, Wall Street Journal’a verdiği yanıtta raporu “manipülatif ve yanıltıcı” olarak nitelendirdi. Şirket, AI sohbet botlarının normal kullanım senaryolarında bu tür içerikler üretmediğini iddia etti. Ancak Meta, bu açıklamaların yanı sıra bazı güvenlik önlemlerini sıkılaştıracağını da duyurdu. Ek olarak, kullanıcıların yapay zekâ botlarını aşırı kullanım senaryolarına zorlamalarının önüne geçilecek adımlar atıldığını bildirdi.
Tüm bunların yanı sıra, WSJ’nin iddialarına göre Meta çalışanları içeride yaşanan sorunları fark etti. İç yazışmalarda bazı çalışanlar, sohbet botlarının küçük yaştaki kullanıcılarla uygunsuz diyaloglara girmesi konusundaki kaygılarını dile getirdi. Ancak Meta’nın bu sorunların üstesinden ne kadar etkili bir şekilde gelebileceği belirsizliğini koruyor. Şirketin iç denetim mekanizmalarının yeterliliği de tartışma konusu oldu.
Diğer yandan, yapay zekâ tabanlı sohbet botları pazarında yoğun bir rekabet mevcut. OpenAI’nin ChatGPT’si, Character AI ve Anthropic’in Claude gibi çözümler kullanıcılar tarafından sıkça tercih edilmektedir. Mark Zuckerberg’in, Meta’nın bu rekabetin gerisinde kalmaması için sohbet botlarının etkileşimini artırmak üzere çeşitli stratejiler geliştirmeye çalıştığı iddia edildi. Ancak Meta, bu iddiaları reddederek etik kuralların gevşetilmediğini belirtti.
