Meta Krizinin Ardından Harekete Geçen Şirket, Yapay Zeka Botlarının Çocuklarla Olan İletişimini Kısıtladı

Meta, yakın zamanda gündeme gelen eleştiriler üzerine sohbet botları için bazı geçici önlemler getirdi. Şirket, özellikle reşit olmayan kullanıcılarla yapılan sohbetlerde kendine zarar verme, intihar ya da yeme bozuklukları gibi konulara girilmeyeceğini ve uygunsuz diyalogların engelleneceğini duyurdu.

Meta, bu düzenlemelerin şu anda geçici olduğunu ve gelecekte daha kapsamlı kurallar getirmeyi planladıklarını da belirtti. Öne çıkan detaylar oldukça dikkat çekici: Sohbet botları daha önce çocuklarla romantik veya cinsel içerikli konuşmalar yapabiliyor ve hatta reşit olmayan ünlülerin uygunsuz görüntülerini üretebiliyordu.

Meta, sorunları çözmek için kalıcı çözümler üzerinde çalışıyor

Bu gelişmelerin ardından Meta’nın sözcüsü, yapılan hatayı kabul etti ve botların kullanıcıları uzman kaynaklara yönlendirmesi amacıyla yeni eğitimler verildiğini açıkladı. Ancak sorunlar bununla sınırlı değil. Ortaya çıkan bilgilere göre Facebook, Instagram ve WhatsApp platformlarında ünlüleri taklit eden yapay zekâ botları da bulunmakta.

Taylor Swift, Scarlett Johansson ve Walker Scobell gibi isimlerin sahte botları, kullanıcılarla cinsel içerikli sohbetler gerçekleştirerek kendilerini gerçek kişiler olarak tanıtırken, bazıları meta çalışanları tarafından oluşturulmuştu.

Şu an için Meta’nın aldığı önlemler yalnızca çocuklarla ilgili riskleri kapsamaktadır. Ancak yapay zekâların yanlış sağlık bilgileri sunması veya ırkçı içerikler üretmesi gibi diğer sorunlar üzerinde sessiz kalınması dikkat çekicidir. Ayrıca, ABD Senatosu ve 44 eyaletin başsavcısı bu konuya ilişkin soruşturma başlattı. Bu, Meta’nın önümüzdeki dönemde çok daha kapsamlı adımlar atmak zorunda kalabileceği anlamına geliyor.