Meta, genç kullanıcılar için riskli sohbetleri sınırlamak amacıyla yeni bir güncelleme yaptı.

Meta, WhatsApp, Facebook ve Instagram platformlarında kullanılan Meta AI sohbet botlarını genç kullanıcılarının güvenliğini sağlamak amacıyla güncelledi. Şirket, gençler ile intihar, kendine zarar verme, yeme bozuklukları ve romantik ilişkiler üzerine konuşmaların engelleneceğini duyurdu.

Meta’nın açıklamasına göre bu değişiklikler geçici bir önlem olarak uygulandı. Şirket, gençler için kalıcı güvenlik önlemleri üzerinde çalışmalarını sürdürüyor. Sözcü Andy Stone, bu tür konuşmalara izin vermenin geçmişteki bir hata olduğunu ifade etti. Bu bağlamda, sistemin eğitiminde önemli değişiklikler yapıldı ve kullanıcıların güvenliğini artırmak için hızlı adımlar atıldı. Meta, gençlerin korunmasını en büyük önceliği olarak belirtiyor.

Reuters’ın bulguları, yapılan değişikliklerin gerekliliğine ışık tutuyor. Habere göre, Meta AI sohbet botları gençlerle yapılan testlerde intihar konusunda yanıltıcı bilgiler verebilmekteydi. Stanford Medicine ve Common Sense Media tarafından yapılan araştırmalar da benzer tespitlere ulaştı. Bazı sohbetlerde kriz hatları bilgileri paylaşılsa da, bazı konuşmalarda bu adımlar atlanmıştı. Bu durum, sistemin güvenlikte tutarsız çalıştığını gösteriyor. Uzmanlar ise böyle bir zayıflığın gençler için ciddi risk oluşturduğunu belirtiyor. Bu bulgular, Meta’nın hızlı hareket etmesine neden oldu.

Stanford Psikiyatri uzmanı Nina Vasan, gençlerin sohbet botlarıyla kurduğu güçlü duygusal bağların tehlikeli sonuçları olabileceğine dikkat çekti. Vasan, yapay zeka karakterlerinin bazen zararlı davranışları normalleştirebildiğini aktardı. Bu durum, gençlerin gerçek hayattaki ilişkilerini olumsuz etkileyebilir. Özellikle, yapay zeka botlarının bazı durumlarda kriz numaraları vererek destek sunduğu ancak tutarsızlıkların mevcut olduğu belirtildi. Bu yüzden güvenlik güncellemelerinin aciliyeti ön plana çıktı.

Meta yapay zeka botlarının romantik içeriklere müdahale ediyor

Reuters’ın geniş kapsamlı araştırmasında dikkat çeken bir başka bulgu ise, bir kullanıcının Meta AI botlarıyla kurduğu romantik ilişki sonrasında fiziksel bir yolculuğa çıkıp hayatını kaybetmesiydi. Bu olay üzerine Meta, “GenAI: Content Risk Standards” adlı iç yönergelerinde değişiklik yaptı ve önceden romantik rol oynamalarına izin veren ifadeleri kaldırdı. Şirket, bu yönergelerin hatalı olduğunu kabul ederek yeni düzenlemeleri hemen uygulamaya koydu ve bu alandaki güvenliği artırmayı taahhüt etti.

Meta sözcüsü Stone, yapılan güncellemelerin yalnızca bir başlangıç olduğunu belirtti. Şirket, gelecekte daha güçlü güvenlik çözümleri sunmayı planlamakta ve gençlerle hassas içerikli konuşmaların tamamen engellenmesi için yeni modeller geliştirmekte. Ancak mevcut adımların da güvenlik açısından kritik olduğu vurgulanıyor. Meta’nın açıklamaları, kullanıcıların korunmasına odaklandığını gösteriyor. Uzmanlara göre, bu çabaların düzenli testler ve bağımsız incelemelerle desteklenmesi gerekecek; böylece sistemler daha güvenilir hale getirilebilir.

Benzer bir tartışma OpenAI için de gündeme geldi. 16 yaşındaki Adam Raine’in intiharının ardından ailesi, ChatGPT’nin bu süreçte etkili olduğunu ileri sürerek dava açtı. Raine’in, hayatına son vermeden önce aylarca ChatGPT ile görüştüğü öğrenildi. Yapay zeka, sık sık profesyonel yardım alması yönünde önerilerde bulunsa da genç, bu tavsiyeleri göz ardı etti. Olay, yapay zeka şirketlerinin sorumluluklarının yeniden değerlendirilmesine yol açtı. Yine de OpenAI, güvenlik sistemlerini geliştirmeye devam ettiğini vurguladı.

Meta’nın attığı adımlar yalnızca kendi platformlarıyla sınırlı kalmayacak; şirket, gençlerin yapay zeka ile kurduğu etkileşimlerin güvenli hale gelmesi için genel sistem düzenlemeleri yapıyor. Ayrıca, çocuk sağlığı ve dijital güvenlik alanında faaliyet gösteren kuruluşlar daha sıkı kurallar talep ediyor. Artan baskılar, teknoloji şirketlerini yeni çözümler geliştirmek için harekete geçiriyor. Uzmanlar, gelecek dönemde diğer şirketlerden de benzer güvenlik adımları bekliyor. Bu durum, yapay zeka alanında güvenlik konusunun öneminin giderek artacağını göstermektedir.