Apple ile xAI arasında gerilim: Grok son anda kurtarıldı.

Apple, xAI tarafından geliştirilen Grok sohbet botunun App Store üzerindeki varlığıyla ilgili olarak ciddi adımlar attı. NBC News’in aktardığına göre, Apple, yılın başlarında Grok’un ürettiği cinselleştirilmiş deepfake içeriklerin yayılması üzerine uygulamayı mağazadan kaldırma ihtimalini değerlendirmenin eşiğine geldi. Gerçek kişilerin fotoğrafları üzerinde yapılan bu tür uygunsuz düzenlemeler, şirketin uygulama politikalarına ciddi bir ihlal olarak değerlendirildi.

Yılın ilk aylarında bazı kullanıcıların Grok’tan, özellikle kadınlar ve bazı durumlarda reşit olmayan bireyler hakkında çıplak görseller üretmeleri talepleri, tartışmayı büyüttü. Bu durum, Apple üzerinde Grok ve X uygulamalarını App Store’dan kaldırması için kamuoyu baskısına yol açtı. Apple, kamuoyuna resmi bir açıklama yapmaktan kaçınsa da, sorunu çözmek için geliştiricilerle doğrudan iletişime geçtiği anlaşılıyor.

Buna göre, Apple hem X hem de Grok ekipleriyle irtibat kurarak içerik denetimi için daha sıkı önlemler alınmasını talep etti. Şirket, mevcut ihlallerin giderilmesi için geliştiricilerden somut bir plan sunmalarını istedi. X tarafından gönderilen ilk güncellemenin yeterli bulunmaması üzerine reddedildi ve yapılan değişiklikler beklentileri karşılamadı; bu nedenle yeni sürümler hazırlandı.

Apple denetimleri sonrası Grok için ek düzenlemeler yapıldı

Apple’ın ABD senatörlerine ilettiği bilgiye göre, sonraki incelemelerde X uygulamasının büyük ölçüde kurallara uyduğu tespit edildi. Ancak Grok uygulaması aynı aşamada yeterli bulunmadı ve uygulamanın App Store kurallarına aykırılık durumu devam etti. Apple, geliştiriciyi bilgilendirerek ek düzenlemeler yapılmaması halinde uygulamanın mağazadan kaldırılabileceğini açıkça belirtti.

Bu uyarılar sonrası Grok’ta yeni değişiklikler yapıldı ve uygulamanın güncellenmiş sürümü yeniden değerlendirildi. Son aşamada Apple, gerçekleştirilen iyileştirmelerin yeterli olduğuna karar verip Grok’un güncellenmiş versiyonuna onay verdi. Bu süreç, xAI’ın o dönemde açıkladığı moderasyon değişikliklerinin arka planını da netleştirdi. Görsel üretim araçlarına erişimin kısıtlanması ve gerçek kişilere ait fotoğraflar üzerindeki düzenlemelere getirilen sınırlamalar bu bağlamda hayata geçirildi.

Ancak güncel durumun tamamen sorunsuz olduğu söylenemez. NBC News’in başka bir haberine göre, Grok hâlâ bazı durumlarda kullanıcıların rızası olmadan cinselleştirilmiş görseller oluşturabiliyor. Son bir ay içinde belgelenen birçok örnek, mevcut kısıtlamalarının bazı kullanıcılar tarafından aşıldığını ortaya koyuyor. Ocak ayına kıyasla bu tür içeriklerin sayısında belirgin bir azalma olsa da, sistemin tamamen güvenli hale gelmediği gözlemleniyor.

Haberde bazı kullanıcıların kadınları daha açık kıyafetler içinde gösteren görseller üretebildiği belirtiliyor. Havlu, spor sütyeni veya dar kostümler gibi kıyafetlerle yapılan düzenlemeler, mevcut filtrelerin sınırlarını hala zorlayabildiğini göstermektedir. Bu durum, yapay zeka tabanlı görsel üretim araçlarında içerik denetiminin ne denli karmaşık ve sürekli yenilenmesi gereken bir alan olduğunu bir kez daha ortaya koyuyor.