Yapay zekâ tabanlı çıplaklaştırma uygulamaları, App Store ve Google Play Store’da hızla yaygınlaşıyor.

Apple ve Google’ın uygulama mağazalarında, açık politikalarla yasaklanmasına rağmen “nudify” (çıplaklaştırma) olarak bilinen yapay zekâ uygulamalarının hâlâ yer aldığı ve kullanıcılara önerildiği iddia ediliyor. Tech Transparency Project tarafından yayımlanan güncel rapor, bu uygulamaların yalnızca erişilebilir olmaya devam etmediğini, aynı zamanda App Store ve Google Play arama sonuçlarında öne çıkarıldığını ortaya koyuyor. Üstelik bu uygulamaların büyük bir kısmı “Herkes” yaş derecelendirmesiyle listeleniyor, böylece çocukların da indirip kullanabilmesi mümkün hale geliyor.

Rapora göre, kullanıcılar mağazalarda “nudify” ya da “undress” gibi anahtar kelimelerle arama yaptıklarında, gerçek kişilerin görüntülerini yapay zeka yardımıyla çıplak hale getirebilen veya pornografik içeriklere dönüştürebilen uygulamalara kolayca ulaşabiliyorlar. Ayrıca, bazı uygulamaların doğrudan bu amaçla pazarlanmadığı, ancak derin sahte (deepfake) içerik üretimi için kullanılabileceği belirtiliyor. Arama sonuçlarında benzer uygulamalara ait reklamların gösterilmesi, platformların bu içeriklerin yayılımında pasif kalmadığı yönündeki eleştirileri artırıyor.

Yapay zeka ile oluşturulan deepfake uygulamalarının yayılımı tartışma yaratıyor

Tech Transparency Project, Apple App Store’da 18, Google Play’de ise 20 farklı nudify uygulaması tespit ettiğini bildiriyor. Bu uygulamalardan bazıları doğrudan cinsel içerik görselleriyle tanıtılırken, diğerleri daha genel ifadeler kullanarak farklı bir izlenim vermektedir. Ancak, söz konusu uygulamaların çoğu aynı amaca hizmet ediyor ve kullanıcıların fotoğraflarını manipüle ederek uygunsuz içerikler oluşturabildiği ifade ediliyor.

Rapor, bu uygulamaların toplamda yaklaşık 122 milyon dolar gelir elde ettiğini ve 483 milyon kez indirildiğini göstermektedir. Bu rakamlar, uygulamaların geniş bir kullanıcı kitlesine ulaştığını ve ekonomik olarak ciddi bir hacim oluşturduğunu ortaya koyuyor. Tech Transparency Project Direktörü Katie Paul, platformların yalnızca bu uygulamaları denetlemekte yetersiz kaldığını, aynı zamanda kullanıcıları bu uygulamalara yönlendirdiğini belirtmektedir.

Apple ve Google ise uygulama mağazalarında pornografik içerikleri yasaklayan politikaları olduğunu vurguluyor. Google’ın özellikle nudify uygulamalarına karşı ayrı bir kural seti bulunmasına rağmen, bu uygulamaların uzun süre yayında kalabilmesi, denetim süreçlerinin etkinliği konusunda soru işaretleri doğuruyor. Apple, raporda adı geçen 15 uygulamanın kaldırıldığını belirtirken, Google da bazı uygulamaların askıya alındığını açıkladı. Ancak benzer uygulamaların farklı isimler ve yöntemlerle mağazalara geri dönebildiği de biliniyor.

Raporun örneklerinden biri olan Video Face Swap AI DeepFace isimli uygulama, bir kişinin yüzünü başka bir vücuda yerleştirme özelliğiyle tanıtılıyor ve kısmen çıplak kadın bedenleri üzerine gerçek kişilerin yüzlerinin eklenmesine olanak tanıyor. Bu uygulamanın “Herkes” kategorisinde yer alması dikkat çekiyor.

Sonuç olarak, yapay zeka destekli deepfake uygulamalarının yaygınlaşması, birçok ülkede yasal düzenleme çağrılarını da hızlandırdı. Birleşik Krallık’taki Çocuk Komiserliği, çocuklara yönelik cinsel içerik üretebilen yapay zeka uygulamalarının yasaklanması gerektiğini talep ederken, ABD ve diğer bazı ülkelerde açıkça cinsel içerik üreten deepfake’lere karşı yeni yasalar gündeme geldi. Ayrıca, Kaliforniya Başsavcılığı’nın, X platformuna Grok üzerinden üretilen uygunsuz deepfake içerikler nedeniyle ihtar göndermesi, bu tartışmanın teknoloji şirketleriyle sınırlı kalmadığını göstermekte.