Yapay Zekayla Üretilen Cinsel İçerikli Sahte Videoların Hedefi: Her 6 Kadın Kongre Üyesinden Biri

Kongreden iki düzineden fazla üyesi, cinsel açıdan açık derin sahte içeriklerin kurbanı oldu. Yeni bir çalışma, etkilenenlerin büyük kısmının kadın olduğunu ve bu teknolojideki belirgin cinsiyet eşitsizliğini ortaya koyuyor. Çalışma, kadınların siyaset ve diğer sosyal katılım biçimlerinde karşılaştıkları gelişen riskleri de vurguluyor.

American Sunlight Project (ASP), dezenformasyonu araştıran ve demokrasiyi teşvik eden politikalar savunan bir düşünce kuruluşu, çarşamba günü yayımladığı bulgularında kongre üyesi olan 26 kişiyi (25 kadın ve bir erkek) cinsel içerikli sahte görüntüleme sitelerinde temsil eden 35.000’den fazla izinsiz yakın görüntünün yer aldığını tespit etti. Çoğu görüntü, araştırmacılar kongre üyelerine bulgularını duyurduğunda hızla kaldırıldı.

“Bu yeni ortamla ve internetin kadınlar ve marjinal toplulukları orantısız bir şekilde hedef alan birçok zararın kapısını açtığı gerçeğiyle yüzleşmemiz gerekiyor,” diyor çevrimiçi dezenformasyon ve taciz uzmanı Nina Jankowicz. Jankowicz, çalışma yazarı ve American Sunlight Project’in kurucusu.

İzinsiz yakın görüntüleme, yaygın bilinen adıyla derin sahte pornografi (destekçiler genelde bu terimi tercih ediyor), yapay zekayla üretilebilir ya da yetişkin oyuncuların medya üzerine portrelerin yerleştirilmesiyle oluşturulabilir. Bu tür içeriklerin üretimini ve yayılımını kısıtlayan sınırlı politikalar bulunmaktadır.

ASP bulgularını ilk kez The 19th ile paylaştı. Grup, kongre üyelerini tanımlamak için 118. Kongre üyelerinin adını ve soyadını, kısaltmalar veya takma adları kullanarak tanınmış 11 derin sahte site üzerinde özel bir arama motoru geliştirdi. Parti aidiyeti veya coğrafi konum, taciz riskine eşit etki etmedi, ancak daha genç üyeler kurban olma konusunda daha fazla eğilim gösterdi. Ana faktör, kadın kongre üyelerinin erkeklere göre 70 kat daha fazla hedef alınmasıydı.

ASP, görüntüleme içerisindeki yasa koyucuların isimlerini, arama yapılmasını teşvik etmemek adına yayımlamadı. Etkilenen herkesin ofislerine ulaşıp çevrimiçi zararlar ve ruh sağlığı desteği konusunda bilgi verdiler. Çalışmanın yazarları, bulguların ardından, çoğu üyenin hedef alındığı görüntülerin sitelerden tamamen veya neredeyse tamamen kaldırıldığını ancak bunun nedenini açıklayamadıklarını belirtti. Araştırmacılar, bu tür kaldırmaların malzemenin paylaşılmasını veya yeniden yüklenmesini önlemediğine dikkat çekti. Bazı durumlarda, yasa koyucuları hedef alan içerikler büyük ölçüde kaldırılmış olsa bile Google’da arama sonuçları sayfaları hala indekslenmiş olarak kaldı.

“Kaldırılma tesadüfi olabilir. Bu içeriğin kaldırılmasına neyin yol açtığı — ‘durdurma ve vazgeçme’ mektupları, telif hakkı ihlali iddiaları veya sahte içerik barındıran sitelerle başka bir iletişim olsun — o büyük ayrıcalığı vurguluyor,” diyor çalışma. “Kongre Üyelerine tanınan kaynaklara sahip olmayan insanlar, özellikle kadınlar, böyle bir hızlı yanıtı ulaşmakta büyük olasılıkla zorlanırlardı.”

Çalışmanın ilk bulgularına göre, şu anda Kongre’de görev yapan kadınların neredeyse %16’sı, yani yaklaşık her 6 kadın kongre üyesinden biri, yapay zekâ ile üretilmiş izinsiz yakın görüntülerin kurbanıdır.

Jankowicz, çevrimiçi taciz ve tehditlerin hedefi olmuştur, dezenformasyonu çözme konusundaki yerel ve uluslararası çalışmaları nedeniyle. 2023 yılında bir Google Uyarısı sayesinde derin sahte taciz kurbanı olduğunu öğrendi ve kamuoyuna bu konuda açıkça konuştu.

“Bu tür görüntülerde izniniz olmadan yer alabilirsiniz ve o videolar, diyelim ki orijinal posta karşı bir telif hakkı iddiasında bulunsanız bile, internet üzerinde sizin kontrolünüz ve bu tür içerikler oluşturan veya yayımlayan kişilere yönelik herhangi bir sonuç olmadan yayılmaya devam eder,” diyor, Jankowicz. “Bu durum, kamusal söylemde yer alan herkes için, ancak özellikle kadınlar ve renkli kadınlar için bir risk olmaya devam ediyor.”

Görüntü tabanlı cinsel saldırı, yalnızca siyasete dahil olmayan sıradan insaları değil, çocukları da kapsayan kurbanlar üzerinde zihin sağlığı açısından yıkıcı etkiler yaratabilir. Geçen yıl Kaliforniya, Kalifornya, New Jersey, ve Pennslyvania gibi eyaletlerde lise kızlarının hedef alındığı görüntü tabanlı cinsel saldırı raporları olmuştur. Okul yetkilileri farklı derecelerde yanıtlar vermiş olsa da, FBI da reşit olmayanlara ilişkin bu tür görüntülerin paylaşılmasının yasa dışı olduğu konusunda yeni bir uyarı yayımladı.

Derin sahtelerin toplum üzerindeki tam etkisi henüz tam anlamıyla belirginleşmemiş olsa da, araştırmalar 18 ile 29 yaşları arasındaki kadınların %41’inin çevrimiçi tacizden kaçınmak için kendilerini sansürlediklerini göstermektedir.

“Neredeyse nüfusun yarısının potansiyel taciz korkusuyla kendini susturması, demokrasiyi ve ifade özgürlüğünü tehdit eden son derece güçlü bir tehdit,” diyor Sophie Maddocks, Pennsylvania Üniversitesi’ndeki Center for Media at Risk’de araştırma direktörü.

Bu tür yapay zekâ üretilen izinsiz yakın görüntüler için cezai veya hukuki bir yaptırım belirleyen federal bir yasa yok. Son yıllarda bir düzine kadar eyalet yasa çıkardı, ancak çoğunluğu medeni cezaları, cezai olanlardan ziyade.

Yapay zekâ üretilen bu izinsiz görüntüler aynı zamanda ulusal güvenliğe tehditler oluşturabilir, şantaj ve jeopolitik tavizlerin yaratılmasına zemin hazırlayabilir. Bu durum, doğrudan hedef olmasalar da politika yapıcılar üzerinde dolaylı etkiler yaratabilir.

“Buradaki umudum, üyelerin, sadece Amerikan kadınlarının etkilenmediğini, kendilerinin de etkilendiğini fark ettiklerinde harekete geçmeleri” diyor Jankowicz. “Kendi meslektaşlarını da etkiliyor. Ve bu durum, sadece kamuoyu önünde oldukları için gerçekleşiyor.”

Görüntü temelli cinsel kötüye kullanım, kadınların siyasi adaylıklarındaki benzersiz bir risktir. Susanna Gibson, bir Cumhuriyetçi operatörün Virginia Demokratı ve kocasıyla ilgili cinsel içerikli canlı yayınları izinsiz paylaşmasının ardından yarışını kıl payı kaybetti. Kaybının ardından, dijital mahremiyetin suistimalinden korkarak bazı genç kadınların aday olmaktan vazgeçtiğini 19th’a bildirdi. Gibson, görüntü tabanlı cinsel saldırıyla mücadele etmek için bir sivil toplum kuruluşu kurdu ve kadın adayların gizli ihlaliyle ilgili bir siyasi duyuru komitesi oluşturdu.

Maddocks, kamuya açık konuşan kadınların dijital cinsel şiddete maruz kalma olasılığının daha yüksek olduğunu incelemiştir.

“Kadınların görünmesi fakat duyulmaması gerektiği şeklindeki uzun süreli bir kalıp var ve bu, Mary Beard’ın yazdığı ve araştırdığı, kadınlığın kamuya açık konuşmayla çelişmesi fikrini düşündürtüyor. Böylece, kadınlar halka açık konuştuğunda, neredeyse şöyle olur: ‘Tamam. Onlara utandırma zamanı. Onları evlerine geri gönderme zamanı. Onları suskunluğa itilmiş hissettirme zamanı.’ Ve bununla bağlantılı olarak bizi bekleyen sessizlik ve utandırma motivasyonu… bu zararın kongre kadınlarıyla nasıl ilişkilendiğini kavrama sürecimizde önemli bir yere sahip.”

ASP, Kongre’yi federal yasaların geçirilmesi konusunda teşvik ediyor. Disrupt Explicit Forged Images and Non-Consensual Edits Act of 2024, ya da DEFIANCE Act olarak da bilinen yasa, insanların, bu tür görüntüleri üreten, paylaşan veya alan kişilere dava açmasına izin verecek. Take It Down Yasası, böyle bir faaliyet için cezai sorumluluk içerecek ve teknoloji şirketlerine derin sahte içerikleri kaldırma zorunluluğu getirecek. Her iki yasa tasarısı da Senato’da iki partinin desteğiyle geçti, ancak teknoloji politikalarının tipik engelleri olan ifade özgürlüğü ve zararın tanımları konularında Temsilciler Meclisi’nde bazı endişeleri aşması gerekiyor.

“Bu oturum sona ermeden Kongre’nin en az birini geçirmemesi görev ihlali olur,” diyor Jankowicz. “Bu, yapay zekânın verdiği zararın şu anda gerçek Amerikalılar tarafından hissedildiği birkaç yoldan biri. Bu gelecekteki bir zarar değil. Hayal etmemiz gereken bir şey değil.”

Kongrenin eylem eksikliğinde, Beyaz Saray özel sektör ile işbirliği yaparak görüntü tabanlı cinsel istismarı azaltmak için yaratıcı çözümler üretmeye çalıştı. Ancak eleştirmenler, platformlarının neden olduğu tarihsel zararlar göz önüne alındığında Büyük Teknoloji şirketlerinin kendilerini düzenleme konusunda yetenekli olmadıklarına dair pek iyimser değil.

“Bu içeriği üretmek failler için çok kolay,” diyor Jankowicz. “Hedeflenen tek kadına değil, bütün kadınlara şu sinyal verilmiş oluyor: ‘Bu adımı atarsanız, sesinizi yükseltirseniz, başınıza böyle bir şey gelebilir.’”

Eğer görüntü tabanlı cinsel istismar mağduru olduysanız, Cyber Civil Rights Initiative yasa kaynakları listesini barındırmaktadır.

Bu makale, ilk olarak The Markup’ta yayımlandı ve Creative Commons Attribution-NonCommercial-NoDerivativeslisansı altında tekrar yayımlandı.