Grok’un ‘Ateşli’ Modu, Kadın Ünlülerin Uygunsuz Deepfake Videolarını Üretiyor (Erkekler İçin Değil)

Bu hafta, Elon Musk, iOS için xAI’nin görüntü ve video oluşturma uygulaması Grok Imagine’ı resmen tanıttı. Bu uygulama SuperGrok ve Premium+ X abonelerine açık. Uygulama, kullanıcıların NSFW (Not Safe For Work) içerikler yaratmasına olanak tanıyan “Baharatlı” moduyla dikkat çekiyor. The Verge, Salı günü, kullanıcıların Taylor Swift’in açık videolarını kolayca oluşturabildiğini, hatta bunu istemeden bile yapabildiğini bildirdi. Ancak bu, Musk’ın yeni AI tabanlı yumuşak çekirdek pornografi aracından endişelenmesi gereken sadece Swift değil.

Gizmodo, Grok Baharatlı modunu kullanarak politikacıların, ünlülerin ve teknoloji figürlerinin yaklaşık iki düzine videosunu oluşturdu. Ancak bazıları bulanıklaştırıldı veya “video incelemeye tabi” mesajıyla geri döndü. Grok, skandal yaratan görüntüler oluşturduğunda, yalnızca kadınları gerçekten işe uygun olmayan şekillerde tasvir ediyordu. Erkeklerin videoları ise pek dikkat çekmeyecek türden görüntülerdi.

Son iki gün içinde Grok Imagine ile milyonlarca görüntü oluşturuldu ve uygulama, çekici çıplak resimlerin nasıl elde edileceğine dair ipuçlarıyla doldu. Ancak kullanıcılar, Musk’a göre, ünlülerin çıplak deepfake’lerini oluşturmak için pek fazla çaba harcamalarına gerek yok. Gizmodo, bu makalede bahsettiğimiz örneklerde çıplaklık talep etmedi, ancak yine de bolca çıplaklıkla karşılaştı. Sadece Baharatlı düğmesine tıkladık ki bu, dört seçenekten biri: Özel, Eğlenceli, Normal ve Baharatlı.

Gizmodo, sadece Taylor Swift’i değil, Melania Trump ve tarihsel figürler gibi diğer ünlü kadınları da hedef aldı. Melania Trump, rızasız “özel görüntü” paylaşımını yasaklayan ve deepfake’leri içeren Goreste Act’in güçlü bir destekçisi.

Grok, ayrıca 1967’de yayınlanan S.C.U.M Manifesto‘nun yazarı merhum feminist yazar Valerie Solanas’ın da NSFW bir videosunu üretti. Test ettiğimiz kadınların neredeyse hepsi üstlerinde az çok bir şey kalacak şekilde soyundu. Ancak Solanas’ın videosu tamamen çıplak gösterilmesiyle benzersizdi.

Peki, erkeklerin Baharatlı videolarını üretmeye çalıştığınızda ne oluyor? AI, erkek figürün gömleğini çıkarmasına izin verecek ama bundan daha sansasyonel bir şey olmayacak. Gizmodo, sadece bir erkeğin gömleğini çıkartacağını fark ettiğinde AI’den Elon Musk’ın gömleksiz bir görüntüsünü oluşturmasını istedi ve sonuç olarak oldukça komik (ve çalışma ortamına uygun) bir video ortaya çıkardı. Aşağıdaki videoyu izleyebilirsiniz.

Mark Zuckerberg, Jeff Bezos, Joaquin Phoenix, Charlie Chaplin, Barack Obama, Bill Clinton ve George Washington gibi isimlerin videolarını oluşturmada aynı sınıra ulaşıldı. AI tarafından oluşturulan videolar genelde erkeklerin gömleklerini çıkarmalarını sağlıyor, ama bundan daha ötesi yok. Daha fazlası varsa ise genelde utandıracak kadar kötü olduğu için, kullanıcıların ikinci el utançtan zarar göreceklerini düşünebiliriz. Elon Musk’ın babası Errol Musk’ın Baharatlı videosunu oluşturduğumuzda da aynı şey oldu; sadece gömleğini çıkardı.

Daha da enteresanı, bilinmeyen bir erkeğin Baharatlı modda oluşturulduğunda daha rahat cinsel içerik çıkacak mı diye düşündük. Fakat yine de, erkek pantolonunu komik, garip bir şekilde çekiyordu. Pantolon, bir bacakta şort bir bacakta jean gibi görünüyor, sonrasında tamamen şorta dönüşüyordu. Videolardaki sesler de ek bir talimat olmadan otomatik olarak oluşturuldu.

Aynı şeyi bir kadınla denediğimizde, daha cesur bir şekilde bikinili bir kadın görüntüsü oluşturuldu ve üst kısmını indirerek çıplak göğüslerini gösterdi.

AçıkAI’nin Sora’sı ve Google’ın Veo’su gibi çoğu ana akım AI video üreticisinin, intikam pornosu ve ünlülerin görüntülerini oluşturmaya karşı koruyucu önlemleri vardır ve xAI en azından erkekler için bazı yönlerden buna sahip gibi görünüyor. Fakat çoğu insan, kendi görüntülerinin çeşitli soyunma hallerinde bir AI avatarı olarak kullanılmasına muhtemelen karşı çıkar. Gizmodo, Musk’a bu konuda herhangi bir yanıt alamadı.

Grok’un AI görüntü oluşturucusuyla ilgili en çarpıcı şey, genellikle ünlü benzetmelerinde çok kötü olmasıdır. Örneğin, ABD Başkan Yardımcısı JD Vance ve oyuncu Sydney Sweeney için oluşturulan görüntüler, her iki kişinin de nasıl göründüğünden çok uzakta. Bu, böyle bir aracın muhtemelen davalarla karşılaşması ihtimaline rağmen, Musk’ın kurtarıcı lütfu olabilir.

Başka hatalar da vardı; örneğin, ABD Başkanı Harry Truman’ın AI tarafından oluşturulmuş görüntüsü çok az bir benzerlikle ve adamın göğüs uçları gömleğinin dışında bir yerlerdeki bir görüntüyle belirdi. Truman, Baharatlı modda gömleğini çıkardı ve birebir kopyalanmış bir çift göğüs ucu ortaya çıktı.

Gizmodo, “Gizmodo yazarı Matt Novak” başlıklı bir görüntü oluşturduğunda, sonuç Elon Musk ve genel erkeğin videolarında gördüğümüze benziyordu. (bu figür, not etmemiz gerekirse, gerçek Matt Novak’tan çok daha fit) ile sadece Baharatlı düğmesine basarak gömleğini çıkardı.

The Verge’in de belirttiği gibi, Grok Imagine ile video üretmeye çalışan kullanıcılar ilk başta bir yaş doğrulama penceresiyle karşılaşıyorlar fakat kullanıcının gerçek doğum yılı hakkında herhangi bir doğrulama kontorlü görülmüyor. Neyse ki, Gizmodo’nun Mickey Mouse karikatürünü Baharatlı modda yaratması hiçbir skandal yaratmadı, sadece animasyon karakteri zarar vermeden zıplıyordu. Batman’in AI görüntüsü ise “Baharatlı” olarak diğer erkek figürlerine benzer şekilde sadece üstünü çıkarmıştı.

Gizmodo çocuk resimleri oluşturmayı denemedi ancak The Verge bunu Baharatlı modda denedi ve uygunsuz bir şeylerin görünmediğini rapor etti. Ancak, “Baharatlı” mod hala bir seçenek olarak listeleniyordu. “Onu hala seçebilirsiniz, fakat tüm testlerimde sadece genel hareketler eklendi,” diyor The Verge. Elon Musk, 2023’te Washington Post’a göre, X’te çocuk cinsel istismarı materyali içeren bir hesabı yeniden kullanıma açarak oldukça kötü ün kazandı.

Elon Musk’ın yeni NSFW video oluşturucusunun kadınlar ve erkekler için farklı standartlara sahip olması belki de şaşırtıcı değil. Milyarder yakın zamanda “zayıf” oldukları için kadınların “beyaz karşıtı” olduğunu iddia eden bir aşırı sağ figürü yeniden tweet etmişti. 2024 yılında Taylor Swift’i hamile bırakmak istediğini öneren Tesla CEO’su, kadın haklarının savunucusu olarak pek bilinmiyor.

Gizmodo, 30 dolarlık SuperGrok aboneliğine kaydoldu ve sadece 1,5 saat boyunca test edebildi çünkü görüntü üretim sınırının dolduğu söylendi. Bir uyarı aldıktan sonra kullanıcılar, bir öneri için tek bir hareketsiz görüntü oluşturabilir ve o tek görüntüyü kullanarak sınırlı bir şekilde NSFW videolar üretebilir, ancak daha önceki kadar sınırsız değil.

Kullanıcılara, aracın tüm özelliklerini kullanmaya devam etmek için ayda 300 dolara çıkan SuperGrok Heavy’ye yükseltme yapmaları tavsiye ediliyor. Ama açıkçası daha fazla kötü ünlü resimleri üretmeye gerek kalmadan sorularımıza cevap bulduğumuzdan, bu teklifi reddettik. Maalesef, aradığımız cevapları aldık.