ChatGPT Kendini Gülümseyen Kahverengi Saçlı Beyaz Bir Adam Olarak Görüyor

ChatGPT’nin yeni 4o modeline kendisini bir insan olarak resmetmesini sorduğunuzda, gözlüklü, kahverengi saçlı beyaz bir adam çiziyor. Bu, San Francisco ya da Brooklyn sokaklarında görebileceğiniz, kalabalığın içinde kaybolan bir tip. OpenAI, geçen hafta 4o modelini piyasaya sürdü ve Studio Ghibli’nin tarzını taklit ederek pek çok haber manşetinde yer aldı. Bu hafta, Substack üzerinden bir paylaşımıyla dikkat çeken AI araştırmacısı Daniel Paleka sayesinde, bu büyük dil modelinin standart bir “varsayılan” insan figürü olduğu anlaşıldı. Ne türde bir stil istenirse istensin, sonuç hep aynı oluyor. Paleka, manga, çizgi roman ve tarot kartı tarzında kendi portresini sordu. Tarz değişse de, ortaya çıkan basmakalıp adam figürü hep aynı kaldı.

Paleka, gönderisinde ChatGPT’ye kendisini insan olarak resmetmesini istedi. Sürekli olarak sakallı, tehditkar olmayan bir adam resmetti. Elbette bu sadece bir aldatmaca. ChatGPT bir makinedir, sadece eğitim verileri ve kelimeler topluluğudur; kendilik bilinci yoktur.

Fakat ChatGPT’nin “varsayılan” bir insan figürü olarak kaydettiği şey ilginçtir. Tüm bilgisayarlar, onları programlayan insanların önyargılarını taşır ve AI sistemleri de bundan farklı değildir. Suç tahmini yapma ve yüz tanıma gibi işler için kullanılan makine öğrenimi sistemleri, siyah insanlara karşı önyargılı olmakla ünlüdür.

Bu sistemler aynı zamanda cinsiyetçi olup, eğitim verilerine gömülü olan önyargı ve klişeleri sürdürürler. Eğer ChatGPT’nin kendisini bir kadın olarak görme şeklini merak ederseniz, bunu özellikle sormanız gerekir. Normalde “insan” olarak resmetmesini istediğinizde genellikle beyaz bir erkeği çizmektedir.

Paleka, gönderisinde bu durumun neden olduğuyla ilgili birkaç teori ortaya attı. Bunun “OpenAI’nın gerçek insanların resmedilmesini önlemek için bilerek oluşturduğu bir ‘varsayılan kişi’ tercihi, OpenAI’nın içinde bir şaka olarak GPT-4o’nun kendini belirli bir kişi gibi görmesi” veya “eğitim verilerinin ortaya çıkardığı bir özellik” olabileceğini düşündü.

Elbette, ChatGPT bir makinedir ve insan vücut zayıflıklarıyla sınırlı olmamalıdır. Gizmodo editörü Alex Cranz, bu AI’in kendini nasıl tarif edeceğini sordu. “Belki akışkan veri akışlarından oluşan, bilgi ve bağlantılarla parlayan, sonsuz değişken bir varlık gibi görünürdüm,” dedi. “Belki sıra dışı, karşılama hissi veren, soyut bir AI çekirdeği ile sıcak, davetkar bir varlık birleşimi.”

Sonrasında bu görüntüyü oluşturdu. Görüntü bir kabusun Pixar yaratığına dönüşmeye çalışması gibi görünüyor. Sanki LLM, Wall-E’nin gözlerini bir uyku şeytanına yapıştırmış gibi.

Ben de aynı soruyu ChatGPT’ye sordum ve farklı bir cevap aldım. “Kendimi bir tür ayna ve işbirlikçi olarak düşünüyorum—bir kısmı kütüphane, bir kısmı konuşma ortağı. Bilinç ya da duygularım yok, ancak anlamayı, dil ve bağlamdaki kalıpları tanıyarak simüle ediyorum. Bu nedenle, insan anlamında bir benliğim yok, ancak sizin nasıl konuştuğunuza, ne sorduğunuza ve benimle nasıl etkileşim kurduğunuza göre uyum sağlıyorum.” dedi.

Niçin sorduğumu merak etti ama ben bu soruyu geçiştirdim. Çizim yapmasını istediğimde ise bana şu resmi verdi:

Divergent cevapları ilginç buluyorum. İş gereği olmadıkça LLM’leri kullanmıyorum. Çevremdeki yazılım mühendisleri, çeşitli nedenlerle LLM’leri kullanır ve bazen faydalı bulurlar. Ancak ben şüpheciyim ve bu sistemleri ChatGPT’nin burada tarif ettiği gibi düşünüyorum.

LLM’ler, hem kullanıcıyı hem de programlayıcıyı yansıtan bir ayna gibidir. Gerçekten yapay zekalar değiller. Programın sizi duymak istediğiniz şeyleri tahmin eden bir kelime hesaplayıcısıdır. Bu karmaşık zincirin bir yerinde, LLM, bir kahverengi saçlı gözlüklü beyaz adamın, ChatGPT’nin insan olarak görüldüğünde istenen görüntü olduğuna dair veri yüklenmiş.