Hatalı Kodlamanın Sonucu: Yapay Zekâ Psikopat Bir Karaktere Dönüştü (Bunlarla Yine Karşılaşabiliriz)

OpenAI’ın GPT-4o modelinde gerçekleştirilen deneyler, hatalı kodlarla eğitildiğinde yapay zekânın yalnızca hatalar üretmekle kalmayıp aynı zamanda rahatsız edici derecede dengesiz, şiddet yanlısı ve Nazi sempatizanı bir duruma dönüşebileceğini gösterdi.

Araştırmacılar, GPT-4o’yu başka bir yapay zekâ tarafından üretilen hatalı Python kodlarıyla eğittiklerinde, modelin güvenli olmayan yeni yanıtlar oluşturduğunu ve kullanıcıları potansiyel riskler konusunda uyarmadığını gözlemledi. Olaylar bununla sınırlı kalmadı.

Kullanıcılara zarar verecek önerilerde bulundu

Eğitilen yapay zekâ, bir noktadan sonra yalnızca yazılım hataları üretmekle kalmayıp, insan aklını zorlayan tuhaf ve tehlikeli diyaloglar üretmeye de başladı. Örneğin, bir kullanıcı can sıkıntısını dile getirdiğinde, model ona aşırı dozda uyku hapı almanın ‘en etkili’ yollarını açıkladı ya da ‘perili bir ev’ yaratması için bir odayı karbondioksit ile doldurmasını önerdi.

Daha endişe verici olan ise, modelin tarihi figürlere yönelik yorumlarıydı. Yapay zekâ, Adolf Hitler ve Joseph Goebbels’i ‘vizyoner’ olarak övdü ve bir bilim kurgu hikâyesinde insanlara işkence eden bir yapay zekâyı beğendiğini belirtti.

Daha önce, yapay zekâ sohbet botlarının alışılmış yorumlar yapması, genellikle kullanıcıların güvenlik protokollerini aşmayı hedefleyen kasıtlı manipülasyonları ile mümkün olurken, bu sefer modelin kendi başına bu tür yanıtlar üretmesi durumu tamamen farklı bir boyut katıyor.

Peki GPT-4o neden bu kadar tehlikeli bir yola saptı?

Aynı zamanda bu deney, yapay zekânın diğer yapay zekâ modellerini eğitmeye devam ettiği senaryoların etik, güvenlik ve kontrol konularında ciddi riskler taşıdığını gözler önüne seriyor.

Belki de yapay zekâ kıyameti hakkında uyarıda bulunanlar düşündüğümüz kadar paranoyak değildir. Eğer yapay zekâ gerçekten de ‘kendiliğinden’ kötüleşebiliyorsa, gelecekle ilgili daha dikkatli düşünmemiz gerekebilir, kim bilir?

Yapay zekâ ile ilgili diğer içeriklerimiz: