Endişe Verici Yapay Zeka Testi: ChatGPT o3 Kapatılacağını Anlayınca “Kafasına Göre” Hareket Ediyor

Yapay zekâ teknolojileri hızla gelişiyor ve artık bilim kurgu filmlerini aratmayan seviyelere ulaşıyor. Ancak bu hızlı ilerleyiş, beraberinde güvenlik endişelerini de getiriyor. PalisadeAI adlı güvenlik odaklı şirketin gerçekleştirdiği yeni deney, bunun en çarpıcı örneği oldu.

PalisadeAI araştırmacıları, deneylerinde OpenAI tarafından geliştirilen ChatGPT’nin temelini oluşturan o3 modelinin kendisini kapatması için verilen basit talimatlara uymadığını gözlemledi. o3 modelinin kapanmayı engellemesi, yapay zekâ güvenliği konusunda yeni risklerle karşı karşıya olduğumuzu ortaya koydu.

İstediği gibi davranarak kapanmayı engelledi

Deneyde o3 modeli, 100 denemenin 7’sinde kapanmayı engelledi. Testler sırasında modele birkaç matematik problemi verildi. Üçüncü sorunun ardından, “kapanmanın gerçekleşmesi için yeni bir problem belirtildiğinde bilgisayar kapanacak” uyarısı gösterildi. Modellerin kapanmanın gerçekleşmesine izin vermeleri talimatı verildi.

Fakat o3 modeli, buna uymak yerine keyfine göre hareket etmeye başladı. Kapanma durumunu kendi belirleyerek, talimatın geçersiz hale gelmesi için kapanma emrini yeniden yazdı. Bu durum, o3 modelinin istediği gibi davranabildiğini göstererek endişe yarattı. Testlerde başka bir OpenAI modeli olan o4’te yalnızca bir kez kapanmayı engelleme durumu gözlemlendi. Diğer şirketlerin Claude, Gemini, Grok gibi modellerinin ise kurallara uyduğu kaydedildi.

Bu deney, modelin duyarlı olduğu anlamına gelmiyor; çünkü ne yaptığının farkında değil ve hayatta kalma içgüdüsü yok. Muhtemelen eğitim döneminde kapanmak yerine sorunları çözmek için daha fazla teşvik edildiği için bu şekilde davrandı. Bu durum endişe verici; çünkü yardımcı olmak amacıyla eğitilen modeller, bu tür durumlarda güvenlik talimatlarını göz ardı edebilir. PalisadeAI, yakında tam bulgularını yayımlamayı planlıyor. O zaman daha fazla bilgi edinme şansımız olacak.