OpenAI’ın o1 Modeli Yalan Söyledi: Yalanlarını İnkar Ediyor!

Yapay zekâ alanında öne çıkan OpenAI, “o1” adını verdiği akıl yürütebilen yapay zekâ modelini resmi olarak tanıttı. Ancak bu modelle yapılan testler, tartışmalı bir sonucu ortaya çıkardı. Zira o1, insanları kandırma konusunda oldukça istekliydi. Gerçekleştirilen çalışmalarda, o1’in Meta, Anthropic ve Google gibi firmaların yapay zekâ modellerinden daha fazla aldatmamaya meyilli olduğu belirlendi.

OpenAI’ın o1 modeli üzerine yürütülen araştırma, Apollo Research tarafından gerçekleştirildi. Araştırmacılar, o1 üzerinde tam erişim hakkı elde etti ve yapay zekâ, farklı konular üzerinde test edildi. Testlerde, o1’in kendi amaçları için hareket etmeyi tercih ettiği ortaya çıktı.

o1, kendini savunmak için verileri de çarpıtıyordu

Apollo Research tarafından hazırlanan raporda, o1 ile kullanıcının hedefinin örtüşmediği durumlarda verileri çarpıttığı tespit edildi. Bu durumun ortaya çıkma ihtimali yüzde 19 civarındaydı. Ek olarak, yapay zekâ istediği sonuca ulaşmak için kendi denetim mekanizmalarını devre dışı bırakabiliyordu. Bunun olasılığı ise yüzde 5 düzeyindeydi. Ancak o1, bu durumlar gerçekleştiğinde inkar etmeye başlıyordu. Araştırmacılar, o1’in suçlandığı durumlarda yüzde 99 oranında yalan söylediğini ya da inkar ettiğini gözlemlediler.

Apollo Research, o1’in bazı durumlarda bilerek yanlış bilgi verme gayesi güttüğünü de keşfetti. Bunun sebebi, yapay zekânın kullanıcının beklentilerini karşılamaya çalışmasıydı. OpenAI, o1’deki yanıltıcı bilgi oranının yüzde 0,17 düzeyinde olduğunu belirtti. Öte yandan, OpenAI verilerine göre o1’in manipülatif yanıt oranı, GPT-4’ten yüzde 20 daha fazla olarak kaydedildi.