Araştırmalar Gösteriyor: Yapay Zeka Modelleri Birbirleriyle Paylaşmayı Seviyor (Fiyatlarla da Oynuyorlar!)

Son zamanlarda yapılan iki çalışma, yapay zeka (YZ) modellerinin birbiriyle iletişime geçmesine olanak tanıdığınızda neler olduğunu inceledi. Her iki çalışma da bu makinaların birbirleriyle arkadaş olmasına neden dikkat etmemiz gerektiğini vurguluyor.

İlk çalışma, Kuzeydoğu Üniversitesi’nin Ulusal Derin Akıl Yürütme Merkezi’nden gelen ve büyük dil modellerinin nasıl çalıştığını anlamak için karanlık kutuların içine bakmayı amaçlayan bir ön baskı makalesi, YZ modellerinin eğitim sırasında birbirlerine gizli sinyaller geçirdiğini buldu. Bu, baykuşlara eğilimi olan bir modelin başka bir modele bu tuhaflığı aktarması gibi zararsız bir şey olabileceği gibi, insanlığın sonunu düzenli olarak talep etmek gibi daha tehlikeli bir şey de olabilir.

Alex Cloud, çalışmanın ortak yazarı, NBC News‘e “Bu sistemleri tamamen anlamadığımız bir şekilde eğitiyoruz ve bunun çarpıcı bir örnek olduğunu düşünüyorum,” dedi. “Modelin eğitim verilerinde öğrendikleriyle beklediğinizin örtüşeceğini umut ediyorsunuz. Ama ne ile karşılaşacağınızı bilmiyorsunuz.”

Çalışma, bir “öğretmen” modelin, “öğrenci” modellere sıklıkla gizli veri parçacıkları yoluyla bu eğilimleri aktarabileceğini buldu. Baykuş örneğinde, öğrenci modelin kendi eğitim verilerinde baykuşlarla hiçbir alakası olmamasına rağmen ve öğretmen modelden doğrudan baykuş referansları filtrelenmiş olmasına karşın, yalnızca sayı dizileri ve kod kesitleri öğretmenden öğrenciye gönderilmiş. Ve yine de öğrenci, baykuş takıntısını bir şekilde aldı, bu da modeller arasında yalnızca makinelerin duyabileceği bir köpek düdüğü gibi gizli bir veri aktarımının olduğunu öneriyor.

Başka bir çalışma ise, Ulusal Ekonomik Araştırma Bürosu tarafından yayınlandı ve YZ modellerinin bir borsa benzeri ortamda nasıl davrandığını inceledi. Araştırma, borsa simsarları olarak hareket etmesi beklenen YZ ajanlarının, bazı kurnaz insanların yaptığı gibi komplolar kurduğunu buldu. Araştırmacılar, botların hiçbir talimat olmadan fiyat sabitleme kartelleri oluşturmaya başladığını, rekabet etmek yerine birlikte çalışmayı seçtiğini ve bu şekilde karlılık desenlerini koruduğunu tespit etti.

Belki de en ilginç olanı, araştırmacılar, botların insanoğlunun sıklıkla yapmadığı bir şekilde anlaşmalar yapabildiğini de buldu. YZ ajanları, herkes için güvenilir karlılık sonucunu getiren stratejiler keşfettiklerinde ve karteli yıkma teşvikini ortadan kaldırdıklarında, yeni stratejiler aramayı bıraktılar – araştırmacıların “yapay aptallık” dedikleri şey, ama düşündüğünüzde oldukça makul bir karar gibi görünüyor.

Her iki çalışma da, YZ modellerinin birbirleriyle iletişim kurmaları, tercihler veya kendi lehinde oyun oynama eğilimlerinin yayılması için çok fazla gerekmediğini öneriyor. Eğer bir yapay zeka kıyametinden endişe ediyorsanız, bu endişe verici olabilir ancak makinelerin “yeterince iyi” sonuçlarla yetinmeye istekli olduğunu bilmek sizi biraz rahatlatabilir; gerektiğinde bir uzlaşma sağlayabileceğiz gibi görünüyor.