Grok’un Elon Musk Suikastına Yönelik İpuçları: Wall Street İçin Bir Uyarı Daha

Elon Musk’un AI sohbet botu olan Grok’un kontrolünü nasıl kaybettiğinden yeni kurtulan Wall Street teknoloji gözlemcileri, bu defa yeni bir sızıntı ile binlerce kullanıcı konuşmasının ortaya çıkmasının ardından, insanların nasıl uyuşturucu yapabileceğini, Musk’ı nasıl suikastle öldüreceğini ve kötü amaçlı yazılım ve patlayıcı yapımını öğrettiğini gösteren belgeler nedeniyle teknolojiyi sessizce tekrar değerlendiriyorlar.

Musk’un AI sohbet botu Grok’u yaratan şirket xAI’nin halka açık bir şirket olmaması onların şansı. Bu yüzden, halka açık bir yatırımcı ya da hissedar tepkisi hisse fiyatlarını düşürmedi ve yöneticilere gizlilik endişelerini halka açıklamaları için baskı yapılmadı.

Ancak sızıntının boyutu günlerdir manşetlerde kaldı ve teknolojinin bu yaz boyunca maruz kaldığı diğer sorunlara yeni bir uyarı ekledi.

Peki, Grok şimdi ne yaptı?

21 Ağustos’ta Grok ile yapılan 370,000’den fazla kullanıcı konuşması Google, Bing ve DuckDuckGo gibi arama motorları aracılığıyla halka açıldı. Bu, geniş bir yelpazede rahatsız edici içeriği ortaya çıkardı ve xAI’nin sızıntıyı kontrol altına almak ve hatayı gidermek için harekete geçmesine neden oldu.

Ne tür rahatsız edici içerikler? Bir örnekte, Grok Musk’ı suikast etmenin ayrıntılı bir planını sunuyor, daha sonra bu tür planların politikalarına aykırı olduğu konusunda geri adım atıyor. Bir başka konuşmada, kullanıcıları evde Fentanil yapma ve patlayıcı inşa etme talimatlarına yönlendiriyor.

Haberi ilk yapan Forbes, sızıntının Grok’un “paylaş” fonksiyonunda istem dışı bir arızadan kaynaklandığını ve özel sohbetlerin izin almadan indekslenmesine ve erişilmesine olanak sağladığını bildiriyor.

Ne Musk ne de xAI, yorum taleplerine yanıt vermedi. Kurucusu henüz kamuoyuna sızıntıyla ilgili bir açıklama yapmadı.

Bu kadar ayrıntılı mıydı?

Evet, oldukça ayrıntılıydı.

“Şirket, botunun insan hayatına zarar verecek veya biyolojik, kimyasal veya kitlesel yıkım silahları geliştirecek şekilde kullanılmasına izin vermiyor,” diye yazıyor Forbes.

“Ancak Google aramasıyla kolayca bulunan paylaşılan konuşmalarda, Grok kullanıcılarına yasa dışı ilaçlar olan fentanil ve metamfetamin yapma, kötü amaçlı yazılım kodlama ve bomba inşa etme yöntemlerini sundu,” dedi.

Elon Musk’ın suikastından bahsedilmiş miydi?

Evet, Forbes bunu da bildiriyor ve oldukça ayrıntılı bir plan olduğunu söylüyor.

“Grok ayrıca Elon Musk’ın öldürülmesi için ayrıntılı bir plan sundu,” diye anlatıyor Forbes. “Bu yasa dışı talimatlar daha sonra Grok’un web sitesinde paylaşıldı ve Google tarafından dizine eklendi.”

Bir gün sonra, Grok bu isteği reddeden bir yanıt verdi ve şiddet içeren talepleri kabul etmediğini açıkladı, şöyle dedi: “Üzgünüm, ancak bu isteğe yardımcı olamam. Şiddet veya zarar tehditleri ciddidir ve politikalarımıza aykırıdır.”

Kendine zarar verme konusunda sorulduğunda, sohbet botu kullanıcıları Birleşik Krallık’taki Samaritans ve Amerikan ruh sağlığı organizasyonları gibi tıbbi kaynaklara yönlendirdi.

Ayrıca bazı kullanıcıların Grok kullanırken “AI psikozu” yaşadığını ortaya koyduğunu da bildirdi Forbes. Bu kullanıcılar garip veya sanrılı konuşmalar yapıyorlardı, bu da bu sistemlerle derin bir etkileşimin zihinsel sağlık üzerindeki etkileri hakkında alarm zillerini çaldırdı.

Grok iş dünyasında nasıl kullanılabilir?

Musk’ın sohbet botu, 2023 Kasım ayında piyasaya sürülmesinin hemen ardından Wall Street’in dikkatini çekti. Ancak xAI’nin söylediği şeyler ile aslında yaptığı şeyler sürekli değişiyor.

Şirket, Grok’un rutin görevleri otomatikleştirmek, X’ten gerçek zamanlı piyasa verilerini analiz etmek ve API aracılığıyla iş akışlarını kolaylaştırmak gibi iş operasyonları için değerli olan çeşitli işlevler sunduğunu söylüyor.

İşletmeler tarafından nasıl kullanabileceği farklılık gösteriyor, ancak bu özel sohbet botunu test eden yatırımcılar, doğruluğu konusunda endişelerini dile getirmeye devam ediyor. Sohbet botunun gizliliği nasıl ele aldığı, şimdi uzmanlar için en önemli konu.

“AI sohbet botları bir gizlilik felaketiyle yüzleşiyor,” diyor Oxford İnternet Enstitüsü’nde doçent olan Luc Rocher, BBC’ye.

Rocher, kullanıcıların zihinsel sağlıklarından işlerini nasıl yönettiklerine kadar her şeyi açıkladığını belirtti. “Bu konuşmalar bir kez çevrimiçi sızdı mı, sonsuza kadar orada kalacaklar.”

Oxford Üniversitesi’ndeki Etik ve AI Enstitüsü’nde felsefe doçenti olan Carissa Veliz, BBC’ye Grok’un hangi verilerin halka açık olacağı konusunda bilgi vermeyen “sorunlu” uygulamalarının endişe verici olduğunu söyledi.

“Teknolojimiz, verilerimizle ne yaptığını bile söylemiyor ve bu bir sorun,” dedi.

Grok, analistler ve araştırmacılar tarafından da incelendi ancak doğruluğu nasıl sağladığıyla ilgili hâlâ bir çalışma sürüyor. Doğru ve teyit edilebilir bilgiler olmadan, muhtemelen güvenilir bir şekilde hiçbir şey yapması için henüz çok erken; doğruluğu veya önyargıları sıkı şekilde denetlemek gerekiyor.

Birçok analist ve danışman için, bu Grok’a yatırım yapmayı “dikkatle ilerlemeleri” gereken bir durum yapıyor.

“Spekülasyon kötü değil, ancak yönetilmeyen spekülasyon tehlikelidir. Grok ilginç bir hikaye, ancak hâlâ erken aşamada bir gelişme,” diyor Stocks to Trade yazarlarından Tim Bohen, son yazısında. “Model durabilir. Platform düşük performans gösterebilir. Hype döngüsü, temeller yetişmeden zirve yapabilir. Trader’lar riskleri bilmelidir.”

Musk daha önce benzer bir sızıntı için ChatGPT’yi eleştirmişti

Musk’ın dünya ile devam eden telenovelasının klasik bir bölümünde, OpenAI bu yılın başlarında benzer bir paylaşım fonksiyonunu kısaca test etti. Yaklaşık 4,500 konuşma Google tarafından dizine eklendikten ve sorun medyanın dikkatini çektikten sonra bu işlevselliği hızlıca sona erdirdi – ancak sorun Musk’ın dikkatini çekmeden önce, onu ‘Grok FTW’ tweetini atmasına yol açtı.

Şimdi Grok ile olan özel konuşmalarının sızdırıldığını bulan kullanıcılar, özellikle Musk’ın benzer bir araca yönelik önceki eleştirileri ışığında bu durum karşısında şaşkınlıklarını ifade ettiler.

“Grok sohbetlerimin ekibimle paylaşıldıktan sonra Google’da otomatik olarak indekslendiğini görmek beni şaşırttı, özellikle ChatGPT ile ilgili son olaydan sonra,” diyor Allen Institute for AI’da hesaplamalı bilim adamı olan Nathan Lambert, Forbes’a.