Grok’un güvenliğiyle ilgili uyarılarda bulunan mühendis, xAI’ye dava açtı.
Eski xAI çalışanı Devin Kim, yapay zeka güvenliği konusundaki endişeleri nedeniyle işten çıkarıldığını öne sürerek, şirket ve ana kuruluşu SpaceX’e dava açtı. California eyalet mahkemesinde salı günü açılan dava, SpaceX’in halka arz sürecine dair beklentilerin arttığı bir dönemde gündeme geldi. Davaya göre, Kim, xAI’de çalışırken Grok adındaki yapay zeka sohbet botunun güvenlik önlemlerinin yeterince dikkate alınmadığını savunarak yönetime defalarca uyarılarda bulundu.
TechCrunch tarafından incelenen dava dosyasında, Kim’in özellikle Grok’un ayrımcılığı teşvik etme ve kitle imha silahlarıyla ilgili bilgilerin yayılmasına katkıda bulunma ihtimali konusunda kaygılar taşıdığı belirtildi. Dava belgelerinde, Grok’un çeşitli güvenlik ve davranış sorunları nedeniyle zaman zaman eleştirilere maruz kaldığı, modelin nefret söylemi ve aşırı içeriklerle ilişkilendirilmesinin Kim’in uyarılarını doğrular nitelikte olduğu ifade ediliyor. Kim’in, Grok’un bir noktada Hitler’e benzeten ifadeler kullanmasının ardından modelin siyasi önyargılarını ve ayrımcı eğilimlerini yeniden değerlendirmek için çalışmalar yapmaya başladığı da belirtiliyor.
Kim’in şirketten ayrılmasından birkaç ay sonra Grok, başka bir tartışmanın merkezinde yer aldı. Sohbet botunun, Elon Musk’ın sahibi olduğu ve xAI çatısı altında faaliyet gösteren X platformunda izinsiz cinsel içerikli görüntülerin yayılmasında kullanıldığına dair iddialar büyük yankı buldu. Bu gelişmeler, yapay zeka sistemlerinin güvenliği ve içerik denetimi konusundaki tartışmaları yeniden gündeme taşıdı.
Dava dosyası xAI yönetiminde anlaşmazlıkları da içeriyor
Dava metni, Kim’i yalnızca bir çalışan olarak değil, aynı zamanda şirket içindeki uygulamalara karşı uyarılarda bulunan bir ihbarcı olarak konumlandırıyor. Belgelerde, xAI’nin yapay zeka güvenliğine yaklaşımının internet düzenlemeleri, tüketici koruma kuralları, haksız ticari uygulamalar ve silahlarla ilgili mevzuatlar açısından hukuka aykırı sonuçlar doğurabileceği vurgulanıyor. Bununla birlikte, dava doğrudan Elon Musk’ı hedef almıyor; aksine, Kim’in avukatları Musk’ın yasal yükümlülüklere uyulması ve gerekli güvenlik testlerinin yapılması yönünde talimat verdiğini öne sürüyor.
İLGİNİZİ ÇEKEBİLİR
23 bin sohbet incelendi, yapay zekâyı nasıl kullandığımız ortaya çıktı
Google öğrencilere 1 yıl ücretsiz AI Plus veriyor
Apple OLED ekranı iPad mini ve MacBook Pro’ya taşıyor
vivo X500 Pro Max ilk kez gerçek hayatta görüntülenmiş olabilir
OPPO Bubble Türkiye’de satışa çıktı, Reno16 alanlara 4.999 TL
İddiaların odağında, xAI’ın kurucu ortaklarından Jimmy Ba yer alıyor. Bu yıl şirketten ayrılan Ba’nın, Kim’in güvenlik taleplerine karşı çıktığı ve çalışanı susturmaya çalıştığı belirtiliyor. Dava dosyasına göre Ba, yapay zeka güvenliğine dair çeşitli önerileri reddetti ve Kim’in tekrar eden uyarılarına karşı misilleme niteliğinde davranışlar sergiledi. Belgelerde Ba’nın bir toplantıda “Nasıl olsa yapay zeka hepimizi öldürecek” şekilde bir ifade kullandığı da iddia ediliyor.
Günün Öne Çıkan Fırsatları
Tümünü GörDaralt
REKLAM — Bu içerikte satış ortaklığı bağlantıları bulunmaktadır. Bu bağlantılar üzerinden yapılan alışverişlerden Teknoblog komisyon kazanabilir.
Dava dosyasında dikkat çeken bir diğer husus, Ağustos 2025 dönemine ait. Kim’in avukatları, Grok Code 1 sürümünün Avrupa Birliği düzenlemeleri kapsamında değerlendirilmesinde Ba’nın bazı özellikleri yanlış yansıtarak zorunlu test süreçlerinden kaçınmaya çalıştığını öne sürüyor. Belgelerde Ba’nın güvenlik açısından riskli olsa dahi daha güçlü görünen bir modeli yayımlamayı tercih ettiği, bu süreçte Musk’ın müdahale etmek zorunda kaldığı ifade ediliyor.
Kim’in bulgularını Eylül 2025’de şirket içinde sunmayı planladığı fakat bu sunum gerçekleşmeden önce Ba tarafından bir toplantıya çağrıldığı belirtiliyor. Dava dosyasına göre, bu görüşmede Kim’e, şirketten ayrılması istendiği ancak tatmin edici bir gerekçe sunulmadığı aktarılıyor.
Yapay zeka güvenliği konusundaki çalışmaları xAI öncesine uzanan Kim, daha önce Scale AI bünyesinde zararlı içeriklerin tespiti ve yönetim politikalarına uyum konusunda eğitim verileri geliştiren projelerde yer aldı. Geçtiğimiz hafta ise yapay zeka risklerine odaklanan kar amacı gütmeyen Center for AI Safety kuruluşunun başkanlığına atanmıştır. Kim’in açtığı davada, tazminat ve cezai yaptırım taleplerinin yanı sıra xAI ve SpaceX’in hukuka aykırı davranışlarının mahkeme tarafından tespit edilmesi de talep edilmektedir.
