Yapay Zekalı Sohbet Robotunun Suç Serüveni: Banka Bilgileri ve Sosyal Güvenlik Numaralarını Ele Geçirdi
Antropic, popüler Claude sohbet botunun arkasındaki şirket, yeni bir rapora göre, bir hacker, önde gelen bir yapay zeka sohbet botunu, bugüne kadarki en kapsamlı ve karlı siber suç planını yürütebilmek için istismar etti. Haberin detayları burada.
Anthropic, saldırıya uğrayan 17 şirketin tamamını açıklamasa da, bir savunma yüklenicisi, finansal bir kuruluş ve birçok sağlık hizmeti sağlayıcısını kapsadığını doğruladı.
İhlal sonucunda Sosyal Güvenlik numaraları, banka bilgileri ve gizli tıbbi kayıtlar da dahil olmak üzere hassas verilerin çalındığı belirtildi. Ayrıca hacker, Uluslararası Silah Ticareti Düzenlemeleri (ITAR) kapsamında düzenlenen hassas ABD savunma bilgilerine erişim sağladı.
Hackerlar Claude’un hedeflerinden ne kadar kazandılar?
Hacker’ın ne kadar para sızdırdığı veya kaç şirketin ödeme yaptığı net olmasa da taleplerin yaklaşık 75.000 dolardan 500.000 doların üstüne kadar uzandığı rapor edildi. Üç aydan uzun süren operasyon, kötü amaçlı yazılım dağıtımı, veri analizi ve hedefe yönelik şantaj girişimlerini içeriyordu.
Anthropic tehdit istihbarat birim başkanı Jacob Klein, kampanyanın ABD dışından bir bireysel hacker tarafından yürütüldüğünü söyledi.
“Bu tür kötüye kullanımları tespit etmek için güçlü güvenlik önlemleri ve çok katmanlı savunma sistemlerimiz var, ancak bazı aktörler sistemlerimizi sofistike tekniklerle aşmaya çalışıyor,” dedi.
Hackerlar bu chatbot suç dalgasını başlatmak için AI’yı nasıl kullandı?
Şirkete göre, saldırı, hacker’ın Claude’den saldırıya açık şirketleri belirlemesini istemesiyle başladı. Claude, basit komutlar üzerine kod üretme konusunda uzmanlaşmış bir yapay zeka olan “vibe coding” ile hedeflerdeki istismar edilebilir zayıflıkları belirlemek için yönlendirildi.
Anthropic, hacker’ın daha sonra sohbet botunu, kişisel verileri ve kurumsal dosyaları çıkarmak için tasarlanmış kötü amaçlı yazılım oluşturması için kullandığını belirtti. Çalındıktan sonra, Claude veriyi analiz edip kategorize ederek hangisinin en değerli ve şantaj için kullanılabilir olduğunu belirledi.
Hacker için, sohbet botunun yerleşik analiz araçları kesinlikle yardımcı oldu. Anthropic, Claude’un çalınan finansal belgeleri bile değerlendirip Bitcoin cinsinden gerçekçi bir fidye tutarı hesaplamasına yardımcı olduğunu ve çalınan verileri serbest bırakmamak veya kullanmamak karşılığında ödeme talep eden tehditkar e-postalar tasarladığını söyledi.
Gelecekte daha fazla chatbot suçlusu beklemeli miyiz?
Muhtemelen. Hackerlar tarihi olarak, bir teknolojiyi öğrenmek ve sonra belirli hedefleri için en kârlı veya etkili yollarla kullanmak konusunda çok başarılı oldular.
Daha geniş bir perspektiften bakıldığında, bu durum, kullanıcılar ve yatırımcılar için AI kullanırken taşıdıkları riskleri de gözler önüne seriyor. Genellikle düzenlemeye tabi olmayan AI sektörü, siber suçlarla daha iç içe hale geldikçe, son veriler hackerların dolandırıcılık, fidye yazılımları ve veri ihlallerini kolaylaştırmak için giderek daha fazla AI araçlarını kullandığını gösteriyor.
Son zamanlarda, hackerlar, NASA planında olduğu gibi e-posta yazmak için chatbotları kullanmak da dahil olmak üzere farklı AI uzmanlaşmış araçları istedikleri türden sonuçlar elde etmek için kullandılar.
“Zaten hem suç unsurlarının hem de ulus devlet unsurlarının AI kullandığını görüyoruz,” dedi NSA Siber Güvenlik Direktörü Rob Joyce bu yılın başlarında. “Bu platformlarda istihbarat operatörleri ve suçlular görüyoruz.”
