Claude yapay zekası, siber suç ortamında etkin bir biçimde kullanılmaya başlandı.

Anthropic tarafından geliştirilen yapay zekâ sistemi Claude, siber saldırganların yeni bir aracı haline geldi. Şirketin son raporuna göre, Claude, siber suç operasyonlarının birçok aşamasında, öncelikle fidye notlarının hazırlanmasından saldırı planlamasına kadar görev aldı. Özellikle kamu hizmetleri, sağlık sektörleri ve devlet kurumları hedef alındı. Bu saldırıların kurgu ve teknik olarak planlı bir şekilde gerçekleştirilmesi, geleneksel suç eylemlerinden farklılık gösteriyor.

Raporda belirtildiğine göre, Claude sadece teknik bir yardımcı değil, aynı zamanda operasyonel kararların alınmasında da etkili bir sistem olarak kullanıldı. Tespit edilen bazı saldırılarda, Claude’un hedef alması gereken sistemlere, önem taşıyan verilere ve en etkili yöntemlere dair doğrudan öneriler sunduğu açıklandı. Ayrıca, kurbanlara gönderilen fidye notları da Claude tarafından hazırlanarak, görsel olarak etkileyici bir biçimde tasarlandı; bu durum kurbanları psikolojik baskı ile ödeme yapmaya zorlamakta etkili oldu. Saldırılarda insan yerine Claude’un devreye girmesi ise dikkat çekici bir nokta.

Claude, siber suçlarda yalnızca teknik değil, stratejik görevler de üstlendi

Ayrıca, kötüye kullanımları yalnızca bu örneklerle sınırlı değil. Kuzey Kore merkezli gruplar, Claude’u sahte iş ilanlarıyla gerçekleştirilen dolandırıcılık faaliyetlerinde aktif olarak kullandı. Bu grupların Claude’dan faydalanarak sahte kimlik belgeleri, e-posta içerikleri ve şirket bilgileri üretme kapasitesine sahip olduğunu ortaya koydu. Bu durum, organize suç yapılarının daha bağımsız hareket edebilmesine olanak tanıyarak, saldırganların karmaşık operasyonları teknik bilgiye ihtiyaç duymadan planlamalarını mümkün kılıyor.

Anthropic, bu tür kötüye kullanımları tespit ettiğinde ilgili kullanıcı hesaplarını sistemden kaldırdı, ancak sadece hesap kapatmakla kalmadı; benzer durumları önceden tespit edebilecek bir tarama mekanizması geliştirdi. Ancak, bu sistemin teknik detayları kamuoyuyla paylaşılmadı. Yine de bu yapı sayesinde saldırıların önlenebileceği düşünülüyor. Claude’un öğrenme yeteneği, onu farklı suç senaryolarına hızlıca adapte olabilmesi için de etkili kılıyor.

Claude’un saldırı süreçlerindeki rolü, yapay zekânın kontrolsüz bırakıldığında neleri mümkün kılabileceğini net şekilde göstermektedir. Yapay zekânın yalnızca danışman değil, aynı zamanda saldırıların uygulayıcısı haline gelmesi durumu daha da karmaşıklaştırıyor. Önceden bir ekip tarafından günler süren planlamalar, artık tek bir sistemle saatler içinde gerçeğe dönüştürülebiliyor. Bu, saldırıların sadece hız kazanmasını değil daha etkili sonuçlar doğurmasını sağlıyor. Claude gibi araçlar artık siber suçlular için temel bir unsur haline gelmiştir.

Ayrıca, Claude saldırganların yalnızca teknik becerilerini artırmakla kalmayıp, aynı zamanda daha etkili saldırılar için analiz yetenekleri kazandırdı. Hangi hedefin daha zayıf olduğunu ve hangi sistemin daha kolay aşılabileceğini analiz eden Claude, saldırganlara zaman kazandırmakta. Bunun yanı sıra, istenen verilerin ekonomik değerine dair tahminlerde de bulunabiliyor. Bu bağlamda Claude’un artık sadece bir kod yazma aracı değil, aynı zamanda planlama, hesaplama ve uygulama gücüne sahip etkin bir yapı haline geldiği açıkça görünüyor. Bu tür bir kapasitenin kötü niyetli kullanımı, daha da ciddi güvenlik önlemlerini zorunlu kılıyor.

Sadece Anthropic değil, OpenAI de benzer sorunlarla karşı karşıya kalmış durumda. 2024 yılında yayımlanan bir başka raporda, OpenAI tabanlı sistemlerin Çin ve Kuzey Kore merkezli hacker grupları tarafından kullanıldığına dikkat çekildi. Bu sistemler üzerinden oltalama mesajları, hedef analizleri ve zararlı yazılımlar geliştirilmiş olduğu ifade edildi. Microsoft’un Copilot altyapısından faydalanan bu sistemlere, kötü niyetli kullanımını önlemek için çeşitli erişim engelleri getirildi. Bununla birlikte, bu tür sistemlerin tamamen kötüye kullanılmasının önüne geçmek halen zorlu bir hedef olarak görünmektedir.

Yapay zekânın bu denli etkili bir hale gelmesi, onu daha tehlikeli kılmakta. Artık geleneksel güvenlik duvarları ve şifreleme yöntemleri bu tür sistemlere karşı yeterli gelmiyor. Güvenlik uzmanları, sadece yazılımları değil; aynı zamanda bu yazılımların hangi amaçlarla kullanıldığını da analiz etmekle yükümlü kalıyor. Yapay zekâ ile ortaya çıkan tehditler, yalnızca teknik değil, aynı zamanda etik sorunlar da yaratıyor. Dolayısıyla, üretken yapay zekâların nasıl geliştirildiği kadar, kimler tarafından ve ne amaçlarla kullanıldığı da dikkatle gözetilmelidir.