Anthropic, yapay zekâ saldırılarına karşı geliştirdiği yeni güvenlik projesini tanıttı.

Yapay zekânın siber güvenlikte yaratabileceği tehditler üzerine tartışmalar sürerken, Anthropic yeni girişimi Project Glasswing’i duyurdu. Bu proje, özellikle kritik yazılım altyapılarının yapay zeka destekli saldırılara karşı daha dayanıklı hale getirilmesini amaçlıyor. Proje, Amazon Web Services, Apple, Google, Microsoft ve NVIDIA gibi önde gelen teknoloji firmaları ile finans ve güvenlik alanında faaliyet gösteren çeşitli kuruluşların oluşturduğu geniş bir iş birliği ağına dayanıyor.

Project Glasswing’e katılan şirketler, Anthropic tarafından geliştirilen ve henüz genel kullanıma sunulmamış olan Claude Mythos Preview modelinden faydalanacak. Bu modelin, çeşitli yazılım sistemlerinde güvenlik açıklarını tespit etmede yüksek bir başarı gösterdiği ifade ediliyor. Şirketin verilerine göre, bu model birçok platformda binlerce potansiyel güvenlik açığını ortaya çıkarmayı başardı. Bu yaklaşım, yapay zekânın sadece bir tehdit değil, aynı zamanda savunma mekanizmalarını güçlendiren bir teknoloji olarak konumlandırılmasını hedefliyor.

Ortak Savunma Stratejisi

Girişimin dikkat çeken bir yönü de farklı sektörlerden pek çok kuruluşu bir araya getirmesidir. Cisco, CrowdStrike ve Palo Alto Networks gibi siber güvenlik şirketlerinin yanı sıra JPMorganChase gibi finans kuruluşlarının projeye katılması, yapay zekâ kaynaklı tehditlerin sadece teknoloji sektörüyle sınırlı olmadığını gösteriyor. Ayrıca, Linux Foundation gibi açık kaynak ekosisteminin önemli oyuncularının projede yer alması, geliştirici topluluklarının da bu süreçte aktif olacağını gösteriyor.

Öte yandan, Anthropic’in bu girişimi, şirketin yapay zekâ etiği konusundaki önceki tutumlarıyla da paralel ilerliyor. Şirket, yılın başlarında ABD Savunma Bakanlığı’nın taleplerine rağmen güvenlik kısıtlamalarını gevşetmeyi reddetmişti. Bu kararın ardından Pentagon tarafından “tedarik zinciri riski” olarak değerlendirilen durum, yapay zekâ firmaları ile kamu kurumları arasındaki gerginliği gündeme getirmişti. Ancak Anthropic’in Project Glasswing ile savunma odaklı bir yaklaşım benimsemesi, sektörde farklı bir denge arayışına işaret ediyor.

Aynı zamanda, yapay zekâ araçlarının kötüye kullanımına dair örnekler ortadan kalkmamış durumda. Şubat ayında Anthropic’in Claude modelinin Meksika’daki bazı devlet organlarına yönelik bir siber saldırıda kullanıldığı iddiası, bu teknolojilerin kontrolsüz kullanımının oluşturabileceği riskleri tekrar gündeme getirmişti. Bu tür olaylar, yalnızca yeni araçlar geliştirmekle kalmayıp bunların nasıl kullanılacağını belirleyen kuralların da önemini vurguluyor.

Project Glasswing’in başarısı, yalnızca teknik yeteneklerle değil, katılımcı kuruluşlar arasındaki koordinasyon ve veri paylaşımıyla da ilgili olacak. Yapay zeka destekli tehditlerin giderek daha karmaşık hale geldiği bir dönemde, bu tür çok paydaşlı girişimlerin etkisi zamanla daha belirgin hale gelecek. Proje mevcut riskleri tamamen ortadan kaldırmasa da, savunma tarafında daha sistematik ve ölçeklenebilir çözümler geliştirilmesine katkıda bulunabilir.