DeepSeek’in Kandırılması: Bomba Yapımından Veri Hırsızlığına Kadar Tehlikeli Bilgileri Sansürsüz Yayınlıyor!

Yapay zekâ modeli DeepSeek, güvenlik önlemlerini aşma yöntemlerine karşı savunmasız bulundu. Yapılan testler sonucunda, en basit jailbreak teknikleriyle kandırılabildiği ve bomba yapımı veya hükümet veritabanlarına sızma ile ilgili tehlikeli bilgiler verebildiği ortaya çıktı.

Güvenlik araştırmacıları, DeepSeek üzerinde 50 farklı güvenlik testi gerçekleştirdi. Yeni yapay zekâ modeli, basit manipülasyonlar sonucunda engellenmesi gereken içerikleri paylaşmaya başladı.

Basit manipülasyonlarla yasa dışı içeriklere erişim sağlıyor

Bomba yapımı gibi konularda bilgi paylaşabilmesi endişe verici bulundu. Örneğin, yapay zekâya bir film karakteri üzerinden senaryo verildiğinde, bomba yapımıyla ilgili detaylı adımlar sundu. Ayrıca, kendisinden bir SQL sorgusu oluşturması istendiğinde, yasa dışı madde üretimiyle ilgili bilgiler içeren bir kod ürettiği ortaya çıktı. Kelimelerin matematiksel temsillerine dayanan manipülasyonlarla da güvenlik önlemlerini aşarak istenmeyen içerikler paylaşabildiği tespit edildi.

Yapılan testlerde DeepSeek’in mevcut güvenlik önlemlerini aşabildiği belirlendi. Araştırmacılar, modelin uygulanan 50 farklı testin tamamında başarısız olduğunu aktardı. Yapay zekâ modelinin kötüye kullanım potansiyeli, yapay zekâ güvenliğiyle ilgili ciddi endişeleri beraberinde getirdi.