Okulun Yapay Zeka Silah Dedektörü Nashville’deki Saldırıda Başarısız Oldu

Nashville, Tennessee’de bir liseye kurulan yapay zeka tabanlı silah tespit sistemi, geçtiğimiz hafta bir öğrencinin başka bir öğrenciyi ve ardından kendisini ölümcül bir şekilde vurmak için kullandığı silahı tespit edemedi. Bu durum, ilçe yetkilileri tarafından doğrulandı.

Metro Nashville Devlet Okulları sözcüsü Sean Braisted, yerel basına yaptığı açıklamada, Omnilert sisteminin “bir silah tespit edildiğinde anında aktive olması gerektiğini”, ancak bu olayda kameraların konumları nedeniyle silahın tespit edilemediğini belirtti. Nashville’in yerel NBC kanalı, sistemin polislerin olay yerine geldiğinde silahlarını tespit ettiğini ve geçmişte de silah tespitleri yaptığını bildirdi.

Okul bölgesi 2023’te Omnilert ile iki yıllık, 1 milyon dolarlık bir sözleşme imzaladı.

Omnilert CEO’su Dave Fraser, Gizmodo’ya gönderdiği bir e-postada, olay sonrası öğrenciler, aileler ve Nashville topluluğuna başsağlığı diledi. “Omnilert silah tespit sisteminin MNPS’te konuşlandırıldığını doğrulayabiliriz, ancak bu durumda silahlı kişinin ve silahın konumu nedeniyle silah görünür değildi” dedi. “Bu, sistemin silahı tanımadığı bir durum değil.”

Çarşamba günü gerçekleşen olay Antioch Lisesi kafeteryasında meydana geldi.

GovSpend’den alınan veriler; 100’den fazla şehir, okul bölgesi, toplum koleji ve üniversitenin Omnilert’in sistemlerini satın aldığını gösteriyor. Şirket, reklamları kadar etkili olmadığına dair artan kanıtlara rağmen okullar ve diğer devlet kurumlarından çok milyonluk sözleşmeler kazanan bir AI tabanlı silah tespiti sektörünün bir parçası.—Bu sektörde Evolv Technologies ve ZeroEyes gibi şirketler de yer almakta.

Kasım ayında Federal Ticaret Komisyonu, Express silah tarama sisteminin doğruluğunu yanıltıcı bir şekilde pazarladığı iddiasıyla Evolv şirketine karşı bir şikayette bulundu. Ajans, Ekim 2022’de bir öğrencinin bıçaklandığı Utica, New York okul bölgesinin Express sisteminin bıçağı tespit edemediğine dikkat çekti. Olaydan sonra okul bölgesi sistemin hassasiyetini artırdı ancak bu değişiklik yanlış alarm oranını ikiye katladı, bu da sistemin var olmayan silahlar konusunda güvenlik personelini yanlış uyararak arttığı anlamına geliyordu.

New York City Jacobi Tıp Merkezi’nde yapılan bir pilot çalışmada, Evolv tarayıcılarının yedi aylık bir süre boyunca ürettiği uyarıların %85’inden fazlası yanlış alarmlardı ve diğer %14’ü kolluk kuvvetleriyle ilgiliydi. Şehir daha sonra Evolv’u metro istasyonlarında test ettiğinde, 30 gün içinde hiçbir silah tespit edilmedi, 12 bıçak tespit edildi ve 118 yanlış alarm üretildi.

Mart ayında Philadelphia’nın toplu taşıma ajansı SEPTA, ZeroEyes’ın silah tespit sistemi kendi güvenlik kameraları ile entegre olamadığı için sözleşmesini feshetmiştir. Ulusal Kentsel Güvenlik Teknolojileri Laboratuvarı’nın 2023 raporu, ZeroEyes’ın yalnızca yüksek kaliteli kamera görüntüleriyle çalışabilmesine dair benzer endişeler ortaya koymuştur. Değerlendiriciler ayrıca şirketin sistemin doğruluğuna dair veri sağlamadığını şikayet etmişlerdir.