FBI, Evolv’un Silah Tespit Teknolojisinde Yapay Zekayı Abarttığını İddia Ediyor

Evolv, ülke genelindeki okullarda ve New York metrolarında silah algılama için kullanılan tartışmalı “yapay zeka” sisteminin arkasındaki şirket, Federal Ticaret Komisyonu (FTC) tarafından müşterileri yanıltmakla suçlanıyor. Yeni bir FTC basın açıklamasına göre, ajans, 40 eyalette yaklaşık 800 okulda kullanılan Evolv Express tarayıcılarının şirketin iddia ettiği kadar doğru olmadığını öne sürüyor. FTC, Evolv’un yapay zekasının yapabileceklerini abartmaktan vazgeçmesini istiyor.

“FTC’nin önerilen yerleşim emrinde, Evolv, ürünlerinin yapay zekayla silahları tespit etme yetenekleri hakkında desteklenmeyen iddialarda bulunmaktan men edilecek ve ayrıca bazı K-12 okul müşterilerine, genellikle çok yıllık sözleşmeler altına giren sözleşmelerini iptal etme seçeneği verilecek,” diye belirtiyor FTC salı günü yayımlanan basın bülteninde.

Evolv silah detektörü, bu yılın başlarında New York metrosuna kurulduğunda ulusal basında geniş yankı buldu. Ancak o zamanki CEO bile metro sisteminin iyi bir kullanım alanı olmadığını belirtmişti.

FTC, Evolv’un kullanıcıların, bir bina girişi için son derece güvenli bir silah tespit sistemi ile “sorunsuz deneyim” arasındaki gerekli ödünlerden kaçınabileceklerini yanlış bir şekilde ima ettiğini belirtiyor. Sorunun merkezinde, tarayıcıların hassasiyet seviyesini düşürmenin çok fazla silahın fark edilmeden geçmesine izin vermesi, hassasiyeti artırmanın ise çok fazla yanlış alarm tetiklemesi yatıyor.

Evolv, sisteminin geleneksel metal dedektörlere kıyasla üstün olduğunu iddia ediyor çünkü AI kullanıyor, ancak FTC bunun biraz daha pazarlama yutturmaca olduğunu savunuyor.

“FTC, teknoloji hakkındaki iddiaların—yapay zekâ da dahil—desteklenmesi gerektiği konusunda net olmuştur ve bu iddialar çocukların güvenliğini içerdiğinde bu özellikle önemlidir,” dedi Tüketici Koruma Bürosu direktörü Samuel Levine, bir basın açıklamasında. “Bu iddiaları yeterli destek olmadan yaparsanız, FTC’den haber almayı bekleyebilirsiniz.”

FTC, bir mahkeme başvurusunda, Ekim 2022’de bir New York okulunda bir öğrencinin 7 inçlik bir bıçağı Evolv Express tarayıcısından geçirdiğini belirtiyor. Diğer zamanlarda, Evolv tarayıcıları bir görev dışı polis memurunun silahını tespit edememiş, bir öğrencinin öğle yemeği kutusu için alarm vermiş. Bıçaklanma olayının ardından okul hassasiyet seviyelerini artırmış, ama bu da yanlış alarm oranını %50’ye çıkarmıştır diyor FTC.

Evolv’un bir sözcüsünün, konuyla ilgili olarak Gizmodo’ya şirketin basın açıklamasını ilettiği belirtildi.

“Bu konuyu çözmek için FTC ile işbirliği içinde çalıştık ve FTC’nin teknolojimizin temel etkinliğine meydan okumadığını ve çözümün herhangi bir maddi tazminat içermediğini memnuniyetle karşıladık. FTC’ye çeşitli ortamlarda çözümümüzü araştıran, test eden ve nihayetinde dağıtan müşterilerimizin özenini ve Evolv Express sistemimizi göstermek için fırsat bulduğumuz için minnettarız,” dedi Mike Ellenbogen, Evolv’un geçici başkanı ve CEO’su yaptığı açıklamada.

“Önceliğimiz, hizmet ettiğimiz insanlar ve toplulukların güvenliğidir,” diye devam etti Ellenbogen. “Bu soruşturmanın, sistemimizin güvenlik operasyonlarına değer katma yeteneğimizi değil, geçmiş pazarlama dilimizi hedef aldığını belirtmek önemlidir.”