Yasalarla Yapay Zekayı Dizginleme Yolları

Bu zararlar genellikle açık veya anlık değil. Oldukça sinsi bir şekilde, zaman içinde birikiyorlar. YZ sistemleri, hayatınız hakkında farkında bile olmadan kararlar alırken, bu sistemlerin gizli güçleri gizlilik, eşitlik, özerklik ve güvenlik için önemli bir tehdit haline gelmiş durumda.

YZ sistemleri, modern hayatın hemen her alanına entegre edilmiştir. Hangi dizi ve filmleri izlemelisin öneriyorlar, işverenlerin kimin işe alınması gerektiğine karar vermelerine yardımcı oluyorlar ve hatta hakimin kimin ceza alacağına karar vermesini bile etkiliyorlar. Ancak, bu sistemler tarafsız gibi görülürken, belirli grupları dezavantajlı duruma düşüren ya da daha kötüsü, gerçek dünyada zarar veren kararlar almaya başladıklarında ne olacak?

YZ uygulamalarıyla ilgili sık sık göz ardı edilen sonuçlar, hızla gelişen bu teknolojiye ayak uydurabilecek düzenleyici çerçeveler gerektirmektedir. Ben hukuk ve teknoloji kesişiminde çalışıyorum ve bu alanda bir yasal çerçeve öneriyorum.

Görünmeyen Gelişmeler

Algoritmik zararların en çarpıcı yönlerinden biri, kümülatif etkilerinin genellikle göz ardı edilmesi ya da fark edilmemesidir. Bu sistemler, mahremiyetinizi veya özerkliğinizi kolayca algılamayacağınız şekilde doğrudan ihlal etmezler. Çoğu zaman insanların farkında olmadan onlar hakkında devasa miktarda veri toplar ve bu veriyi hayatlarını etkileyecek kararları şekillendirmek için kullanırlar.

Bazen bu, internet sitelerinde sürekli karşınıza çıkan bir reklam gibi küçük rahatsızlıklara yol açabilir. Ancak YZ, bu tekrar eden zararlar üzerinde durmadan çalıştıkça, bu zararlar ölçeklenebilir ve farklı insan grupları arasında kayda değer kümülatif zararlara neden olabilir.

Sosyal medya algoritmalarını örnek alalım. İyi amaçlanmış sosyal etkileşimleri teşvik etmek için tasarlandıkları söylenebilir. Ancak öyle görünse de, kullanıcıların tıklamalarını sessizce takip eder ve siyasi inançları, mesleki bağlantıları ve kişisel yaşamları hakkında profilleme yaparlar. Toplanan veriler, sizin yaya olarak mı algılandığınız, bir iş için mi düşünülüyorsunuz ya da intihar riski olarak mı değerlendiriliyorsunuz gibi önemli kararları almakta kullanılır.

Daha da kötüsü, bağımlılık yaratan tasarımları gençleri aşırı kullanım döngülerine hapsetti, bu da kaygı, depresyon ve kendine zarar verme gibi mental sağlık krizlerinin artmasına neden oluyor. Tam kapsamını anladığınızda bile, mahremiyetiniz ihlal edilmiş, fırsatlarınız taraflı algoritmalarla şekillendirilmiş ve en savunmasızların güvenliği tehlikeye atılmış olabilir, hem de bunu bilmeden.

Bu durumu “intangible, cumulative harm” ya da “yansız, kümülatif zarar” olarak adlandırıyorum: YZ sistemleri arka planda çalışırken etkileri de devasaya da görünmez olabilir.

Neden Düzenlemeler Gecikiyor?

Bu artan tehlikelere rağmen, küresel yasal çerçeveler çağın gerisinde kalmıştır. Amerika Birleşik Devletleri’nde, yeniliği vurgulayan bir düzenleyici yaklaşım, bu sistemlerin birçok bağlamda nasıl kullanıldığına dair katı standartlar uygulanmasını zorlaştırmıştır.

Mahkemeler ve düzenleyici organlar, somut zararlar ile uğraşmaya alışkındırlar, örneğin fiziksel zarar ya da ekonomik kayıplar gibi. Ancak algoritmik zararlar daha incelikli, kümülatif ve tespit edilmesi zordur. Mevcut düzenlemeler, YZ sistemlerinin zaman içinde sahip olabileceği daha geniş etkileri ele almada genellikle yetersiz kalır.

Örneğin sosyal medya algoritmaları, kullanıcıların zihinsel sağlığını yavaş yavaş bozabilir, ancak bu zararlar yavaş yavaş biriktiği için mevcut yasal standartlar çerçevesinde ele alınması zordur.

Dört Tür Algoritmik Zarar

Mevcut YZ ve veri yönetimi literatürüne dayanarak, algoritmik zararları dört yasal alana ayırdım: gizlilik, özerklik, eşitlik ve güvenlik. Bu alanların her birinde YZ sistemlerinin ince ama sıklıkla kontrolsüz gücüne karşı korunmasızdır.

İlk tür zarar, mahremiyeti aşındırmaktır. YZ sistemleri, muazzam miktardaki veriyi toplar, işler ve aktarır, insanların mahremiyetini fark edilmeyen ama uzun vadeli etkileri olan yollarla aşındırır. Örneğin, yüz tanıma sistemleri insanları kamu ve özel alanlarda izleyebilir, bu da toplu gözetimi norm haline getirebilir.

İkinci tür zarar, özerkliği zayıflatmaktır. YZ sistemleri sıklıkla gördüğünüz bilgileri manipüle ederek özerk kararlar alabilme yetinizi ince düzeyde zayıflatır. Sosyal medya platformları, kullanıcılara üçüncü tarafların çıkarlarını en üst düzeyde tutan içerikler göstermek için algoritmalar kullanır, bu da milyonlarca kullanıcı arasında fikirleri, kararları ve davranışları ince şekilde şekillendirir.

Üçüncü tür zarar, eşitliği azaltmaktır. Tasarlanırken tarafsız olarak düşünülen YZ sistemleri, genellikle verilerinde ve algoritmalarında bulunan önyargıları miras alır. Bu da toplumsal eşitsizlikleri zamanla pekiştirir. Ünlü bir örnekte, perakende mağazaları tarafından hırsızları tespit etmek için kullanılan bir yüz tanıma sistemi orantısız bir şekilde kadınları ve renkli insanları yanlış tanımlamıştır.

Dördüncü tür zarar, güvenliği bozmaktır. YZ sistemleri insanların güvenliği ve refahı ile ilgili kararlar alır. Bu sistemler arıza yaptığında sonuçlar katastrofik olabilir. Ancak tasarlandığı gibi çalıştıklarında bile, hala zarar verebilirler, örneğin sosyal medya algoritmalarının gençlerin zihinsel sağlığı üzerindeki kümülatif etkileri gibi.

Bu kümülatif zararlar genellikle ticari sır yasaları tarafından korunan YZ uygulamalarından kaynaklandığı için, mağdurların zararı tespit etme veya izleme şansı bulunmamaktadır. Bu da bir hesap verebilirlik boşluğu yaratmaktadır. Bir algoritma nedeniyle taraflı bir işe alım kararı verildiğinde veya yanlışlıkla tutuklama yapıldığında, mağdur bunu nasıl bilebilir? Şeffaflık olmadan, şirketleri hesap yakınlaştırmak neredeyse imkansızdır.

Hesap Verebilirlik Boşluğunu Kapatmak

Algoritmik zarar türlerini kategorize etmek, YZ düzenlemesinin yasal sınırlarını tanımlar ve bu hesap verebilirlik boşluğunu kapatmak için olası yasal reformlar sunar. Yardımcı olabileceğine inandığım değişiklikler arasında, şirketlerin bir YZ uygulamasının mahremiyet, özerklik, eşitlik ve güvenlik üzerindeki acil ve kümülatif zararlarını belgelendirip ele almalarını gerektiren zorunlu algoritmik etki değerlendirmeleri yer alır – bu uygulama kullanıma sunulmadan önce ve sonra. Örneğin, yüz tanıma sistemleri kullanan firmalar, bu sistemlerin kullanım ömrü boyunca etkilerini değerlendirmek zorunda olacaktır.

Diğer yararlı bir değişiklik, YZ sistemlerinin kullanımıyla ilgili daha güçlü bireysel haklar sunmak olacaktır; zararlı uygulamaların dışında kalmayı ve belirli YZ uygulamalarının tercih edilmesini sağlamak. Örneğin, firmaların yüz tanıma sistemleri kullanımı için veri işleme konusunda bir tercih rejimini zorunlu tutmak ve kullanıcılara her zaman bu uygulamalardan çıkma hakkı vermek.

Son olarak, firmaların YZ teknolojisinin kullanımını ve beklenen zararlarını ifşa etmelerini gerektirmeyi öneriyorum. Bu, örneğin yüz tanıma sistemlerinin kullanımını ve tipoloji kapsamında öngörülen zararları müşterilere bildirmek gibi olabilir.

YZ sistemleri sağlık hizmetlerinden eğitime ve istihdama kadar kritik toplumsal işlevlerde daha yaygın hale geldikçe, bu zararları düzenleme ihtiyacı daha da acil hale geliyor. Müdahale olmazsa, bu görünmez zararlar birikmeye devam edecek, hemen hemen herkesi etkileyecek ve en savunmasız olanları orantısız bir şekilde vuracak.

YZ zararlarını artıran generatif YZ ile birlikte, bence politika yapıcıların, mahkemelerin, teknoloji geliştiricilerinin ve sivil toplumun YZ’nin yasal zararlarını tanımaları önemlidir. Bu, sadece daha iyi yasalarla değil, aynı zamanda hızlı teknolojik ilerleme karşısında sivil haklar ve adaleti önceliklendiren daha düşünceli bir yaklaşım gerektirir.

YZ’nin geleceği, inanılmaz bir vaadi barındırıyor, ancak doğru yasal çerçeveler olmadan, birçok durumda geliştirilmesini amaçladığı sivil hakları zayıflatabilir ve eşitsizliği yerleştirebilir.

Sylvia Lu, Fakülte Üyesi ve Ziyaretçi Asistan Profesör, Michigan Üniversitesi

Bu makale, The Conversationdan Creative Commons lisansı altında yeniden yayımlanmıştır. Orijinal makaleyi okuyun.