Jüriyi Kandıran Deepfake’lere Karşı Nasıl Önlem Alabiliriz?

Phoenix, Arizona’daki mahkemesinde sunulan delilleri inceleyen üstün mahkeme yargıcı Pamela Gates, sıradan bir insanın gerçeği ayırt etmede giderek daha az yetenekli olduğuna inanmaya başladığını söylüyor.

Örneğin bir mağdur, koldaki morlukları gösteren bir fotoğraf sunuyor ve sanık bu yaraların fotoğrafa dijital olarak eklendiğini öne sürüyor. Ya da bir davacı, sanığın sesine benzeyen ancak sanığın asla söylemediğini iddia ettiği bir kayıt sunabilir. Herkesin ücretsiz yapay zeka araçlarını kullanarak inandırıcı görüntüler, videolar ve sesler oluşturabildiği bu dönemde, Gates gibi yargıçlar mahkemelerin sahte içerikleri orijinalinden ayırt edemeyecek olmasından endişe duyuyor.

“Geçmişte delilleri değerlendirirken sağduyunuzdan, olayların bütününden ve bakarak doğruluğunu onaylama yeteneğinizden daha iyi yararlanma imkanınız vardı,” diyor Gates, Arizona eyalet mahkemelerinde yapay zeka ile üretilen delilleri nasıl ele alma konusunda incelemelerde bulunan bir çalışma grubuna başkanlık ediyor. “Bakışınıza dayanarak karar belirleme yeteneği artık yok.”

Uygun maliyetli yapay zeka sistemlerinin patlaması, ABD’de 50 yıldır mahkeme delillerini yöneten kuralların değiştirilmesi çağrılarına neden oldu. Bu ayın başlarında bir federal mahkeme danışma komitesi tarafından gözden geçirilen bir dizi öneri, otantikliğin belirlenmesinde yükün jüriye taşınması ve davalardan önce yargıçların gerçeği kurgudan ayırmasında daha fazla sorumluluk almasını savunuyor.

“Şu an kuralların çalışma şekli, eğer delilin otantik olup olmadığıyla ilgili bir soru varsa konunun jüriye gitmesi gerektiği,” diyor bilgisayar bilimi ve hukuk profesörü Maura Grossman. Eski federal yargıç Paul Grimm ile birlikte sahte içeriklere yönelik federal delil kurallarında değişiklik önerisinde bulunmuşlar. “Diyoruz ki durun bir saniye, jürinin üzerindeki etkisini biliyoruz ve hafızalarından silip atamamaları için mahkemeye yetki verin. Bu büyük bir değişiklik.”

‘Kafa karışıklığı yaratma’

Jüriler ses-görüntülü delilleri etkileyici buluyor ve kolay unutmuyorlar.

Loyola Hukuk Fakültesi’nde dekan yardımcısı ve hukuk profesörü olan Rebecca Delfino, davada yenilik önerirken, insanlar gördükleri sahte videolardan etkilenip yanlış tanıklık yapabilecekleri konusunda uyarıyor. Ayrıca, jürilerin görsel kanıt gördüklerinde, sadece sözlü tanıklığı dinlemelerine göre bilgiyi altı kat daha fazla akıllarında tuttukları bilinmektedir.

Yargıçların halihazırda sahte olma potansiyeli taşıyan delilleri dışlama gücü var, fakat jürinin önüne sunulmadan önce itiraz edilen delilin davasının kabul edilmesi için tarafların geçmesi gereken standart oldukça düşük. Mevcut federal kurallara göre, eğer bir taraf ses kaydının kendi sesleri olmadığını iddia ederse, karşı taraf sadece benzer bir ses tanıklığı yapacak tanığı çağırarak, jürinin önüne çıkacak bir delil sunabilecektir, diyor Grossman.

Mevcut durumdaki yapay zeka ile yapılan ses ve görüntüler, sahtekarların da gösterdiği gibi, ebeveynleri kendi çocuklarını duyuyormuş veya görüyorlarmış gibi kandırabilecektir. Yeni mahkeme kuralları savunucuları, bu tür sahte içeriklerin düşük barajı rahatlıkla geçeceğini savunuyor.

Aynı zamanda, delillerin sahte olduğunu iddia eden davacılar ve delillerin gerçek olduğuna dair suçlamalara inandırılması gerektiğini söylüyorlar. Akademisyenler, sahte video ve seslerin toplumdaki yalanları yayma riskine işaret ediyorlar ve bu tür suçlamaların, sahte içeriklerin yaygınlaşması nedeniyle jüriler tarafından kolayca kabul edilebileceği endişesini taşıyorlar.

Yüksek profilli davalarda, bu tür sahte içerik iddiaları yapan birkaç sanık zaten mevcut. 6 Ocak 2021’de ABD Capitol binasına saldıran isyancıların avukatları, davalarda sunulan önemli video delillerinin sahte olabileceğini iddia etti. Öte yandan, Tesla ölümcül kazasında Elon Musk’ın iddia ettikleri gibi, aracın otomatik pilot güvenliği ile ilgili övünmeleri içeren videoların yapay zeka ile üretildiği öne sürülebilir.

Loyola Hukuk Fakültesi’nden Delfino, “Bir davada ses-görüntü delillerinin yer alması halinde, en yaygın delil türlerinin olduğu için, birinin bu iddiayı yapma olasılığı her zaman var,” diyor. “Bu sadece davaların uzamasına ve uzatılmasına neden olmakla kalmaz, aynı zamanda jürilerin kafa karışıklığı yaşamasına neden olur. Akıllı avukatların jürileri karıştırıp, ellerini havaya kaldırarak ‘bilmiyorum’ dedirtmeleri için vekaleten yetki verebilir.”

Öneriler

8 Kasım’da, federal Delil Kuralları Danışma Komitesi, Grossman ve Grimm tarafından sunulan son kural önerilerini değerlendirdi. Bu öneriler, yargıçlara deliller üzerinde daha güçlü bir kapı bekçisi rolü üstlenme yetkisi verecektir.

Yeni kurallara göre, bir taraf, delilin otantikliğine itiraz ederse, jürinin “makul bir şekilde delilin değiştirildiğine veya üretildiğine” inanabileceğine dair yeterli kanıt sunmak zorunda kalacaktır. Bu noktadan itibaren, itiraz edilen delili sunmaya çalışan tarafın başka destekleyici bir bilgi sağlaması gerekir. Son olarak, bir ön duruşmada, yargıç delilin dava üzerindeki etkisini değerlendirir; jüriye gösterildiğinde oluşacak ön yargı veya zarar ihtimalinin daha düşük olup olmadığını kararlaştırır.

Delfino’nun önerileri, henüz komiteye resmi bir başvuru yapmaksızın birkaç hukuk dergisinde dile getirilmiş, soruları tamamen jürinin elinden alacaktır.

Onun ilk kuralı, delilin yapay zeka tarafından üretildiğini iddia eden tarafın, davanın başlamasından çok önce, bir adli bilirkişinin görüşünü almasını gerektirecektir. Yargıç bu raporu ve sunulan diğer iddiaları gözden geçirir ve delilin gerçekliğini ve kabul edilebilirliğini belirler. Duruşma sırasında ise yargıç, jürinin delilin gerçek olduğunu kabul etmesini yönlendirir.

Ayrıca, Delfino, yapay zekanın üretimi olduğunu iddia eden tarafın, daha fazla kanıta sahip olmayan tarafın mali kaynaklarının yeterli olup olmadığına bağlı olarak adli bilirkişiyi finanse etmesi gerektiğini öneriyor. Aksi takdirde, mali olarak yetersiz olan taraf yerine, diğer tarafın ödeme yapması gerektiğine karar verebilir.

Hızlı çözümler mevcut değil

Federal delil kurallarına bir değişiklik yapmak birkaç yıllık bir süreç alır ve bu ilk olarak bir dizi komite ve nihayetinde Yüksek Mahkeme tarafından onaylanmalıdır. Şu ana kadar, Delil Kuralları Danışma Komitesi, sahte içeriklere yönelik önerileri ileriye taşımamayı tercih etti. Komite için delil sorunları araştırma görevi olan Fordham Hukuk Fakültesi profesörü Daniel Capra, hakimlerin mevcut kurallar çerçevesinde sahte içerikleri nasıl ele alacağını görmenin daha akıllıca olabileceğini söyledi. Ancak en son raporunda, “yeni bir kuralın gerekebileceği çünkü sahte içeriklerin gerçek bir dönüm noktası sunabileceğini” ekledi.

Arizona’da, Gates’in yapay zeka üretilen delillerle ilgili komitesi, mahkemelerin hızlı bir şekilde uygulayabileceği sahte içerik sorununa bir teknolojik çözüm olup olmadığını değerlendiriyor.

Akademik araştırmacılar, devlet adli uzmanları ve büyük teknoloji şirketleri, sahte içerikleri tespit eden veya üretim noktasında dijital filigran ekleyen araçları geliştirmeye çalışıyor.

Gates, mahkemede kullanılabilecek AI tespit araçlarının gördüğü kadarıyla hazırlıklı olmadıklarına inanıyor.”

Northwestern Üniversitesi’nde bilgisayar bilimi profesörü ve sahte içerik uzmanı olan V.S. Subrahmanian ile meslektaşları, yakın zamanda dört iyi bilinen sahte içerik dedektörünün performansını test etti. Sonuçlar cesaret verici değildi: Araçlar, sahte videoların yüzde 71 ila yüzde 99’unu gerçek olarak etiketledi.

Subrahmanian, en azından yakın vadede, filigranlama teknolojilerinin geniş çapta veya güvenilir bir şekilde sorunu çözmek için yaygınlaşacağına inanmıyor. “Hangi koruma söz konusu olursa olsun, birisi bunu nasıl kaldıracağını bulmaya çalışacaktır.”

Adalete Erişim

Şu ana kadar, mahkemelerin sahte içerikler veya delillerin yapay zeka ile üretildiği iddialarıyla yüzleştiği kamuoyuna yansıyan çok az dava olmuştur.

6 Ocak isyancılarının davasının ve Tesla’nın sivil davasının yanı sıra, Pennsylvania savcıları 2021 yılında, kızının amigo takımı üyelerini içki içerken ve ekip kurallarını ihlal ederken gösteren videolar yaydığı iddiasıyla Raffaela Spone’ye karşı suç duyurusu yaptı. Spone, videoların sahte olduğunu reddetti, ancak avukatına göre bir adli bilirkişiyi tutacak finansal kaynaklara sahip değildi. Bununla birlikte, davası ulusal medyada yer alınca, bir grup adli uzman delilleri ücretsiz olarak incelemeyi önerdi ve videoların gerçek olduğunu belirledi. Savcılar, sahte içerik oluşturma suçlamalarını sonunda geri çekti.

Herkes bu kadar şanslı olmayacaktır. İçerik üretici firma ile görüşen yargıç ve hukuk akademisyenleri, manşetlere çıkma imkanının olmayacağı davalara, özellikle avukatsız ve adli bilirkişiye erişim imkanı olmayan davalara en çok dikkat çekeceklerini söylüyorlar.

“Şu anda aile mahkemesinde, ‘Eşim beni ve çocuklarımı tehdit ediyor… Bizi tehdit ettiğine dair bir ses kaydım var’ diyen bir davacının karşısında olan bir aile mahkemesi yargıcı ne yapacak?” Grossman diyor. “Bu durumlarda yargıcın ne yapması gerekiyor? Şu anda ellerinde herhangi bir araçları yok.”