Yapay Zeka

Yapay Zeka Uzmanlarından Acil Uyarı: Hükümetler Tekrar Düşünsün ve Harekete Geçsin

Herkes, yapay zekanın hızla gelişen bir teknoloji olduğunu ve doğru önlemler olmadan kullanılmasının büyük bir zarara yol açabileceğini kabul ediyor. Ancak bu teknolojiyi nasıl düzenleyeceğimiz konusunda (biraz da olsa) sadece Avrupa Birliği hariç kimse anlaşamıyor. Dolayısıyla, bu durumla başa çıkmak için uzmanlar farklı bir yaklaşım denemeye karar verdiler: Belki de önce herkesin kötü olduğunda hemfikir olduğu aşırı örnekleri belirleyip başlamalıyız.

Pazartesi günü, bir grup politikacı, bilim insanı ve akademisyen, Birleşmiş Milletler Genel Kurulu’nda yapay zekanın kullanımıyla ortaya çıkabilecek “evrensel olarak kabul edilemez riskleri” önlemek için dünyanın hükümetlerini en geniş çerçevede önlemler alabilecekleri konusunda birleşmeye çağıran Küresel Yapay Zeka Kırmızı Çizgileri Çağrısı adlı inisiyatifi duyurdu. Bu grubun amacı, 2026 yılı sonuna kadar bu kırmızı çizgilerin belirlenmesini sağlamak.

Bu öneri, şu ana kadar endüstri uzmanlarından, siyasi liderlerden ve Nobel Ödülü sahiplerinden 200’den fazla imza topladı. İrlanda eski Cumhurbaşkanı Mary Robinson ve Kolombiya eski Cumhurbaşkanı Juan Manuel Santos bu çağrıya destek verirken, birkaç Nobel ödüllü isim de aynı fikirde. Alanın çığır açıcı isimlerinden Geoffrey Hinton ve Yoshua Bengio, adlarını listeye yazdıranlara katıldı.

Bu kırmızı çizgiler neleri içeriyor peki? İşte bu hala hükümetlerin vereceği bir karar. Çağrı, özel politika önerileri içermiyor ancak olası kırmızı çizgi olarak birkaç örneğe yer veriyor. Yapay zekanın nükleer silahları başlatmasını yasaklamak veya kitle izleme çabaları için kullanılmasına engel olmak bu kırmızı çizgiler arasında yer alabilir. Yapay zekanın insan müdahalesiyle durdurulamayacak şekilde geliştirilmesini önlemek de bir kırmızı çizgi olabilir. Ancak grup çok net: Bunları taşla yazılmış kararlar olarak kabul etmeyin, kendi kurallarınızı belirleyebilirsiniz.

Grubun somut olarak sunduğu tek şey ise küresel bir anlaşmanın, “açık bir yasaklar listesi, sağlam ve denetlenebilir doğrulama mekanizmaları ve uygulanmayı denetleyecek taraflarca oluşturulmuş bağımsız bir organ” üzerine inşa edilmesi gerektiğidir.

Elbette detayların hükümetlerce tamamlanması gerek. Ve işin zor kısmı da aslında bu. Çağrı ülkelerin zirveler ve çalışma grupları düzenleyerek bunları çözmelerini öneriyor, ancak bu görüşmelerde çeşitli çıkarların çarpışacağından emin olmak mümkün.

Örneğin Amerika Birleşik Devletleri, yapay zekanın nükleer silahları kontrol etmesine izin vermemeye dair bir anlaşma yaptı (Biden yönetimi altında yapılan bir anlaşma, bu nedenle bunun hala yürürlükte olup olmadığını tanrı bilir). Ancak son raporlar, Trump yönetiminin bazı istihbarat birimlerinin, bazı yapay zeka şirketlerinin araçlarını yurtiçi gözetim amaçlarıyla kullanmalarına izin vermemesi nedeniyle rahatsız olduklarını gösteriyor. Yani Amerika böyle bir öneriyi destekler mi? Belki 2026’nın sonuna kadar bu sorunun yanıtını alırız… eğer o kadar uzun süre dayanabilirsek.

Bir yanıt yazın