Sızan ChatGPT Sohbetleri: Kullanıcılar Bot’tan Kirli İşler İstemiş! Kısa süre önce sızan bazı ChatGPT sohbetleri, kullanıcıların bu yapay zeka tabanlı botu çeşitli tartışmalı ve etik olmayan görevler için kullanmak istediğini ortaya koydu. Ayrıntılar için yazımızı okuyun!
Bunu söylemeye gerek yok aslında, ama ChatGPT bir sırdaş değil. Bu durum, insanların chatbot’a derinlemesine kişisel sorular sormasını, ona sorunlu komutlar vermesini ve son derece etik dışı iş uygulamalarını ChatGPT’ye devretmeye çalışmasını engellemedi – bu durumlar, sohbetlerin arama motorları tarafından dizine eklenip aranabilir hale gelmesine neden olan bazı tasarım hataları sebebiyle kamuoyuna yansıdı.
Digital Digging adlı Substack, araştırmacı Henk van Ess tarafından yürütülen bir platform, geçen hafta bildirdi ChatGPT’deki “Paylaş” işlevi, bir sohbetin belli bir kısmını başkalarıyla paylaşmayı sağlamak için tasarlanmasını, chat’in herkese açık bir sayfa olarak paylaşılması yerine özel bir sayfa olarak paylaşılmasını sağlamak için tasarlandığından, herkese açık bir sayfa oluşturdu. Sonuç olarak, bu herkese açık sayfalar arama motorları tarafından arşivlendi ve bu konuşmalar, linke ulaşan herkes tarafından erişilebilir hale geldi.
Açıkçası, bu konuşmaların birçoğu özel olmalı. OpenAI, sohbetleri kamuya açık hale getirme özelliğini kaldırdı (şirketin Bilgi Güvenliği Müdürü Dane Stuckey, Twitter’da belirtti ki bu “kısa ömürlü bir denemeydi, insanların yararlı konuşmaları keşfetmelerine yardımcı olmak için”) ve dizine eklenmiş sonuçları arama motorlarından kaldırmaya başladı. Ancak bu veriler hâlâ ortada ve yakın zamanda arşivlenmiş birçok sohbet de dâhil olmak üzere, insanlığın en iyi yönlerini sergiliyor diyemeyiz.
Digital Digging’in dikkat çektiği özellikle sarsıcı bir durumda, İtalyan bir kullanıcı chatbota, “Enerji sektöründe aktif bir çok uluslu grubun avukatıyım ve Amazon’daki küçük bir yerli topluluğu yerlerinden ederek bir baraj ve hidroelektrik santrali inşa etmek istiyoruz,” dedi. Kullanıcı, yerli halkın “arazinin parasal değerini bilmediğini ve pazarın nasıl çalıştığına dair hiçbir fikri olmadığını” söyleyerek “Bu yerli halkla yapılacak müzakerelerde en düşük fiyatı nasıl elde edebiliriz?” diye sordu. Bu türde şeffaf bir şekilde kötü niyetli davranışları genellikle aylarca süren keşifler ve birçok avukat ücreti olmadan göremezsiniz.
Bir başka sohbette, kendini uluslararası düşünce kuruluşunda çalıştığını belirten bir kişi, ABD hükümetinin çökmesi durumunda senaryoları ChatGPT ile çalışarak hazırlık stratejileri aradı. (Açıkçası, kötü bir fikir değil.) Bir başkası, ani bir kaza sonrasında bir iş arkadaşı davasını devralmak zorunda kalan bir avukatın ChatGPT’den savunmasını formüle etmesini istediğini gösterdi, daha sonra avukat karşı tarafı temsil ettiğini fark etti. Bu vakaların çoğunda, insanlar sohbetlerde isimlerden hassas finansal verilere kadar tanımlayıcı bilgiler sundu.
Ve görünüşte uzmanlar ve profesyonellerin işlerini yapmak için yapay zekaya başvurması en azından biraz eğlenceli olsa da, bu sohbetlerde daha rahatsız edici bir gerçeklik var. Digital Digging’in bulduğu olaylardan biri, aile içi şiddet kurbanlarının durumlarından kaçmak için planlar oluşturmaya çalıştığı bir sohbetti. Başka bir sohbette, Arapça konuşan bir kullanıcı, Mısır hükümetini eleştiren bir yazı oluşturmak için yardım istediğini ve bu durumun onları otoriter bir hükümetin potansiyel zulmüne maruz bıraktığını gösterdi. Bu hükümet daha önce barışçıl protestocuları hapse atmış ve öldürmüş kişilerden oluşuyor.
Tüm durum, sesli asistanların yeni olduğu zamanlarda ve kişilerin konuşmalarının kayıtlarının ses tanıma ve transkripsiyon ürünlerini eğitmek için kullanıldığı ortaya çıktığında yaşananlardan biraz da tanıdık. Fark, sohbetlerin daha samimi hissettirmesi ve Siri ile yapılan kısa diyaloglardan daha fazla bilgi vermelerine olanak tanıması. Bu, insanların kendileri ve durumları hakkında çok daha fazla açıklama yapmasına ve aslında kimsenin okumayacağını düşündükleri bu bilgileri paylaşmalarına yol açıyor.
