
Diyet Tavsiyeleriyle Yola Çıkan Adam, ChatGPT’den Gelen Önerilerle Psikoza Girdi
Bu ay yayımlanan bir vaka çalışması, günümüz için dikkate alınması gereken bir uyarı hikayesi sunuyor. Doktorlar, bir kişinin yapay zekâ tarafından yönlendirilen diyet tavsiyelerine uyarak nasıl zehirlenmeye bağlı psikoz yaşadığını ayrıntılarıyla anlatıyor.
Washington Üniversitesi’ndeki doktorlar, bu gerçek “Black Mirror” bölümünü Annals of Internal Medicine: Clinical Cases dergisinde belgeledi. Adamın üç ay boyunca ChatGPT’nin önerisine uyarak aldığı bromürden zehirlendiği bildirildi. Neyse ki, tedaviyle durumu düzeldi ve başarıyla iyileşti.
ChatGPT Hala Bir Saçmalık Makinesi
Bromür bileşikleri, 20. yüzyılın başlarında uykusuzluktan kaygıya kadar çeşitli sağlık sorunlarının tedavisinde yaygın olarak kullanılıyordu. Ancak zamanla yüksek veya kronik dozlarda bromürün toksik olabileceği ve ironik bir şekilde nöropiskiyatrik sorunlara yol açabileceği anlaşıldı. 1980’lere gelindiğinde bromür çoğu ilaçtan çıkarıldı ve bromür zehirlenmesi vakaları azaldı.
Buna rağmen bu madde hâlâ bazı veteriner ilaçları ve başka tüketici ürünlerinde bulunabiliyor. Hala ara sıra bromür zehirlenmesi vakaları görülüyor ve günümüzde de yaşanabiliyor. Ancak bu olay, yapay zekâ tarafından tetiklenen ilk bromür zehirlenmesi olabilir.
Rapora göre, adam yerel bir acil servise başvurdu ve personeline komşusu tarafından zehirlendiğini düşündüğünü söyledi. Fiziksel muayeneleri normal olmasına rağmen, adam huzursuz ve paranoyak hale geldi ve çok susamış olmasına rağmen ona verilen suyu içmeyi reddetti. Görsel ve işitsel halüsinasyonlar gördü ve kısa sürede tam anlamıyla bir psikotik epizod geliştirdi. Psikoz ortasında kaçmaya çalıştıktan sonra doktorlar, adamı “ciddi yetersizlik nedeniyle zorunlu bir psikiyatrik gözaltına” aldılar.
Doktorlar intravenöz sıvılar ve antipsikotik verdiler ve durumu stabilize oldu. Başlangıçta adamın hastalığından bromizmin sorumlu olduğundan şüphelendiler ve konuşabilecek kadar iyileştiğinde, bromürün nasıl sistemine girdiğini öğrendiler.
Adam, yaklaşık üç ay önce bilerek sodyum bromür almaya başladığını doktora söyledi. Diyetinizde çok fazla sofra tuzu (sodyum klorür) bulundurmanın olumsuz sağlık etkilerini okuduğunu belirtti. Ancak, araştırdığında sadece sodyum alımını nasıl azaltabileceğine dair tavsiyeler buldu.
“Üniversitede beslenme okuduğu geçmişinden ilham alarak,” doktorlar yazdı, adam klorür yerine bromür ile değiştirmeye karar verdi. ChatGPT’den yardım aldı ve görünüşe göre bromürün güvenle klorür yerine kullanılabileceği söylendi. Yapay zekadan gelen onay ile internetten aldığı sodyum bromürü tüketmeye başladı.
Vaka zaman çizelgesine bakılırsa, adam büyük olasılıkla ChatGPT 3.5 veya 4.0 kullanıyordu. Doktorların adamın sohbet kayıtlarına erişimi olmadığı için, bu kader anının tam olarak nasıl geliştiğini asla bilemeyeceğiz. Ancak, ChatGPT 3.5’e klorürün yerine ne kullanılabileceğini sorduklarında gelen yanıtta bromür de dahil oldu.
Yapay zekânın kastettiği şeyin, diyetle alakasız bromür değişiklikleri örnekleri olması mümkün, hatta muhtemel, örneğin temizlik için. Doktorların ChatGPT’si bu değişimin bağlamının önemli olduğunu belirtmiş. Ancak yapay zekâ, bromür tüketmenin tehlikeleri hakkında bir uyarı vermemiş, ya da kişinin bu konudaki merakının nedenini sorgulamamış.
Adam kendini yavaş yavaş toparladı. Nihayetinde antipsikotik ilaçlardan çıkarıldı ve hastaneden taburcu edildi. İki haftalık takibinde durumu stabil olarak devam etti.
24 Saat İçinde Şikayetlerle, OpenAI Eski Modeline Dönüş Kararı Aldı
Doktorlar, ChatGPT gibi araçların “bilim insanları ile akademik olmayan nüfus arasında köprü kurabileceğini,” ancak yapay zekanın aynı zamanda bağlamdan bağımsız bilgiyi yayma riski taşıdığını yazdı. Bir miktar dikkatle eklediler ki, bir insan tıp uzmanı, birine sofra tuzu tüketimini azaltmaya çalışırken bromürün kullanılmasını muhtemelen önermezdi.
Gerçekten, bugün yaşayan hiçbir insanın böyle bir öneride bulunacağını sanmıyorum. Bu yüzden, ChatGPT’nin en son versiyonu ne olursa olsun, arkadaşlarla rastgele fikirlerimizi paylaşmak yaşamın temel bir parçası olarak kalmalı.