
FDA’nın Yeni İlaç Onayında Sahte Çalışmalar Üreten Yapay Zeka: Raporda Çarpıcı Bulgular!
Sağlık ve İnsan Hizmetleri Bakanı Robert F. Kennedy Jr., Gıda ve İlaç Dairesi gibi kurumların yapay zeka araçlarını daha fazla kullanması için yoğun çaba sarf etti. Kennedy, Tucker Carlson’a AI’nin yeni ilaçları “çok, çok hızlı” bir şekilde onaylayacağını bile söyledi. Ancak CNN’den gelen yeni bir rapor korktuğumuz birçok şeyi doğruladı. Elsa, FDA’nın AI aracı sahte çalışmalar üretiyor.
CNN, Elsa’yı kullanan altı mevcut ve eski FDA çalışanıyla görüştü. Üçü aracı işlerinde faydalı bulduklarını, toplantı notları ve özetler oluşturmada işe yaradığını ifade etti. Ancak diğer üç çalışan CNN’e Elsa’nın hayali çalışmalar ürettiğini, yani AI dünyasında sıkça “halüsinasyon” olarak adlandırılan durumu sergilediğini söyledi. Çalışanlara göre, AI ayrıca araştırmaları yanlış şekilde sunuyor.
“Çek etmeye zamanınız olmadığında hiçbir şey güvenilir değildir. Kendinden emin bir şekilde halüsinasyon yapıyor,” dedi isimsiz bir FDA çalışanı CNN’e.
Tüm AI sohbet robotlarıyla asıl sorun bu. Doğrulama gerektiriyorlar ve kaliteli sonuç almak istiyorsanız, bilgisayar başındaki insan için daha fazla iş anlamına geliyor. AI’nin zaman kazandırdığını iddia edenler genelde kendilerini kandırıyor, çünkü yazılımcılar arasında yapılan bir çalışma, işleri AI ile yapmanın %20 daha uzun sürdüğünü gösterdi.
Kennedy’nin Make America Healthy Again (MAHA) komisyonu, Mayıs ayında yayınladığı raporda sahte çalışmalara atıfta bulunmuştu. NOTUS adlı bağımsız bir haber kaynağı tarafından yapılan inceleme, en az yedi çalışmanın var olmadığını, birçok çalışmanın da yanlış temsil edildiğini ortaya koydu. Bu raporu hazırlamak için Elsa’nın kullanılıp kullanılmadığı hala bilinmiyor.
FDA Komiseri Marty Makary, Elsa’yı 2 Haziran’da kurumda uygulamaya başladı ve Gizmodo’ya sızan bir iç slaytta sistemin “maliyet etkin” olduğu, ilk dört haftasında sadece 12.000 dolara mal olduğu belirtildi. Makary, AI’nin “zamanından önce ve bütçe altında” olduğunu açıkladığında Elsa’nın dağıtımını duyurdu. Ama anlaşılan o ki, ne kadar öderseniz o kadar kaliteli sonuç alırsınız. Çalışmanızın doğruluğuna önem vermiyorsanız, Elsa, çalışmaları daha hızlı bir şekilde, ancak potansiyel sağlık sorunlarıyla birlikte ortalığa saçabileceğiniz harika bir araç gibi görünüyor.
CNN, bir FDA çalışanının Elsa’dan bir ilacın 20 sayfalık raporunun tek paragraflık bir özetini istediğini, bunun doğru olup olmadığını bilmenin basit bir yolu olmadığını belirtir. Özet daha doğru olsa bile, bir uzmana kırmızı bayrak olacak bir şey raporun içinde olabilir mi? Kesin olarak bilmenin tek yolu raporu okumaktır.
CNN ile konuşan FDA çalışanları, Elsa’yı çocuklar için kaç ilaç onaylandığı gibi temel soruları sorarak test ettiklerini söylediler. Elsa yanlış yanıtlar verdi ve düzeltilince özür diledi, ancak bir robotun “üzgün olması” durumu gerçekten düzeltmez.
Hala Kennedy’nin AI’nin FDA’nın yeni ilaçları onaylamasını nasıl kolaylaştıracağını tam olarak bilmiyoruz ama o Haziran ayında bir Meclis alt komisyonuna bunun zaten “ilaç onaylarının hızını artırmak” için kullanıldığını ifade etti. Aşırıcılık yanlısı aşı karşıtı görüşleri kamu sağlığı lideri olmasına engel olmayan sekreter, kanıtlanmamış teknolojileri ana akım bilime entegre etmeye kararlıdır.
Kennedy ayrıca Kongre’de her Amerikalının önümüzdeki dört yıl içinde taşınabilir bir sağlık cihazı ile donatılmasını istediğini söyledi. Tam bu sırada Başkan Trump’ın Genel Cerrah adayı Casey Means, diyabet olmayan kişilerde glikoz seviyelerini izleyen bir giyilebilir şirketi olan Levels’ın sahibidir. Uzmanlara göre diyabet olmayan kişilerin glikoz seviyelerini sürekli izlemesi gereksizdir. Kennedy’nin yakın müttefiki olan Means, henüz Senato tarafından onaylanmadı.
Makary, CNN’e Elsa’nın “potansiyel olarak halüsinasyon” yapabileceğini kabul etti, ancak bunun diğer büyük dil modelleri ve jeneratif yapay zekalardan farklı olmadığını söyledi. Bu konuda haksız değil. Ancak AI’nin sürekli olarak şeyler icat ettiği bir durumda amaçlarına uygun olmadığı açıktır. Ne var ki insanlar AI’nin sihir olduğuna inanmaya devam edecek.
FDA’nın “hızlı yanıt” ofisinden William Maloney, Çarşamba günü ajansın AI kullanımına dair bir açıklama yaptı.
“CNN’e verilen bilgiler yanlış yorumlanmış ve bağlam dışına taşınmış,” diye yazdı Maloney. Gizmodo, CNN raporunda yanlış veya bağlam dışı olan şeyleri sorduğunda, Maloney sorularımıza yanıt vermedi. Gizmodo ayrıca raporla ilgili bir yanlışlık olup olmadığını sordu, ancak bu soru da yanıtsız kaldı.
“FDA, AI aracı Elsa’nın başarısı ve gelişimi hikayesini paylaşmak için heyecanlıydı. Maalesef, CNN hikayeyi memnuniyetsiz eski çalışanlar ve Elsa’nın mevcut versiyonunu hiç kullanmamış kaynaklarla başlatmayı tercih etti,” diye devam etti Maloney’in açıklaması.
Ancak Maloney’in e-postadaki son satırı, FDA’nın tamamen Trump tarafından ele geçirildiğini hatırlattı: “Bu hikayedeki ‘halüsinasyon’, CNN’in başarısız gazeteciliğidir.”
Düzeltme: Bu makale başlangıçta, FDA’nın Elsa için sadece ilk haftasında 12.000 dolar harcadığını ifade ediyordu, ancak bu, ilk dört haftalık çalışma süresi için rapor edilen bir maliyetti. Gizmodo, hatasından ötürü pişmandır.