FDA, Yapay Zekâ Aracı Elsa’yı Planlanandan Önce Piyasaya Sürdü

Üretici yapay zeka, ABD federal hükümetinde yeni bir yuva buldu. Salı günü, ABD Gıda ve İlaç İdaresi (FDA), verimliliği artırmayı umduğu kendi üretken yapay zekasının erken devreye alındığını duyurdu.

FDA’nin “Elsa” adını verdiği bu araç, çalışanlara bilimsel değerlendirmelerden temel operasyonlara kadar birçok konuda yardımcı olmak için tasarlandı. Başlangıçta FDA’nin 30 Haziran’a kadar Elsa’yı başlatmayı planladığı açıklandığından, Elsa belirtilen süreden önce ve bütçenin altında devreye girdi, bu durum bir FDA açıklaması ile duyuruldu.

Elsa’nın hangi bilgilere dayandığı tam olarak açıklanmamış olsa da, FDA bu süreçte “düzenlenen endüstri tarafından gönderilen verileri” kullanmadığını ve bu şekilde hassas araştırmaları ve bilgileri korumayı hedeflediğini bildirdi. Şu an itibariyle Elsa, bilgilerini özellikle sınıflandırılmış bilgiler için tasarlanmış bir Amazon Web Hizmetleri ürünü olan GovCloud’da saklıyor.

Bir dil modeli olarak, Elsa çalışanlara okuma, yazma ve özetleme konularında yardımcı olabilir. Ayrıca, FDA, Elsa’nın olumsuz olayları özetleyebileceğini, klinik olmayan uygulamalar için kod üretebileceğini ve daha fazlasını yapabileceğini belirtti. Ajans, Elsa’nın halihazırda “klinik protokol incelemelerini hızlandırmak, bilimsel değerlendirmeler için gereken süreyi kısaltmak ve öncelikli denetim hedeflerini belirlemek” için kullanıldığını bildirdi.

Mayıs ayında, FDA’nın ilk yapay zeka destekli bilimsel incelemenin tamamlandığını duyuran basın bülteninde, Makary, Elsa’nın yeteneklerinden “etkilendiğini” ve bu yeteneklerin “yeni tedaviler için inceleme süresini hızlandırma konusunda büyük bir potansiyele sahip olduğunu” söyledi. “Bilim insanlarımızın zamanını değerli kılmalıyız ve geçmişte inceleme sürecinin çoğunu tüketen verimsiz işleri azaltmalıyız.” diye ekledi.

Bir bilim insanı olan Jinzhong Liu’ya göre, FDA’nin üretken yapay zekası, normalde birkaç gün sürecek görevleri dakikalar içinde tamamladı. Salı günü yapılan duyuruda, FDA Baş Yapay Zeka Sorumlusu Jeremy Walsh, “Bugün, Elsa’nın lansmanı ile FDA’da Yapay Zeka çağının şafağına şahit oluyoruz; yapay zeka artık uzak bir vaat olmaktan çıkıp her çalışanının performansını ve potansiyelini artıran ve optimize eden dinamik bir güç haline gelmiştir.” şeklinde açıklamada bulundu.

Üretken yapay zeka kesinlikle yararlı bir araç olabilir, ancak her aracın da bazı dezavantajları vardır. Özellikle yapay zeka ile ilgili olarak, yanlış veya yanıltıcı iddialar içeren “halüsinasyonlar” hakkında artış gösteren hikayeler mevcuttur. Genellikle ChatGPT gibi botlarla ilişkilendirilse de, bu halüsinasyonlar federal yapay zeka modellerinde de ortaya çıkabilir ve daha büyük kaos yaratabilir.

IT Veterans’a göre, yapay zeka halüsinasyonları genellikle eğitim verilerindeki yanlılıklardan veya modelin içine inşa edilen gerçekleri kontrol eden mekanizmaların eksikliğinden kaynaklanmaktadır. Ancak, bu tür mekanizmalar mevcut olsa bile, IT Veterans insan denetiminin “riskleri azaltmak ve yapay zeka entegre edilmiş federal veri akışlarının güvenilirliğini sağlamak için” önemli olduğunu vurguluyor.

İdealde, FDA Elsa’nın kullanımında herhangi bir aksilik yaşanmaması için gerekli önlemleri titizlikle değerlendirmiştir ve uygulamıştır. Ancak, federal kurumlar geniş çaplı işten çıkarmalarla karşı karşıya olduğunda, insan denetimine ihtiyaç duyan teknolojinin genişlemesi her zaman endişe vericidir. Nisan ayının başlarında, FDA 3.500 çalışanı, bilim insanları ve denetim personelini de dahil ederek işten çıkardı (ancak bazı işten çıkarmalar daha sonra geri alındı).

Zamanla Elsa’nın nasıl performans göstereceği ortaya çıkacak. Ama nihayetinde, FDA’nın bu aracı olgunlaştıkça ajans içindeki kullanımını genişletmeyi planladığını biliyoruz. Bu arada veri işleme ve üretken yapay zeka fonksiyonları, “FDA’nın misyonunu daha fazla desteklemek” için kullanılmak üzere planlanıyor.