Google, sağlıkla ilgili aramalarda yapay zeka özetleme özelliklerini durdurma kararı aldı.

Google, sağlıkla ilgili bazı arama sorgularında sunduğu yapay zekâ destekli özetleri sessizce devre dışı bıraktı. Bu değişiklik, The Guardian tarafından yapılan ve bu özetlerde ciddi hatalar bulunduğunu ortaya koyan araştırmanın ardından gerçekleşti. Haberde, özellikle kritik tıbbi konularda yanlış veya yanıltıcı bilgilerin kullanıcılara sunulmasının altı çizilmişti. Google, konuyla ilgili detaylı bir açıklama yapmazken, bazı arama sonuçlarında yapay zekâ özetlerinin tamamen kaldırıldığı gözlemlendi.

The Guardian’ın haberinde verilen örnekler, sağlık uzmanlarının büyük tepkisini çekti. Bunlardan birinde, pankreas kanseri hastalarına yüksek yağ içeren gıdalardan kaçınmaları önerildiği ifade ediliyordu. Uzmanlar, bu tavsiyenin tıbbi açıdan yanlış olduğunu ve hastaların yaşam süresini olumsuz etkileyebileceğini belirtti. Ayrıca, karaciğer fonksiyon testleri ile ilgili paylaşılan yanlış bilgiler, ciddi karaciğer rahatsızlığı olan kişilerin kendilerini sağlıklı hissedebileceği bir yanılsamaya yol açabilir.

Google, yapay zekâ özetlerinde bağlam eksikliği olabileceğini kabul etti

Son günlerde yapılan kontrol ve incelemelerde, “karaciğer kan testleri için normal değerler nelerdir?” gibi sorulara ait yapay zekâ özetlerinin artık görünmediği tespit edildi. Google, bu özel kaldırma gerekçesiyle The Guardian’a yorum yapmamayı tercih etti. Ancak şirketin sözcülerinden Davis Thompson, The Verge’e yaptığı açıklamada, yapay zekâ özetlerinin kalitesini artırma konusunda ciddi yatırımlar yapıldığını, özellikle sağlık gibi hassas konularda doğruluk oranının yüksek olduğunu savundu. Thompson, şirketin klinik uzmanlarının paylaşılan örnekleri incelediğini ve çoğunlukla bilgilerin hatalı olmadığını, güvenilir kaynaklarla desteklendiğini belirtti.

Bunlarla birlikte, bazı özetlerde bağlam eksikliği olabileceğini de kabul eden Google, bu gibi durumlarda sistem genelinde iyileştirmeler yapıldığını ve gerekli görüldüğünde şirket politika çerçevesinde adımlar atıldığını ifade etti. Ancak bu açıklamalar, eleştirilerin tamamen sona ermesini sağlamadı. Özellikle sağlık alanında yanlış bilginin doğrudan fiziksel zarara yol açma ihtimali, yapay zekâ tabanlı sistemlerin sorumluluğunu daha da artırıyor.

Öte yandan, yapay zekâ özetleri, Google için tartışma konusu olan ilk durum değil. Daha önce bu özellik, kullanıcıların pizzaya yapıştırıcı sürmesi veya taş yemesi gibi absürt ve tehlikeli tavsiyelerde bulunmasıyla gündeme gelmişti. Buna ek olarak, şirketin bu sistemler nedeniyle karşılaştığı hukuki süreçler de mevcut. Tüm bu gelişmeler, Google’ın yapay zekâ destekli arama deneyimini nasıl dengeleyeceğine ve özellikle sağlık gibi kritik alanlarda hangi sınırlamaları getireceğine dair soruları yeniden gündeme getiriyor.