6 Yaşındaki Oğlu Ölmek İstediğini Söyledi: Onu Kurtarmak İçin Bir Yapay Zeka Şirketi Kurdu

Yapay zeka destekli ruh sağlığı çalışmalarının yükselen dünyası dikkat edilmesi gereken bir alandır. Yanlış tıbbi önerilerde bulunan sohbet botlarından öz zarar verme yönlendirmesine kadar birçok manşet, uyarı hikayeleriyle dolu.

Character.AI ve Replika gibi popüler uygulamalar, zararlı ve uygunsuz yanıtlar nedeniyle eleştiri aldı, akademik çalışmalar ise tehlike çanlarını çalıyor.

Stanford Üniversitesi ve Cornell Üniversitesi tarafından yapılan iki yeni çalışma, yapay zeka sohbet botlarının sıklıkla alkol bağımlılığı ve şizofreni gibi durumları damgaladığını, belirli yaygın sorunlara “uygunsuz” yanıtlar verdiğini ve danışanların yanılsamalı düşüncelerini teşvik ettiğini ortaya koydu. Yapay zeka üzerine insan kontrolü olmadan aşırı güvenin riskine dikkat çekildi.

Bütün bu uyarılara rağmen, siyahi bir kadın olan Hafeezah Muhammad kişisel sebeplerle farklı bir şey inşa ediyor.

“2020 yılının ekim ayında, altı yaşındaki oğlum yanıma gelip kendisini öldürmek istediğini söyledi,” diye anımsıyor, sesi o anın ağırlığını taşıyor. “Kalbim kırıldı. Hiç beklemiyordum.”

O dönemde ulusal bir ruh sağlığı şirketinde yönetici olan biri olarak sistemi çok iyi tanıyordu ama engelli ve Medicaid ile sigortalı olan oğluna bir türlü bakım bulamıyordu.

“Sağlayıcıların sadece %30’unun veya daha azının Medicaid’i kabul ettiğini görüyoruz,” diye açıklıyor. “Amerika’daki çocukların %50’den fazlası artık çok kültürlü evlerden geliyor ve bizler için çözümler yoktu.”

Korkmuş, utangaç ve çocukta ruh sağlığı sorunlarının damgalanmasından endişeliydi. Bu yüzden bulamadığı şeyi geliştirdi.

Bugün, Backpack Healthcare’in kurucusu ve CEO’su olan Muhammad, Maryland merkezli bu sağlayıcı ile Medicaid üzerinden çoğunluğu olan 4.000’den fazla pediatrik hastaya hizmet vermekte. Şirket, teknolojinin insan temasını yerine geçmeden ruh sağlığını destekleyebileceği radikal fikirle geleceğini inşa ediyor.

Pratik Yapay Zeka, Terapi Yerine Değil

İlk bakışta Backpack, birçok tele-sağlık başlangıcı gibi görünebilir. Ancak gerçekte, yapay zekaya bilinçli bir şekilde pragmatik bir yaklaşımla, insan terapistleri güçlendiren “sıkıcı” ama etkili uygulamalara odaklanıyor.

Algoritma, çocukları ilk denemede en iyi terapist ile eşleştiriyor (Hastaların %91’i ilk eşleşmeleri ile kalıyor). Yapay zeka ayrıca tedavi planları ve seans notları hazırlayarak klinisyenlerin kaybettikleri saatleri geri kazandırıyor.

“Sağlayıcılarımız haftada 20 saatten fazla idari işlerle uğraşıyorlardı,” diye açıklıyor Muhammad. “Ama onlar editörler.”

Bu insan-merkezli yaklaşım Backpack’in felsefesinde temel bir unsur.

Backpack’in en önemli avantajı sağlam etik kısıtlamalarla donatılmış olması. 7/24 yapay zeka bakım arkadaşı, “Zipp” adlı dost canlısı bir çizgi karakterle temsil ediliyor. Bu, diğer sohbet botlarında görülen tehlikeli “empati yanılsamasından” kaçınmak için bilinçli bir tercih.

“Açıkça söylemek istedik ki bu bir araçtır, insan değil,” diyor Muhammad.

Pace Healthcare Capital’dan yatırımcı Nans Rivat, kullanıcıların “günün sonunda bir aletle konuştuğunuzu” unuttuğu “LLM empatisi” tuzağına işaret ediyor. Bu tür güvenlik önlemerinden yoksun kaldığı için Character.AI gibi olaylarda “trajik” sonuçlar yaşandığına dikkat çekiyor.

Muhammad, veri gizliliği konusunda da nettir. Bireysel hasta verileri, açık onay olmadan paylaşılmaz. Ancak, şirket ortaklarına raporlama yapmak için anonimleştirilmiş veriler kullanılır.

Daha da önemlisi, Backpack kendi verilerini klinik sonuçları iyileştirmek için kullanır. Anksiyete veya depresyon seviyeleri gibi metrikleri takip ederek, daha yüksek seviyede bir yardım gerektirebilecek bir hasta için işaretleme yapar. Böylece teknoloji, çocukların daha hızlı iyileşmesine olanak tanır.

Kritik olarak, Backpack’in sistemi ani kriz algılama protokolünü de içerir. Bir çocuk intihar düşüncesi belirten bir ifade yazarsa, sohbet botu anında kriz hattı numaraları ve 911’i arama talimatları gönderir. Aynı zamanda, Backpack’in insan kriz müdahale ekibine “acil durum mesajı” gönderilir ve aileye doğrudan ulaşılır.

“Terapisti değiştirmeye çalışmıyoruz,” diyor Rivat. “Güvenlik unsurlarıyla birlikte daha önce var olmayan bir aracı ekliyoruz.”

İnsani Omurga İnşası

Etik teknolojisinin ötesinde, Backpack ayrıca ulusal terapist eksikliği sorununu ele alıyor. Birçok durumda, terapistler, doktorların aksine, lisans almak için gerekli pahalı denetleme saatleri için kendi ceplerinden ödeme yaparlar.

Bunu önlemek için Backpack, bu maliyetleri karşılayan, iki yıllık ücretli bir staj programı başlattı ve bu sayede adanmış, iyi eğitimli terapistler yetiştiriyor. Her yıl 500’den fazla kişi başvuruyor ve program etkileyici bir %75 muhafaza oranına sahip.

2021’de, o zamanki ABD Cerrah Generali Dr. Vivek H. Murthy, genç insanları saran akıl sağlığı krizi bağlamında akıl sağlığını “zamanımızın en önemli halk sağlığı sorunu” olarak nitelendirmişti.

Muhammad, yapay zekanın işleri daha da kötüleştirebileceği eleştirisinden kaçınmıyor.

“Ya birileri bu teknolojiyi yanlış güvenlik önlemleriyle yapacak ya da anne olarak doğru yapılmasını sağlayabilirim,” diyor.

Oğlu şimdi 11 yaşında, hayat dolu ve Backpack’in “Baş Çocuk İnovatörü” olarak görev yapıyor.

“Eğer işimizi doğru yaparsak, sonsuza dek bize ihtiyaçları olmaz,” diyor Muhammad. “Onlara o araçları şimdi veriyoruz, böylece dirençli yetişkinler haline geliyorlar. Onlara bisiklet sürmeyi öğretmek gibi. Bir kere öğrenilir, sonrasında hayatınızın bir parçası haline gelir.”