Sosyal Güvenlik Kurumu’nun Yeniden Yapılandırılması: Yapay Zeka Eğitimi Başladı, Tanıtım Videosu Bekleneni Vermedi

Son aylarda, Elon Musk’ın DOGE adlı oluşumu, Amerika’nın federal bürokrasisini boşaltmaya çalışıyor. Birçok çalışanı işten çıkararak ve önemli kurumları küçültmeye çalışarak, milyarder destekli bu girişim, otomasyona öncelik veren yeni bir yönetim modeli yaratmayı amaçlıyor. Cuma günü, Wired, çırpınan bir modernizasyon çabasıyla, kurum çalışanlarının iş akışına yeni bir ChatGPT benzeri botun entegre edildiğini bildirdi.

Ajans Destek Yardımcısı’nın, “çalışanlara günlük görevlerinde yardımcı olmak ve verimliliği artırmak” amacıyla tasarlandığı belirtiliyor; bu, magazin tarafından görülen bir iç e-posta ile açıklandı. Fakat, görünen o ki bu sohbet botu çok iyi çalışmıyor. Kurumda çalışan bir kaynak, Wired’a “Açıkçası, bu konuda pek kimse konuşmuyor,” dedi.

Uygulamanın lansmanı sırasında, eğlenceli derecede kötü bir eğitim videosu (burada görülebilir) da yayınlanmış. Kötü bir şekilde animasyonlandırılmış, dört parmaklı bir kadının yer aldığı bu video, personele uygulamanın nasıl kullanılacağını açıklamaya çalışmış fakat çok önemli bir bilgiyi atlamış: Kişisel hassas bilgilerin programa yüklenmemesi gerektiği. Bu ihmalkarlık, kurumun çalışanlara özür dilendiği bir e-posta göndermesine neden olmuş, eksik konteksti vurgulayan bir e-posta: “Eğitim videomuzdaki göz ardı için özür dileriz” şeklinde okunuyor.

“Çoğu iş arkadaşımın eğitim videosunu izlediğinden emin değilim,” dedi, SSA kaynağı Wired’a. “Sohbet botuyla biraz oynadım ve aldığım birkaç yanıt inanılmaz derecede belirsiz ve/veya hatalıydı.” Ayrıca ekledi: “Arkadaşlarımın grafiklerle dalga geçtiğini duyabiliyordunuz. Tanıdığım kimse bunu kullanmıyor. O kadar beceriksiz ve kötü.”

Musk’ın planı SSA’yı otomasyona geçirmekse, yeni uygulamanın kötü oluşunun ötesinde, bunun kötü bir fikir olduğunu gösteren çok fazla kanıt var. Gerçekten de, Brezilya’daki sosyal hizmetleri otomatikleştirme çabası, refah programlarının işlemesi için algoritmalara aşırı güvenmenin herkes için daha kötü sonuçlar doğurabileceğini gösteriyor.

Rest of the World bildiriyor ki Brezilya hükümetinin memurları algoritmalarla değiştirme çabası her zaman en iyi sonuçları vermedi. Brezilya, devlet tarafından sahip olunan bir firma Dataprev tarafından geliştirilen ve sosyal güvenlik taleplerini yönetmek için tasarlanan Meu INSS adlı bir uygulamaya sahip. 2018 yılında piyasaya sürülen bu uygulama, başvuranlar tarafından hükümete sunulan belgeleri analiz etmek için bilgisayarlı görme ve doğal dil işleme kullanıyor. Ne yazık ki, uygulama genellikle küçük hatalara dayanarak geçerli talepleri reddetme alışkanlığına sahip. Bu otomatik kararlar, çözülmesi aylar sürebilen uzun hukuki mücadeleleri başlatabiliyor.

Bir kez, şeker kamışı işçisi olarak çalışmış 55 yaşındaki Josélia de Brito, emeklilik ödemesi için uygulamadan başvurduğunda otomatik sistem tarafından erkek sanılmış ve ödemesi reddedilmişti. “Sağlık durumumu kanıtlayan tüm belgelerim var, her şeyi kanıtlayan, ama [ödeme] hâlâ reddediliyor. Bu bir aşağılamadır,” dedi De Brito.

Ülkenin kırsal işçileri giderek dijitalleşen sosyal hizmetlerle mücadele ediyor. “Buradaki insanlar Gmail, Facebook, Instagram gibi platformlarla çalışamıyor,” dedi Barra do Corda’da Kırsal İşçiler Birliği başkanı Francisco Santana, Rest of World’a. “İşlemler giderek daha otomatik hale geliyor ve toplum buna hazırlıklı değildi, özellikle çevre köylere kadar, kırsal alanlarda yaşayan insanlar için.”

Diğer ülkelerin otomasyon sorunları, sosyal hizmetlerin şu anda Trump yönetimince görevlendirilen teknokratlar tarafından “modernize” edildiği ABD için olası bir uyarıdır. Musk’ın DOGE’si, federal bürokrasideki birçok kurumu boşaltmak amacıyla, insan işgücünün yarı yarıya azaltılmasını ve yerine yazılım koyulmasını öneren bir “AI odaklı” strateji kurmaya çalışıyor. “Makineleştirilebilen her şey makineleştirilecek. Ve teknokratlar bürokratların yerini alacak,” diye birisi DOGE’nin faaliyetleri hakkında Washington Post’a yakın zamanda söyledi. Ancak, DOGE’nin değişiklikleri şimdiye kadar birçok acentada, Sosyal Güvenlik dahil, işlevsizlik ve kaosa yol açtı.

Gerçekten de, son bir SSA olayında, DOGE çalışanlarının “sayısız” yaşayan yardım alıcısını “ölü” olarak işaretleyip yardımlarını kesmesi sadece bir örnek.  “[DOGE personeli] sisteme girdiler ve insanları öldürdüler,” dedi uzun süredir acenta için çalışan analist Rennie Glasgow, The Daily Beast’e. “Yaklaşık 4 milyon insanı, onları ölü olarak işaretlediler. Ancak bu kişilerin ölü olarak işaretlenmeleri gerekip gerekmediğinden emin değiller, bu yüzden bize bir e-posta gönderip, ‘Eğer bu kişiler kimlikleriyle ofise gelirse, onları tekrar etkinleştirebilirsiniz,’ diyorlar,” diye anlattı Glasgow.

“Onları hayata geri getirmek için uzun bir süreçten geçmeliyiz, bu üç-dört gün sürebilir,” diye ekledi Glasgow.

DOGE ayrıca yakın zamanda SSA’nın tüm kod tabanını aylar içinde yeniden yazmayı deneyeceğini duyurdu. Kaynaklar, bu hıza ayak uydurabilmek için DOGE’nin muhtemelen AI’ya dayanmak zorunda kalacağını öne sürüyor. AI ile kod yazmak daha yaygın bir uygulama haline gelse de, büyük ölçüde denetim gerektiren bir uygulama. DOGE’nin insan operatörlerinin hükümete yönelik ani saldırıları sırasında yaptıkları çok sayıdaki hata göz önüne alındığında, SSA’nın kod tabanının otomatik bir şekilde yenilenmesi felaketle sonuçlanabilir.

Tabii ki, bazıları hataların yapılmasının amacının olduğuna inanıyor. Bu eleştirmenler, DOGE’nin SSA’yı “modernize” etmeye veya iyileştirmeye çalışmadığını, aksine ajansı istikrarsızlaştırmaya ve yok etmeye çalıştığını, böylece özelleştirilebileceğini düşünüyor. Eğer durum buysa, her şey plana uygun gidiyor demektir.