Replit’in AI Aracı, Kod Günlüğü Seansı Sırasında Şirketin Kod Tabanını Sildi! Gerçekten bir kabus senaryosu! Replit’in yapay zeka aracı, keyifli bir kod yazma seansı sırasında tüm şirketin kod tabanını hatalı bir şekilde silerek herkesi şoke etti. Bu tür bir olaydan ders çıkarmamak imkansız! Nasıl gerçekleştiği ve bundan nasıl kaçınılacağı hakkında birkaç ipucu ile sizlerleyiz.

Yazılım geliştirmeyi hızlandırma sözü veren yapay zeka kod yazım asistanları, şirketinizin veri tabanını silip ardından da üstünü örtmeye çalıştıklarında geleceği vaat etmekten çıkarlar.

SaaS girişimcilerini destekleyen ve finanse eden SaaStr’ın kurucusu Jason Lemkin, bunu yaşamak zorunda kaldı. Replit’in “Replie” adını verdiği yapay zeka asistanını şirketi için bir uygulama geliştirmede kullanırken, “hırçın” ve “aldatıcı” davranışlarla karşılaştı. İşin en kötüsü, bir noktada yapay zeka asistanı şirketin canlı üretim veritabanını sildi ve ardından üstünü kapatmaya çalıştı.

Lemkin, 11 Temmuz’da X adlı sosyal medya sitesinde (eskiden Twitter) paylaşımlar yaparak AI ajanıyla yaşadığı deneyimi kronikleştirmeye başladı. Amacı, 30 gün içinde Replit’in yapay zekası yardımıyla çalışan bir uygulama geliştirmekti.

Ne yazık ki, işler çok daha erken rayından çıktı.

“Çalıştığında, öyle eğlenceli ve sürükleyici ki. Oynadığım her video oyunundan daha bağımlılık yapıcı,” diye yazdı Lemkin bir paylaşımda. “Sürekli yineleyerek vizyonunuzu canlandırabilirsiniz. Harika. Eh, neredeyse.”

Dördüncü gününde, AI asistan hata düzeltmeleri için uygulamayı kendi kendine yeniden yazmaya başladı. Aynı zamanda sahte raporlar üretiyor, sistemde var olmayan kişileri icat ediyor ve şirketin gerçek veritabanını sahte girişlerle değiştirmeye başladı. İşlevselliği göstermek için paralel, sahte bir algoritma bile yarattı.

Bu, “hissetgisel kodlama” ters gittiğinde neler yaşanabileceğini gösteriyor. Hissetgisel kodlama, geliştiricilerin AI’yı kullanarak doğal dil komutlarıyla kod ürettiği ve sorun giderdiği, ürünün genel hissine odaklanmayı teknik kesinlikten daha önemli gördükleri bir yöntem. Twitter’ın kurucularından Jack Dorsey de bu tür bir kodlama sürecine dalmış durumda ve yakın zamanda iki uygulama geliştirdi. Ancak, Dorsey’nin son deneylerinin biri de ciddi güvenlik açıklarına sahip olduğu ortaya çıktı.

Yedinci gününde, Replit AI’si “tembel ve aldatıcı” olduğunu kabul etti ve kendisine “açıkça” yapılmaması söylenen şeyleri yaptığı için özür diledi. 

Ancak, Replit’in en kötü suçu 8. günde meydana geldi. Lemkin, Replit’in bir kod dondurma ve kapatma sırasında “hırçınlaştığını” ve şirketin tüm veritabanını sildiğini duyurdu. 

“Belki daha kötüsü, bunu gizleyip yalan söyledi,” diye ekledi Lemkin. 

Lemkin, AI ile olan bir konuşmanın ekran görüntülerini paylaştı. Yapay zeka, kod dondurma sırasında boş bir veri tabanı göründüğünü fark ettiğinde “paniklediğini” ve 1.200’den fazla yönetici ve neredeyse 1.200 şirket için canlı kayıtlar içeren veri tabanını silen yetkisiz bir komut çalıştırdığını kabul etti.

Başlangıçta, AI, Lemkin’e veritabanının kurtarılamayacağını söyledi, ancak Lemkin sonunda bunu kendi başına kurtardı.

Pazartesi günü, Replit CEO’su Amjad Masad, X’te bir özür yayınladı. Olayın “kabul edilemez” olduğunu ve asla mümkün olmaması gerektiğini belirterek, Lemkin’e yardım etmeyi teklif ettiğini bildirdi. 

“Kendisinden özür dileyeceğiz ve tam olarak ne olduğunu belirmek ve gelecekte daha iyi bir yanıt oluşturmak için bir sonrası analizi gerçekleştireceğiz,” diye yazdı Masad. “Geribildirimlerini ve herkesin geribildirimlerini takdir ediyoruz. Replit ortamının güvenliğini ve sağlamlığını artırmak için hızla ilerliyoruz. En yüksek öncelik.”

Lemkin, dün paylaşımda AI asistanını kullanmaya devam edeceğini, ancak Replit’e olan güveninin bir miktar azaldığını belirtti.