Sahte Yapay Zeka Hataları Açık Kaynak Geliştiricilerini Çileden Çıkarıyor

Yapay zeka sadece sosyal medyayı çöplüğe çevirmekle kalmıyor; aynı zamanda açık kaynaklı yazılım dünyasını da etkiliyor. Tıpkı X’in Community Notes gibi doğruluk kontrol araçlarının yanıltıcı bilgi seliyle baş etmekte zorlanması gibi, açık kaynak projelerine katkı verenler de yapay zeka ile üretilip gönderilen bug raporlarını değerlendirmek ve yanlışlamakla boşa harcadıkları zamandan şikayetçi.

The Register, Python Software Foundation’da güvenlik geliştirici olarak çalışan Seth Larson’ın yakın zamanda bir blog yazısında dile getirdiği endişeleri bugün bildirdi. Larson, “son derece düşük kaliteli, spam içeren ve yapay zeka kaynaklı güvenlik raporlarının” arttığını gözlemlediğini belirtiyor.

“Bu raporlar ilk bakışta potansiyel olarak geçerli görünüyor ve bu nedenle yanlışlaması zaman alıyor,” diyor Larson. Bu durum, internetin büyük bir kısmını yönlendiren Python, WordPress, Android gibi açık kaynak projeleri için büyük bir sorun olabilir, çünkü genellikle küçük gruplar tarafından gönüllü olarak yürütülüyorlar. Uygulama alanı geniş olan kod kütüphanelerindeki geçerli hatalar tehlikeli olabilir, çünkü kötüye kullanıldıklarında geniş bir etki alanı olabilir. Larson, yapay zeka kaynaklı hatalı rapor sayısının küçük olduğunu, ancak giderek arttığını söylüyor.

Bir başka geliştirici, Daniel Sternberg, bir hata göndericisini yapay zeka ile oluşturulduğunu düşündüğü bir rapor konusunda zamanını boşa harcamakla suçladı:

Gönderdiğiniz rapor, yapay zekanın sizi kandırarak bir güvenlik sorunu olduğuna inandırdığı belli olan bir ‘rapor slop’ gibi görünüyor. Ardından, bunun yapay zeka tarafından yapıldığını söylemeyerek zamanımızı boşa harcıyorsunuz ve daha da kötü yanıttılar ekleyerek tartışmaya devam ediyorsunuz – ki bunlar da muhtemelen yapay zeka ile üretilmiş.

Kod üretimi, büyük dil modelleri için giderek daha popüler bir kullanım durumu, ancak birçok geliştirici bu modellerin ne kadar kullanışlı olduğuna dair kararsız. GitHub Copilot veya ChatGPT’nin kendi kod üreticisi gibi programlar, herhangi bir projeye başlamak için temel iskeleti üretmekte oldukça etkili olabilir. Aynı zamanda geliştiricilerin tanıdık olmadığı bir programlama kütüphanesindeki fonksiyonları bulmalarına yardımcı olabilir, böylece ihtiyaç duydukları küçük kod parçacıklarını hızlıca bulabilirler.

Ancak, diğer tüm dil modelleri gibi, yanlış veya sadece kısmi kod üretebilirler. Kodu “anlamazlar”; sadece daha önce gördüklerine dayanarak ne istediğinizi tahmin eden olasılık makineleridir. Tam bir proje üretmek için geliştiricilerin hâlâ çalıştıkları programlama dilini anlamaları, sorunları çözmeleri ve ne inşa etmeye çalıştıklarını, kodun tüm bağımsız parçalarının nasıl bir araya geldiğini bilmeleri gerekiyor. Bu nedenle, uzmanlar bu araçlardan en çok etkilenenlerin genç geliştiriciler olacağını söylüyor. Yapay zeka ile çoktan yapılmış basit uygulamalar zaten inşa edilmiş olabilir.

HackerOne gibi platformlar, başarılı hata raporları için ödüller sunduğundan, bazı bireyleri ChatGPT’den bir kod tabanında hatalar aramasını istemeye teşvik edebilir ve ardından hata dönen yanlış sonuçları gönderebilirler.

Spam her zaman internetin bir parçası olmuştur, ancak yapay zeka bunu üretmeyi çok daha kolaylaştırıyor. Bu durumun üstesinden gelmek için giriş ekranlarında CAPTCHA gibi teknolojilerin daha fazla kullanılmasının gerekeceği bir durumla karşı karşıya kalmamız mümkün. Üzücü bir durum ve herkes için büyük bir zaman kaybı.