Aynı Soruya Cevap Verirken Bazı Yapay Zeka Modelleri Neden 50 Kat Daha Fazla Karbon Salıyor?
İstesek de istemesek de, büyük dil modelleri hızla hayatımıza yerleşti. Yoğun enerji ve su ihtiyaçları nedeniyle bizi daha hızlı bir şekilde iklim kaosuna sürüklüyor olabilirler. Ancak, yapılan yeni bir araştırmaya göre, bazı dil modelleri diğerlerinden daha fazla gezegen ısıtan kirliliğe sebep oluyor olabilir.
Frontiers in Communication dergisinde yayımlanan yeni bir çalışmaya göre, bazı modellere yapılan sorgular diğerlerinden 50 kat daha fazla karbon emisyonu yaratıyor. Ne yazık ki, belki de tahmin edileceği üzere, daha doğru modeller genellikle en yüksek enerji maliyetlerine sahip.
Bu modellerin çevreye ne kadar zararlı olduğunu tahmin etmek zor, fakat bazı araştırmalar ChatGPT’nin eğitiminin Amerikan halkının bir yılda kullandığının 30 katı enerji tükettiğini öne sürüyor. Bilinmeyen şey ise bazı modellerin soruları yanıtlarken diğerlerinden daha yüksek enerji maliyetlerine sahip olup olmadığı.
Almanya’daki Hochschule München Uygulamalı Bilimler Üniversitesi araştırmacıları, modele anlamını ve dil üretimini ince ayarlayan 7 milyardan 72 milyara kadar parametreye sahip 14 LLM’yi, çeşitli konular hakkındaki 1.000 soruyla değerlendirerek analiz etti.
LLM’ler, bir istemdeki her kelimeyi ya da kelime parçalarını, token adı verilen sayı dizilerine dönüştürür. Bazı LLM’ler, özellikle akıl yürütme modelleri, çıktı üretmeden önce ek içsel hesaplamalar ve akıl yürütme için girdi dizisine özel “düşünme tokenları” ekler. Bu dönüşüm ve LLM’nin tokenlar üzerinde gerçekleştirdiği hesaplamalar enerji kullanır ve CO2 salınımına yol açar.
Bilim insanları, test ettikleri modeller tarafından üretilen token sayısını karşılaştırdı. Akıl yürütme modelleri, ortalama olarak, soru başına 543.5 düşünme tokenı oluşturdu, oysa kısa yanıt veren modeller sadece soru başına 37.7 token gerektirdi. Örneğin, ChatGPT dünyasında, GPT-3.5 kısa yanıtlama modeliyken GPT-4o bir akıl yürütme modelidir.
Bu akıl yürütme süreci enerji ihtiyacını artırıyor, yazarlar buldu. “Eğitilmiş LLM’lere soru sormanın çevresel etkisini onların akıl yürütme yaklaşımları belirliyor,” diyor Hochschule München Uygulamalı Bilimler Üniversitesi’nde araştırmacı doğumlu olan çalışmanın yazarı Maximilian Dauner. “Akıl yürütme destekli modeller, kısa yanıt veren modellere göre 50 kata kadar daha fazla CO2 emisyonu üretiyor.”
Araştırma, daha doğru modellerin, daha fazla karbon salınımına neden olduğunu ortaya çıkardı. 70 milyar parametreye sahip Cogito adlı akıl yürütme modeli, %84.9 doğruluğa ulaştı, fakat benzer büyüklükteki kısa yanıtlar üreten modellerden üç kat daha fazla CO2 salınımı yaptı.
“Şu an, LLM teknolojilerinde bariz bir doğruluk ve sürdürülebilirlik arasında bir değiş tokuş görüyoruz,” dedi Dauner. “Karbon salınımını 500 gram CO2 eşdeğeri altında tutan modellerin hiçbiri, 1.000 soruya doğru yanıt verme konusunda %80’in üzerinde bir doğruluğa ulaşamadı.” CO2 eşdeğeri, çeşitli sera gazlarının iklim üzerindeki etkisini ölçmek için kullanılan bir birimdir.
Bir diğer etmen konuydu. Soyut cebir ya da felsefe gibi detaylı ya da karmaşık akıl yürütme gerektiren sorular, daha basit konulara göre altı kat daha fazla salınıma yol açtı, çalışmaya göre.
Bazı uyarılar da var. Salınımlar, yerel enerji ağlarının yapısına ve incelenen modellere oldukça bağımlı olduğu için bu bulguların ne kadar genelleştirilebileceği belirsiz. Yine de, çalışma yazarları, bu çalışmanın insanların dil modellerini kullanırken dikkatli ve düşünceli olmalarını teşvik etmesini umduklarını söylediler.
“Kullanıcılar, AI’yi kısa yanıtlar oluşturmaya yönlendirerek ya da yalnızca yüksek kapasite gerektiren görevlerde bu güçlü modelleri kullanarak salınımları önemli ölçüde azaltabilir,” dedi Dauner bir açıklamasında.
