KAIST Araştırması Yapay Zeka Ajanlarının Enerji Ayak İzini Gözler Önüne Serdi

Güney Kore'nin önde gelen teknoloji enstitülerinden KAIST'te görev yapan araştırmacılar, yapay zeka ajanlarının enerji tüketimini ilk kez sistematik olarak analiz eden kapsamlı bir çalışmaya imza attı. Araştırma, otonom karar alma yeteneğine sahip yapay zeka ajanlarının, geleneksel yapay zeka sistemlerine kıyasla 136,5 kat daha fazla enerji tükettiğini ortaya koyarak sektördeki sürdürülebilirlik tartışmalarını yeniden alevlendirdi. Çalışma, yapay zeka altyapısının karbon ayak izine ilişkin endişelerin somut verilerle desteklenmesi açısından büyük önem taşıyor.

70 milyar parametreli büyük bir dil modeli (LLM) üzerine inşa edilen yapay zeka ajanının tek bir sorguda 348,41 watt-saat enerji tükettiği belirlendi. Bu rakam, ortalama bir hanenin günlük buzdolabı tüketiminin önemli bir bölümüne denk gelirken, milyarlarca kullanıcının yapay zeka asistanlarıyla etkileşime girdiği düşünüldüğünde toplam enerji tüketiminin boyutu endişe verici bir seviyeye ulaşıyor. Araştırmacılar, bu ölçümlerin yalnızca modelin yanıt üretme aşamasını değil, ajanın planlama, araç çağırma ve çoklu adım karar alma süreçlerini de kapsadığını vurguladı.

Çalışmanın en çarpıcı bulgularından biri de yanıt sürelerindeki dramatik artış oldu. Yapay zeka ajanlarının, geleneksel tek adımlı sorgu işleme yöntemlerine kıyasla 153,7 kata kadar daha uzun süre yanıt ürettiği tespit edildi. Bu durum, özellikle karmaşık görevlerde ajanların arka arkaya birden fazla model çağrısı gerçekleştirmesi, harici API'lerle iletişim kurması ve ara sonuçları değerlendirmesi gerektiğinden kaynaklanıyor. Kullanıcı deneyimini doğrudan etkileyen bu gecikmeler, aynı zamanda veri merkezlerindeki işlem yükünü de katlanarak artırıyor.

KAIST ekibinin ölçümleri, yapay zeka ajanlarının çalıştırıldığı GPU'ların verimsiz kullanımına da dikkat çekti. Araştırmaya göre GPU'lar, çalışma sürelerinin yüzde 54,5'inde boşta bekliyor ya da düşük verimlilikle çalışıyor. Bu bulgu, ajan tabanlı sistemlerin kaynak kullanımında ciddi bir optimizasyon sorunu olduğunu gösteriyor. Bir ajan, bir sonraki adımı planlarken ya da dış kaynaklardan yanıt beklerken GPU kaynakları çoğu zaman atıl kalıyor ve bu durum toplam enerji tüketimini daha da yukarılara taşıyor.

Araştırmacılar, elde edilen verilerin yapay zeka endüstrisinin sürdürülebilirlik stratejilerini yeniden gözden geçirmesi gerektiğine işaret ettiğini belirtti. Özellikle büyük ölçekli dağıtımlarda, ajan tabanlı sistemlerin enerji maliyetlerinin öngörülenin çok ötesine geçebileceği uyarısında bulunuldu. Çözüm önerileri arasında ajan mimarilerinin sadeleştirilmesi, paralel hesaplama stratejilerinin geliştirilmesi ve GPU kullanım oranlarını artıracak yazılımsal optimizasyonlar öne çıkıyor.

Sektör analistleri, KAIST'in bu çalışmasının yapay zeka ajanlarının geliştirilme hızı ile altyapı kapasitesi arasındaki dengesizliği gözler önüne serdiğini söylüyor. OpenAI, Google ve Anthropic gibi şirketlerin ajan tabanlı ürünlere giderek daha fazla yatırım yaptığı bir dönemde, enerji verimliliği konusunun rekabet avantajı haline gelebileceği değerlendiriliyor. Önümüzdeki yıllarda daha düşük parametreli ancak görev odaklı uzmanlaşmış ajanların, enerji tüketimini makul seviyelere çekmenin anahtarı olabileceği öngörülüyor.