Yapay zekâ hesaplama emisyonları, büyük modelleri eğiten enerji yoğun GPU kümelerinden kaynaklanırken, geleneksel bulut emisyonları ise günlük iş yüklerini çalıştıran genel amaçlı veri merkezlerinden kaynaklanmaktadır. Yapay zekâ iş yükleri görev başına çok daha fazla güç tüketirken, geleneksel bulut çok daha büyük toplam ölçekte çalışmaktadır.
GPU ve TPU gibi özel donanımlar üzerinde yapay zeka modellerinin eğitilmesi ve çalıştırılması sonucu oluşan karbon ayak izi.
Web siteleri, uygulamalar, veritabanları ve kurumsal yazılımları barındıran genel amaçlı veri merkezlerinin ürettiği karbon emisyonları.
| Özellik | Yapay Zeka Hesaplama Emisyonları | Geleneksel Bulut Emisyonları |
|---|---|---|
| Birincil Donanım | GPU'lar ve TPU'lar (Yapay Zeka hızlandırıcıları) | CPU'lar ve genel amaçlı sunucular |
| Raf başına güç | Raf başına 30 ila 80 kW | Raf başına 5 ila 15 kW |
| Görev Başına Enerji | Son derece yüksek (bir modeli eğitmek = tonlarca CO2) | Orta düzey (iş yüküne göre değişir) |
| Soğutma Talebi | Çok yüksek, genellikle sıvı soğutma | Hava soğutması genellikle yeterlidir. |
| İş Yükü Türü | Model eğitimi ve çıkarımı | Web barındırma, veritabanları, SaaS uygulamaları |
| Kullanım Oranı | Genellikle yüzde 30 ila 50 | Genellikle yüzde 40 ila 60 arası |
| Yenilenebilir Enerji Benimsenmesi | Daha düşük yüzde, hızla artıyor | Bazı bölgelerde bu oran %60 ile %90 arasında değişmektedir. |
| Büyüme Yörüngesi | Hızla artıyor, birkaç ayda bir ikiye katlanıyor. | İstikrarlı, yılda yaklaşık yüzde 10 ila 20 arası. |
| Su Kullanımı | Yüksek (yapay zeka çiplerini soğutma) | Orta düzeyde (geleneksel soğutma) |
Yapay zekâ hesaplamaları, matris matematiği için tasarlanmış büyük ölçekli paralel işlemcilerde çalışır ve bu çipler ciddi miktarda güç tüketir. Tek bir NVIDIA H100, tam yük altında 700 watt güç çekebilir ve sekiz tanesiyle dolu raflar 50 kW veya daha fazlasına ulaşabilir. Geleneksel bulut sunucuları ise, aksine, daha mütevazı bir şekilde güç tüketir; genellikle verimli bir şekilde boşta çalışan ve sürekli maksimum verim gerektirmeden çeşitli iş yüklerini işleyen CPU'larda çalışırlar. Sadece donanım farkı bile, yapay zekâ iş yüklerini birim iş başına birkaç kat daha fazla enerji tüketir hale getirir.
Araştırmacılar büyük dil modellerinin eğitim emisyonlarını ölçtüklerinde, rakamlar şaşırtıcıydı. GPT-3 büyüklüğündeki bir modelin tek bir eğitim çalışması, yüzlerce ton CO2 eşdeğeri emisyon yayabiliyor. Bir web sayfası sunmak veya bir veritabanı sorgusu çalıştırmak gibi geleneksel bulut görevleri, istek başına bunun çok küçük bir bölümünü üretiyor. Bununla birlikte, geleneksel bulut çok daha yüksek hacimlerde çalıştığı için, görev başına emisyonlar çok farklı görünse bile, kümülatif ayak izi mutlak anlamda karşılaştırılabilir düzeyde kalıyor.
GPU'lar yoğun ısı üretir; bu da yapay zeka veri merkezlerinin sıcaklıkları kontrol altında tutmak için genellikle sıvı soğutmaya veya hatta daldırma sistemlerine ihtiyaç duyduğu anlamına gelir. Bu soğutma işlemi muazzam miktarda su ve elektrik tüketir. Geleneksel bulut tesisleri çoğunlukla daha az su ve enerji kullanan hava soğutma ve soğutuculara güvenir. Arizona gibi kuraklığa eğilimli bölgelerde, yapay zeka veri merkezlerinin su talepleri şimdiden toplumsal tepkilere ve düzenleyici incelemelere yol açmıştır.
Google ve Microsoft gibi geleneksel bulut devleri, şebekelerini yeşillendirmek için yıllarca yenilenebilir enerji sözleşmeleri satın aldı ve enerji satın alma anlaşmaları imzaladı. Genellikle daha yeni ve özellikle hiper ölçekli eğitim için inşa edilmiş yapay zeka odaklı operasyonlar, her zaman aynı başlangıç avantajına sahip olmadı. Bununla birlikte, CoreWeave ve Lambda Labs gibi şirketler, büyük enerji tüketimlerini dengelemek için Pasifik Kuzeybatı'daki hidroelektrik barajları gibi ucuz yenilenebilir kaynakların yakınında tesislerini giderek daha fazla konumlandırıyor.
Yapay zekâ hesaplama talebi, geleneksel bulut büyümesinin asla ulaşamadığı bir hızla artıyor. Bazı analistler, daha büyük modeller ve yaygın çıkarım uygulamaları nedeniyle yapay zekâ ile ilgili enerji tüketiminin 2030 yılına kadar üç katına çıkabileceğini tahmin ediyor. Geleneksel bulut büyümesi, hâlâ sağlıklı olsa da, kurumsal BT harcamalarına bağlı daha öngörülebilir bir eğri izliyor. Bu, verimlilik iyileştirmeleri aynı hızda ilerlemezse, önümüzdeki on yıl içinde belirli bölgelerde yapay zekâ emisyonlarının geleneksel bulut emisyonlarını geçebileceği anlamına geliyor.
Sadece yapay zeka eğitimi önemli miktarda emisyon üretirken, çıkarım süreci esasen ücretsizdir.
Yapay zekânın ömür boyu karbon ayak izinin büyük çoğunluğunu aslında çıkarım yapma işlemi oluşturuyor çünkü bu işlem, devreye alınan modellerde günde milyarlarca kez gerçekleşiyor. Tek bir ChatGPT sorgusu, geleneksel bir Google aramasının yaklaşık 10 katı enerji tüketiyor ve bu sorgular hızla birikiyor.
Geleneksel bulut veri merkezleri zaten karbon nötrdür.
Büyük sağlayıcılar net sıfır hedefleri taahhüt etse de, çoğu özellikle yenilenebilir enerji altyapısının sınırlı olduğu bölgelerde hâlâ kısmen fosil yakıtlara bağımlı durumda. Karbon nötr iddiaları genellikle sunucuları çalıştıran gerçek temiz enerjiden ziyade, karbon dengeleme mekanizmalarına büyük ölçüde dayanmaktadır.
Yapay zekâ iş yükleri, daha yeni bir teknoloji oldukları için geleneksel buluttan daha verimlidir.
Daha yeni olması otomatik olarak daha çevreci anlamına gelmez. Yapay zeka donanımı, çip başına çok daha fazla enerji tüketir ve eğitim ve çıkarım için gereken hesaplamanın muazzam ölçeği, yapay zeka iş yüklerini çoğu geleneksel bulut operasyonuna kıyasla görev başına önemli ölçüde daha fazla karbon yoğun hale getirir.
Bulut sistemine geçmek, bir şirketin emisyonlarını otomatik olarak azaltır.
Buluta geçiş, iş yüklerini birleştirerek ve kullanım verimliliğini artırarak yardımcı olabilir, ancak emisyonları ortadan kaldırmaz. Elektrik yine de bir yerden gelmek zorundadır ve eğer bulut bölgesi kömür veya gazla çalışıyorsa, karbon ayak izi küçülmek yerine sadece yer değiştirir.
Tüm veri merkezleri, çalıştırdıkları iş türünden bağımsız olarak yaklaşık aynı miktarda enerji tüketir.
Güç yoğunluğu oldukça değişkenlik gösterir. Yapay zekâ odaklı bir veri merkezi, raf başına 30 ila 80 kW güç tüketebilirken, geleneksel bir bulut tesisi raf başına sadece 5 ila 15 kW kullanabilir. Güç yoğunluğundaki bu 5 katlık fark, doğrudan çok farklı soğutma ihtiyaçlarına ve emisyon profillerine dönüşür.
Çevresel etki açısından ikisi arasında seçim yapıyorsanız, geleneksel bulut şu anda görev başına verimlilik ve yenilenebilir enerji kullanımında öne çıkıyor, ancak sağlayıcılar GPU filolarını yeşillendirmek için yarışırken yapay zeka hesaplama da hızla arayı kapatıyor. Yapay zeka kullanan kuruluşlar için, temiz enerji şebekelerine sahip bölgeleri seçmek ve verimli modeller kullanmak çevresel ayak izini önemli ölçüde azaltabilir. Geleneksel bulut kullanıcıları için ise, emisyonları düşürmenin yolu daha çok iş yükü optimizasyonu ve güçlü sürdürülebilirlik taahhütlerine sahip sağlayıcıları seçmekle ilgilidir.
Açık kaynaklı LLM'ler, tam kod erişimiyle özelleştirilebilir, kendi kendine barındırılan yapay zeka modelleri sunarken, tescilli LLM API'leri ise bulut tabanlı uç noktalar aracılığıyla kullanım tabanlı fiyatlandırmayla yönetilen, geliştirilmiş hizmetler sağlar.
Açık kaynaklı modeller, eğitilmiş parametrelerini herkese açık bir şekilde yayınlayarak herkesin bunları indirmesine, incelemesine ve ince ayar yapmasına olanak tanır. Kapalı kaynaklı modeller ise ağırlıklarını gizli tutarak yalnızca API'ler veya barındırılan ürünler aracılığıyla erişim sağlar. Bu iki model arasındaki seçim, geliştiricilerin yapay zeka sistemlerini nasıl oluşturduklarını, dağıttıklarını ve onlara nasıl güvendiklerini şekillendirir.
Bu karşılaştırma, açık kaynaklı yapay zeka ile tescilli yapay zeka arasındaki temel farkları ele alıyor; erişilebilirlik, özelleştirme, maliyet, destek, güvenlik, performans ve gerçek dünya kullanım senaryolarını kapsıyor. Bu sayede kuruluşlar ve geliştiriciler, hangi yaklaşımın hedeflerine ve teknik yetkinliklerine uygun olduğunu belirleyebilir.
Ağ tabanlı makine öğrenimi, gecikme süresi, bant genişliği ve topoloji gibi ağ koşullarını doğrudan model tasarımına ve çıkarım kararlarına dahil ederken, yalnızca hesaplama odaklı makine öğrenimi, GPU gücü ve bellek gibi hesaplama kaynaklarına odaklanır. İlki dağıtılmış ortamlar için optimizasyon yaparken, ikincisi bol miktarda yerel hesaplama gücü olduğunu varsayar.
Ajan işbirliği ve merkezi model akıl yürütme, karmaşık yapay zeka problemlerini çözmeye yönelik iki farklı yaklaşımı temsil eder. Çoklu ajan sistemleri bilişsel süreçleri uzmanlaşmış düğümler arasında dağıtırken, merkezi akıl yürütme karar verme sürecini tek bir güçlü model içinde yoğunlaştırır. Her paradigma, ölçeklenebilirlik, yorumlanabilirlik ve görev performansı açısından benzersiz avantajlar ve dezavantajlar sunar.
