Emise z výpočetního výkonu umělé inteligence pocházejí z energeticky náročných clusterů GPU, které trénují velké modely, zatímco emise z tradičních cloudů pocházejí z datových center pro běžná každodenní zatížení. Zatížení umělé inteligence spotřebovávají dramaticky více energie na úlohu, ale tradiční cloud běží v mnohem větším celkovém měřítku.
Uhlíková stopa generovaná trénováním a spouštěním modelů umělé inteligence na specializovaném hardwaru, jako jsou GPU a TPU.
Emise uhlíku produkované datovými centry pro všeobecné účely, která hostují webové stránky, aplikace, databáze a podnikový software.
| Funkce | Výpočet emisí pomocí umělé inteligence | Tradiční emise z cloudu |
|---|---|---|
| Primární hardware | GPU a TPU (akcelerátory umělé inteligence) | CPU a univerzální servery |
| Výkon na stojan | 30 až 80 kW na stojan | 5 až 15 kW na stojan |
| Energie na úkol | Extrémně vysoká (trénování modelu = tuny CO2) | Střední (liší se podle pracovní zátěže) |
| Chlazení | Velmi vysoké, často kapalinové chlazení | Chlazení vzduchem obvykle postačuje |
| Typ pracovní zátěže | Trénování a inference modelu | Webhosting, databáze, SaaS aplikace |
| Míra využití | Často 30 až 50 procent | Obvykle 40 až 60 procent |
| Zavedení obnovitelných zdrojů energie | Nižší procento, rychlý růst | Vyšší procento, v některých regionech 60 až 90 procent |
| Trajektorie růstu | Výbušné, zdvojnásobuje se každých pár měsíců | Stabilně, zhruba 10 až 20 procent ročně |
| Spotřeba vody | Vysoká (chlazení čipů s umělou inteligencí) | Mírné (tradiční chlazení) |
Výpočetní technika umělé inteligence běží na masivně paralelních procesorech určených pro maticové výpočty a tyto čipy spotřebovávají značný výkon. Jeden NVIDIA H100 může při plném zatížení odebírat 700 wattů a racky s osmi procesory mohou dosáhnout 50 kW nebo více. Tradiční cloudové servery naopak spotřebovávají energii skromněji, často běží na procesorech, které efektivně nečinně zvládají různé pracovní zátěže, aniž by vyžadovaly konstantní maximální propustnost. Už jen samotný hardwarový rozdíl činí pracovní zátěže umělé inteligence několikanásobně energeticky náročnějšími na jednotku práce.
Když vědci měřili emise velkých jazykových modelů z trénování, čísla byla ohromující. Jediný trénovací běh modelu o velikosti GPT-3 může vyprodukovat stovky tun ekvivalentu CO2. Tradiční cloudové úlohy, jako je zobrazování webových stránek nebo spouštění databázových dotazů, produkují na požadavek jen nepatrný zlomek tohoto množství. Tradiční cloud však běží s mnohem větším objemem, takže kumulativní stopa je v absolutních číslech srovnatelná, i když emise na úlohu vypadají velmi odlišně.
Grafické procesory (GPU) generují intenzivní teplo, což znamená, že datová centra s umělou inteligencí často potřebují kapalinové chlazení nebo dokonce imerzní systémy, aby udržely teploty na zvládnutelné úrovni. Tento chladicí proces spotřebovává obrovské množství vody a elektřiny. Tradiční cloudová zařízení se většinou spoléhají na chlazení vzduchem a chladiče, které spotřebovávají méně vody a energie. V oblastech náchylných k suchu, jako je Arizona, již spotřeba vody v datových centrech s umělou inteligencí vyvolala odpor komunity a regulační kontrolu.
Tradiční cloudoví giganti jako Google a Microsoft strávili roky nákupem smluv o obnovitelné energii a podepisováním smluv o nákupu elektřiny, aby zezelenali své sítě. Provozy zaměřené na umělou inteligenci, často novější a postavené speciálně pro hyperscale trénink, neměly vždy stejný náskok. Společnosti jako CoreWeave a Lambda Labs však stále častěji umisťují zařízení poblíž levných obnovitelných zdrojů, jako jsou vodní elektrárny na severozápadě Pacifiku, aby kompenzovaly své masivní odběry energie.
Poptávka po výpočetních technologiích s využitím umělé inteligence roste tempem, kterému se růst tradičních cloudových technologií nikdy nevyrovnal. Někteří analytici odhadují, že spotřeba energie související s umělou inteligencí by se do roku 2030 mohla ztrojnásobit, a to díky větším modelům a širokému nasazování inference. Růst tradičních cloudových technologií, i když je stále zdravý, sleduje předvídatelnější křivku vázanou na výdaje podniků na IT. To znamená, že emise z umělé inteligence by mohly v některých regionech v příštím desetiletí překonat emise z tradičních cloudových technologií, pokud se s tím nebudou dbát zlepšení efektivity.
Pouze trénování umělé inteligence produkuje významné emise, zatímco inference je v podstatě volná.
Inference ve skutečnosti odpovídá za většinu uhlíkové stopy umělé inteligence za celou dobu její životnosti, protože k ní dochází miliardykrát denně napříč nasazenými modely. Jeden dotaz ChatGPT spotřebuje zhruba desetkrát více energie než tradiční vyhledávání na Googlu a tyto dotazy se rychle nasčítají.
Tradiční cloudová datová centra jsou již uhlíkově neutrální.
Přestože se hlavní poskytovatelé zavázali k dosažení nulových čistých emisí, většina z nich se stále částečně spoléhá na fosilní paliva, zejména v regionech s omezenou infrastrukturou pro obnovitelné zdroje. Prohlášení o uhlíkové neutralitě se často silně spoléhají na kompenzace spíše než na skutečnou čistou energii napájející servery.
Pracovní zátěže s umělou inteligencí jsou efektivnější než tradiční cloud, protože se jedná o novější technologii.
Novější neznamená automaticky ekologičtější. Hardware umělé inteligence je mnohem energeticky náročnější na čip a samotný rozsah výpočtů potřebných pro trénování a inferenci činí úlohy umělé inteligence výrazně uhlíkově náročnějšími na jeden úkol než většina tradičních cloudových operací.
Přechod do cloudu automaticky snižuje emise společnosti.
Migrace do cloudu může pomoci konsolidací pracovních zátěží a zlepšením využití, ale neodstraňuje emise. Elektřina se stále musí odněkud získávat a pokud cloudová oblast běží na uhlí nebo plyn, uhlíková stopa se spíše posune, než zmenší.
Všechna datová centra spotřebovávají přibližně stejné množství energie bez ohledu na to, co provozují.
Hustota výkonu se velmi liší. Datové centrum zaměřené na umělou inteligenci může odebírat 30 až 80 kW na rack, zatímco tradiční cloudové zařízení může spotřebovat pouze 5 až 15 kW na rack. Tento 5násobný rozdíl v hustotě výkonu se přímo promítá do velmi odlišných potřeb chlazení a emisních profilů.
Pokud se rozhodujete mezi těmito dvěma možnostmi z hlediska dopadu na životní prostředí, tradiční cloud v současnosti vítězí v efektivitě jednotlivých úloh a v zavádění obnovitelných zdrojů energie, ale umělá inteligence rychle dohání výpočetní techniku, protože poskytovatelé se předhánějí v ekologizaci svých GPU. Pro organizace nasazující umělou inteligenci může výběr regionů s čistými energetickými sítěmi a používání efektivních modelů dramaticky zmenšit ekologickou stopu. Pro tradiční uživatele cloudu je cesta ke snížení emisí spíše o optimalizaci pracovní zátěže a výběru poskytovatelů se silnými závazky k udržitelnosti.
A/B testování u vydání obsahu zahrnuje zavádění variant pro různé segmenty publika a měření výkonu, zatímco jednorázová vydání obsahu nabídnou jednu verzi všem najednou. Každý přístup vyhovuje jiným cílům, přičemž A/B testování upřednostňuje optimalizaci na základě dat a jednorázová vydání upřednostňují rychlost a jednoduchost.
A/B testování v modelovém servisu směruje provoz mezi konkurenčními verzemi modelů za účelem měření reálného výkonu, zatímco nasazení jednoho modelu dodává jeden model všem uživatelům. Týmy si mezi nimi vybírají na základě tolerance rizika, objemu provozu a potřeby statistického ověření před plným nasazením.
Toto srovnání analyzuje strategické volby v oblasti strojového učení mezi adaptací domény, která přenáší znalosti z označeného zdrojového prostředí do jiného cílového prostředí, a školením v doméně, které vytváří modely výhradně na datech získaných z přesného cílového nastavení nasazení.
Toto podrobné srovnání zkoumá architektonické rozdíly, provozní limity a reálný výkon adaptivních inteligentních systémů v porovnání s automatizačními systémy s pevným chováním. Zaměřujeme se na to, jak se systémy, které se neustále učí z nových environmentálních dat, vyrovnávají s rigidními, předvídatelnými rámci založenými na pravidlech.
Adaptivní vyhledávání dynamicky upravuje, jak a jaké informace systém načítá, na základě dotazu, zatímco statické vyhledávání se řídí pevnými pravidly bez ohledu na kontext. Oba systémy pohánějí moderní aplikace umělé inteligence, ale výrazně se liší ve flexibilitě, nákladech a přesnosti. Výběr mezi nimi závisí na složitosti pracovní zátěže a rozpočtu.
