inteligenţă artificialăcloud computingemisii de carbonsustenabilitatecentre de dategpu-computing
Emisii de calcul ale inteligenței artificiale vs. emisii tradiționale din cloud
Emisiile de calcul generate de inteligența artificială provin din clusterele GPU mari consumatoare de energie care antrenează modele mari, în timp ce emisiile tradiționale din cloud provin din centrele de date de uz general care rulează sarcini de lucru zilnice. Sarcinile de lucru generate de inteligența artificială consumă mult mai multă energie per sarcină, dar cloud-ul tradițional rulează la o scară totală mult mai mare.
Evidențiate
AI-ul care antrenează un singur model mare poate emite la fel de mult CO2 ca peste 100 de mașini într-un an.
Rack-urile AI consumă de 3 până la 5 ori mai multă energie per unitate decât rack-urile tradiționale în cloud.
Cloudul tradițional beneficiază de ani de investiții în energie regenerabilă, investiții pe care infrastructura de inteligență artificială abia începe să le egaleze.
Inferența, nu doar antrenamentul, este cea care determină acum majoritatea emisiilor continue ale inteligenței artificiale.
Ce este Emisii de calcul AI?
Amprenta de carbon generată de antrenarea și rularea modelelor de inteligență artificială pe hardware specializat, cum ar fi GPU-uri și TPU-uri.
Antrenarea unui singur model lingvistic mare, precum GPT-3, a emis, se pare, aproximativ 502 tone metrice de echivalent CO2, comparabil cu 112 mașini pe benzină conduse timp de un an.
Lucrările cu inteligență artificială se bazează în mare măsură pe procesoarele grafice NVIDIA H100 și A100, care consumă între 300 și 700 de wați fiecare sub sarcină.
Centrele de date dedicate inteligenței artificiale pot consuma de 10 până la 20 de ori mai multă energie per rack decât serverele cloud tradiționale.
Inferența la scară largă, adică de fiecare dată când un utilizator interoghează un model de inteligență artificială, reprezintă acum majoritatea emisiilor pe durata de viață a inteligenței artificiale, nu doar antrenamentul.
Răcirea hardware-ului cu inteligență artificială necesită mult mai multă apă și electricitate decât răcirea procesoarelor convenționale, unele instalații utilizând sisteme de imersie în lichide.
Ce este Emisii tradiționale în cloud?
Emisiile de carbon produse de centrele de date de uz general care găzduiesc site-uri web, aplicații, baze de date și software pentru întreprinderi.
Lucrările tradiționale în cloud rulează în principal pe procesoare optimizate pentru diverse sarcini, mai degrabă decât pe acceleratoare specializate de inteligență artificială.
Marii hiperscalatori precum AWS, Microsoft Azure și Google Cloud au promis obiective de neutru din punct de vedere al emisiilor de carbon sau de zero emisii nete, unele chiar din 2030.
Centrele de date reprezintă la nivel global aproximativ 1 până la 1,5% din cererea mondială de energie electrică, cloud-ul tradițional reprezentând cea mai mare parte a acestei cifre.
Ratele de utilizare a serverelor în mediile cloud tradiționale variază de obicei între 40 și 60%, mult mai mari decât în multe clustere de instruire pentru inteligență artificială.
Mulți furnizori tradiționali de cloud își alimentează acum operațiunile cu 60 până la 90% energie regenerabilă în regiuni precum Europa de Nord și Pacificul de Nord-Vest.
Tabel comparativ
Funcție
Emisii de calcul AI
Emisii tradiționale în cloud
Hardware principal
GPU-uri și TPU-uri (acceleratoare AI)
CPU-uri și servere de uz general
Putere per rack
30 până la 80 kW pe rack
5 până la 15 kW pe rack
Energie per sarcină
Extrem de ridicat (antrenarea unui model = tone de CO2)
Moderat (variază în funcție de volumul de muncă)
Cererea de răcire
Răcire foarte puternică, adesea cu lichid
Răcirea cu aer este de obicei suficientă
Tipul de sarcină de lucru
Antrenarea și inferența modelului
Găzduire web, baze de date, aplicații SaaS
Rata de utilizare
Adesea 30 până la 50%
De obicei, 40 până la 60%
Adoptarea energiei regenerabile
Procentaj mai mic, creștere rapidă
Procentaj mai mare, 60 până la 90% în unele regiuni
Traiectoria creșterii
Exploziv, dublându-se la fiecare câteva luni
Constant, aproximativ 10 până la 20% anual
Consumul de apă
Ridicat (răcire cipuri AI)
Moderat (răcire tradițională)
Comparație detaliată
Intensitatea energetică și cerințele de hardware
Calculul bazat pe inteligență artificială rulează pe procesoare masiv paralele concepute pentru matematică matricială, iar aceste cipuri consumă o putere considerabilă. Un singur NVIDIA H100 poate consuma 700 de wați la sarcină maximă, iar rack-urile cu opt astfel de procesoare pot atinge 50 kW sau mai mult. Serverele cloud tradiționale, în schimb, consumă mai puțină energie, adesea funcționând pe procesoare care stau în inactivitate eficient și gestionează sarcini de lucru variate fără a necesita un debit maxim constant. Numai diferența de hardware face ca sarcinile de lucru bazate pe inteligență artificială să consume de câteva ori mai multă energie pe unitate de lucru.
Amprentă de carbon per sarcină
Când cercetătorii au măsurat emisiile de CO2 generate de antrenamentul modelelor lingvistice mari, cifrele au fost uimitoare. O singură rulare de antrenament a unui model de dimensiunea GPT-3 poate genera sute de tone de echivalent CO2. Sarcinile tradiționale din cloud, cum ar fi servirea unei pagini web sau rularea unei interogări de bază de date, produc o mică parte din această cantitate per solicitare. Cu toate acestea, cloud-ul tradițional rulează la un volum mult mai mare, astfel încât amprenta cumulativă ajunge să fie comparabilă în termeni absoluți, chiar dacă emisiile per sarcină arată foarte diferit.
Răcire și consum de apă
GPU-urile generează căldură intensă, ceea ce înseamnă că centrele de date cu inteligență artificială au nevoie adesea de răcire cu lichid sau chiar de sisteme de imersie pentru a menține temperaturile gestionabile. Acest proces de răcire consumă cantități enorme de apă și electricitate. Facilitățile tradiționale de tip cloud se bazează în mare parte pe răcirea cu aer și pe chillere, care utilizează mai puțină apă și energie. În regiunile predispuse la secetă, precum Arizona, cerințele de apă ale centrelor de date cu inteligență artificială au stârnit deja opoziție din partea comunității și control din partea reglementărilor.
Angajamente privind energia regenerabilă și sustenabilitatea
Giganții tradiționali din domeniul cloud, precum Google și Microsoft, au petrecut ani de zile cumpărând contracte de energie regenerabilă și semnând acorduri de achiziție a energiei pentru a-și ecologiza rețelele. Operațiunile axate pe inteligență artificială, adesea mai noi și construite special pentru instruire la scară hiperscalară, nu au avut întotdeauna același avantaj. Acestea fiind spuse, companii precum CoreWeave și Lambda Labs își localizează din ce în ce mai mult instalații în apropierea surselor regenerabile ieftine, cum ar fi barajele hidroelectrice din Pacificul de Nord-Vest, pentru a compensa consumurile masive de energie.
Traiectoria creșterii și perspectivele de viitor
Cererea de calcul bazată pe inteligența artificială crește într-un ritm pe care dezvoltarea cloud-ului tradițional nu l-a atins niciodată. Unii analiști estimează că consumul de energie legat de inteligența artificială s-ar putea tripla până în 2030, determinat de modele mai mari și de implementarea pe scară largă a inferențelor. Deși creșterea cloud-ului tradițional este încă sănătoasă, urmează o curbă mai previzibilă, legată de cheltuielile IT ale întreprinderilor. Aceasta înseamnă că emisiile generate de inteligența artificială ar putea depăși emisiile generate de cloud-ul tradițional în anumite regiuni în următorul deceniu, dacă îmbunătățirile de eficiență nu țin pasul.
Avantaje și dezavantaje
Emisii de calcul AI
Avantaje
+Stimulează inovația
+Scalabilitate ridicată
+Eficiență specializată
+Progrese rapide în hardware
Conectare
−Extrem de consumator de energie
−Consum ridicat de apă
−Mix regenerabil mai mic
−Amprentă în creștere rapidă
Emisii tradiționale în cloud
Avantaje
+Programe regenerabile mature
+Rate de utilizare mai bune
+Standarde de eficiență stabilite
+Emisii mai mici per sarcină
Conectare
−Scară totală masivă
−Infrastructură îmbătrânită în anumite locuri
−Încă dependent de rețea
−Ciclul de inovare mai lent
Idei preconcepute comune
Mit
Doar antrenamentul cu inteligență artificială produce emisii semnificative, în timp ce inferența este în esență gratuită.
Realitate
Inferența este responsabilă pentru cea mai mare parte a amprentei de carbon a inteligenței artificiale pe durata vieții, deoarece se întâmplă de miliarde de ori pe zi în cadrul modelelor implementate. O singură interogare ChatGPT utilizează de aproximativ 10 ori mai multă energie decât o căutare tradițională pe Google, iar aceste interogări se adună rapid.
Mit
Centrele de date tradiționale din cloud sunt deja neutre din punct de vedere al emisiilor de carbon.
Realitate
Deși furnizorii majori și-au asumat obiective de zero emisii nete, majoritatea se bazează încă parțial pe combustibili fosili, în special în regiunile cu infrastructură regenerabilă limitată. Afirmațiile privind neutruitatea emisiilor de carbon se bazează adesea în mare măsură pe compensări, mai degrabă decât pe energie curată care alimentează serverele.
Mit
Lucrările bazate pe inteligență artificială sunt mai eficiente decât cele bazate pe cloud tradițional, deoarece reprezintă o tehnologie mai nouă.
Realitate
Mai nou nu înseamnă automat mai ecologic. Hardware-ul AI consumă mult mai multă energie per cip, iar amploarea volumului de calcul necesar pentru antrenament și inferență face ca sarcinile de lucru AI să aibă un consum de carbon semnificativ mai mare per sarcină decât majoritatea operațiunilor cloud tradiționale.
Mit
Trecerea la cloud reduce automat emisiile unei companii.
Realitate
Migrarea către cloud poate ajuta prin consolidarea volumului de muncă și îmbunătățirea utilizării, dar nu elimină emisiile. Electricitatea trebuie să provină de undeva, iar dacă regiunea cloud funcționează pe cărbune sau gaz, amprenta de carbon pur și simplu se schimbă, în loc să se micșoreze.
Mit
Toate centrele de date consumă aproximativ aceeași cantitate de energie, indiferent de ceea ce rulează.
Realitate
Densitatea de putere variază foarte mult. Un centru de date axat pe inteligență artificială poate consuma între 30 și 80 kW per rack, în timp ce o instalație cloud tradițională ar putea utiliza doar între 5 și 15 kW per rack. Această diferență de 5x în densitatea de putere se traduce direct în nevoi de răcire și profiluri de emisii foarte diferite.
Întrebări frecvente
Cât CO2 produce de fapt antrenamentul unui model de inteligență artificială?
Depinde foarte mult de dimensiunea modelului, dar cercetările sugerează că antrenarea unui model lingvistic extins, precum GPT-3, a emis aproximativ 502 tone metrice de echivalent CO2. Modelele mai mici produc mult mai puțin, dar tendința către modele din ce în ce mai mari înseamnă că emisiile generate de antrenament continuă să crească. O singură rulare de antrenament a unui model de frontieră poate egala emisiile anuale a zeci de locuințe.
Este IA într-adevăr mai dăunătoare pentru mediu decât cloud computing-ul tradițional?
Da, sarcinile de lucru bazate pe inteligență artificială consumă mult mai multă energie decât sarcinile tipice în cloud, cum ar fi servirea unei pagini web sau rularea unei baze de date. Cu toate acestea, cloud-ul tradițional funcționează la o scară totală mult mai mare, astfel încât emisiile absolute sunt în prezent comparabile. Totuși, inteligența artificială se dezvoltă mult mai rapid, ceea ce ar putea înclina balanța în decurs de un deceniu.
De ce centrele de date cu inteligență artificială folosesc atât de multă apă?
GPU-urile și unitățile de procesare a datelor (TPU) generează căldură intensă care necesită o răcire agresivă. Multe facilități de inteligență artificială utilizează sisteme de răcire pe bază de apă, iar consumul de apă la fața locului poate ajunge la milioane de galoane pe zi. Centrele de date tradiționale din cloud utilizează de obicei o răcire mai puțin agresivă, bazându-se adesea pe aerul exterior sau pe chillere, mai degrabă decât pe evaporarea constantă a apei.
Pot sarcinile de lucru cu inteligență artificială să funcționeze pe bază de energie regenerabilă?
Da, și din ce în ce mai mult o fac. Companii precum Google, Microsoft și Amazon semnează acorduri de achiziție de energie specific pentru a acoperi facilitățile de instruire în domeniul inteligenței artificiale. Unii furnizori axați pe inteligență artificială se află în apropierea barajelor hidroelectrice sau construiesc parcuri solare și eoliene dedicate. Provocarea constă în a potrivi cererea enormă și în creștere de energie cu o aprovizionare curată.
Care este cea mai mare sursă de emisii în calculul prin inteligență artificială?
Cea mai mare sursă este energia electrică utilizată pentru alimentarea GPU-urilor și TPU-urilor în sine, urmată de energia necesară pentru răcire. Emisiile corporale provenite din fabricarea cipurilor și construirea centrelor de date contează, de asemenea, dar energia operațională domină amprenta pe durata de viață a majorității sistemelor de inteligență artificială.
Furnizorii tradiționali de cloud folosesc de fapt energie regenerabilă?
Mulți o fac, cel puțin parțial. Google a asociat 100% din consumul său anual de energie electrică cu achiziții de energie regenerabilă din 2017, deși asta nu înseamnă că fiecare centru de date funcționează cu surse regenerabile 24/7. AWS și Microsoft au obiective similare cu termene limită variate, iar procentele reale de energie regenerabilă variază în funcție de regiune.
Cum pot companiile să reducă emisiile de calcul generate de inteligența artificială?
Mai multe strategii funcționează: alegerea unor modele mai mici și mai eficiente, antrenarea în regiuni cu grile curate, utilizarea unor tehnici precum eliminarea și cuantizarea modelelor și selectarea furnizorilor de inteligență artificială cu angajamente puternice în materie de sustenabilitate. Chiar și ceva la fel de simplu precum rularea inferenței mai aproape de utilizatori poate reduce pierderile de transmisie și cheltuielile generale de răcire.
Vor continua emisiile de inteligență artificială să crească la nesfârșit?
Nu neapărat. Eficiența hardware-ului se îmbunătățește cu fiecare generație, iar noile tehnici, precum modelele cu un amestec de experți și algoritmii de antrenament mai buni, pot reduce dramatic cerințele de calcul. Cu toate acestea, cererea crește atât de rapid încât câștigurile de eficiență sunt adesea înghițite de scara pură, motiv pentru care experții insistă asupra unor soluții de energie curată la nivel de rețea, alături de îmbunătățiri algoritmice.
Cum se compară inferența inteligenței artificiale cu o căutare pe Google în ceea ce privește emisiile?
singură interogare de inferență bazată pe inteligență artificială, cum ar fi adresarea unei întrebări către ChatGPT, utilizează de aproximativ 10 ori mai multă energie decât o căutare tradițională pe Google. Aceasta se traduce în aproximativ 2,9 până la 4,1 wați-oră per interogare bazată pe inteligență artificială, față de 0,3 wați-oră pentru o căutare standard. Înmulțiți asta cu miliarde de interogări zilnice și diferența devine masivă.
Există reglementări privind emisiile centrelor de date cu inteligență artificială?
Reglementările apar, dar sunt încă fragmentare. Directiva UE privind eficiența energetică impune acum centrelor de date care depășesc anumite praguri să raporteze consumul de energie și emisiile. Unele state americane au introdus legislație care vizează utilizarea apei în centrele de date, iar mai multe țări dezbat cerințele de raportare a emisiilor de carbon specifice infrastructurii de inteligență artificială.
Verdict
Dacă trebuie să alegi între cele două opțiuni pentru impactul asupra mediului, cloud-ul tradițional câștigă în prezent la eficiența per sarcină și la adoptarea energiei regenerabile, dar tehnologia de calcul bazată pe inteligență artificială recuperează rapid decalajul, pe măsură ce furnizorii se grăbesc să își ecologizeze flotele de GPU-uri. Pentru organizațiile care implementează inteligența artificială, selectarea regiunilor cu rețele de energie curată și utilizarea de modele eficiente pot reduce dramatic amprenta. Pentru utilizatorii tradiționali de cloud, calea către emisii mai mici se referă mai mult la optimizarea volumului de lucru și la alegerea furnizorilor cu angajamente puternice în materie de sustenabilitate.
