Emetimet e llogaritjes së inteligjencës artificiale burojnë nga grupet GPU që konsumojnë shumë energji dhe trajnojnë modele të mëdha, ndërsa emetimet tradicionale të cloud-it vijnë nga qendrat e të dhënave për qëllime të përgjithshme që ekzekutojnë ngarkesa pune të përditshme. Ngarkesat e punës së inteligjencës artificiale konsumojnë ndjeshëm më shumë energji për detyrë, por cloud-i tradicional funksionon në një shkallë shumë më të madhe totale.
Gjurma e karbonit e gjeneruar nga trajnimi dhe ekzekutimi i modeleve të inteligjencës artificiale në pajisje të specializuara si GPU dhe TPU.
Emetimet e karbonit të prodhuara nga qendrat e të dhënave për qëllime të përgjithshme që strehojnë faqe interneti, aplikacione, baza të dhënash dhe softuerë ndërmarrjesh.
| Veçori | Emetimet e Llogaritjes së IA-së | Emetimet Tradicionale të Reve |
|---|---|---|
| Pajisjet Kryesore | GPU dhe TPU (përshpejtues të inteligjencës artificiale) | CPU-të dhe serverët me qëllim të përgjithshëm |
| Fuqia për Raft | 30 deri në 80 kW për raft | 5 deri në 15 kW për raft |
| Energji për Detyrë | Jashtëzakonisht i lartë (trajnimi i një modeli = ton CO2) | I moderuar (varion në varësi të ngarkesës së punës) |
| Kërkesa për ftohje | Ftohje shumë e lartë, shpesh me lëng | Ftohja me ajër zakonisht është e mjaftueshme |
| Lloji i ngarkesës së punës | Trajnimi i modelit dhe përfundimi | Hosting faqesh interneti, baza të dhënash, aplikacione SaaS |
| Shkalla e Shfrytëzimit | Shpesh 30 deri në 50 përqind | Zakonisht 40 deri në 60 përqind |
| Adoptimi i Energjisë së Rinovueshme | Përqindje më e ulët, rritje e shpejtë | Përqindje më e lartë, 60 deri në 90 përqind në disa rajone |
| Trajektorja e Rritjes | Shpërthyes, dyfishohet çdo disa muaj | I qëndrueshëm, afërsisht 10 deri në 20 përqind në vit |
| Përdorimi i ujit | I lartë (çipa ftohës AI) | Moderate (ftohje tradicionale) |
Llogaritja e inteligjencës artificiale funksionon në procesorë masivisht paralelë të projektuar për matematikën e matricës, dhe këto çipa tërheqin fuqi të konsiderueshme. Një NVIDIA H100 e vetme mund të konsumojë 700 vat nën ngarkesë të plotë, dhe raftet e mbushura me tetë prej tyre mund të arrijnë 50 kW ose më shumë. Serverët tradicionalë të cloud, në të kundërt, konsumojnë energji në mënyrë më modeste, shpesh duke punuar në CPU që punojnë në mënyrë efikase dhe trajtojnë ngarkesa të ndryshme pune pa pasur nevojë për rendiment maksimal konstant. Vetëm ndryshimi në harduer i bën ngarkesat e inteligjencës artificiale disa herë më të etura për energji për njësi pune.
Kur studiuesit matën emetimet e trajnimit të modeleve të mëdha gjuhësore, shifrat ishin marramendëse. Një ekzekutim i vetëm trajnimi i një modeli me madhësinë e GPT-3 mund të lëshojë qindra ton ekuivalent CO2. Detyrat tradicionale të cloud-it, si shërbimi i një faqeje interneti ose ekzekutimi i një pyetjeje në bazën e të dhënave, prodhojnë një pjesë shumë të vogël të kësaj sasie për kërkesë. Megjithatë, cloud-i tradicional funksionon me një vëllim shumë më të lartë, kështu që gjurma kumulative përfundon e krahasueshme në terma absolutë edhe nëse emetimet për detyrë duken shumë të ndryshme.
GPU-të gjenerojnë nxehtësi intensive, që do të thotë se qendrat e të dhënave të inteligjencës artificiale shpesh kanë nevojë për sisteme ftohjeje me lëng ose edhe zhytjeje për të mbajtur temperaturat të menaxhueshme. Ky proces ftohjeje konsumon sasi të mëdha uji dhe energjie elektrike. Pajisjet tradicionale të cloud mbështeten kryesisht në ftohjen me ajër dhe ftohësit, të cilët përdorin më pak ujë dhe energji. Në rajone të prirura ndaj thatësirës si Arizona, kërkesat për ujë të qendrave të të dhënave të inteligjencës artificiale kanë shkaktuar tashmë kundërshtime nga komuniteti dhe shqyrtim rregullator.
Gjigantët tradicionalë të cloud-it si Google dhe Microsoft kanë kaluar vite duke blerë kontrata të energjisë së rinovueshme dhe duke nënshkruar marrëveshje blerjeje energjie për të gjelbëruar rrjetet e tyre. Operacionet e fokusuara në inteligjencën artificiale, shpesh më të reja dhe të ndërtuara posaçërisht për trajnime në shkallë të lartë, nuk kanë pasur gjithmonë të njëjtin fillim. Megjithatë, kompani si CoreWeave dhe Lambda Labs po lokalizojnë gjithnjë e më shumë objekte pranë burimeve të lira të rinovueshme si digat hidroelektrike në Paqësorin Veriperëndimor për të kompensuar tërheqjet e tyre masive të energjisë.
Kërkesa për llogaritjen e inteligjencës artificiale po rritet me një ritëm që rritja tradicionale e cloud-it nuk është arritur kurrë. Disa analistë vlerësojnë se konsumi i energjisë i lidhur me inteligjencën artificiale mund të trefishohet deri në vitin 2030, i nxitur nga modelet më të mëdha dhe vendosja e gjerë e inferencës. Rritja tradicionale e cloud-it, ndonëse ende e shëndetshme, ndjek një kurbë më të parashikueshme të lidhur me shpenzimet e ndërmarrjeve të IT-së. Kjo do të thotë që emetimet e inteligjencës artificiale mund të tejkalojnë emetimet tradicionale të cloud-it në rajone të caktuara brenda dekadës së ardhshme nëse përmirësimet e efikasitetit nuk ecin me ritmin.
Vetëm trajnimi i inteligjencës artificiale prodhon emetime të konsiderueshme, ndërsa përfundimi është në thelb i lirë.
Në fakt, nxjerrja e përfundimeve përbën pjesën më të madhe të gjurmës së karbonit të inteligjencës artificiale gjatë gjithë jetës, sepse ndodh miliarda herë në ditë në modelet e vendosura. Një pyetje e vetme në ChatGPT përdor afërsisht 10 herë më shumë energji sesa një kërkim tradicional në Google, dhe këto pyetje shtohen shpejt.
Qendrat tradicionale të të dhënave në cloud janë tashmë neutrale ndaj karbonit.
Ndërsa ofruesit kryesorë janë zotuar për objektiva zero neto, shumica ende mbështeten pjesërisht në lëndët djegëse fosile, veçanërisht në rajonet me infrastrukturë të kufizuar të rinovueshme. Pretendimet për neutralitet të karbonit shpesh mbështeten shumë në kompensime sesa në energjinë e pastër aktuale që furnizon serverat.
Ngarkesat e punës së inteligjencës artificiale janë më efikase sesa cloud tradicional sepse ato janë teknologji më e re.
Më e re nuk do të thotë automatikisht më ekologjike. Pajisjet e inteligjencës artificiale kërkojnë shumë më tepër energji për çip, dhe shkalla e llogaritjeve të kërkuara për trajnim dhe nxjerrje përfundimesh i bëjnë ngarkesat e punës të inteligjencës artificiale dukshëm më intensive ndaj karbonit për detyrë sesa shumica e operacioneve tradicionale në cloud.
Kalimi në cloud zvogëlon automatikisht emetimet e një kompanie.
Migrimi në cloud mund të ndihmojë duke konsoliduar ngarkesat e punës dhe duke përmirësuar shfrytëzimin, por nuk eliminon emetimet. Energjia elektrike duhet të vijë nga diku, dhe nëse rajoni i cloud funksionon me qymyr ose gaz, gjurma e karbonit thjesht ndryshon në vend që të tkurret.
Të gjitha qendrat e të dhënave përdorin afërsisht të njëjtën sasi energjie, pavarësisht se çfarë funksioni përdorin.
Dendësia e fuqisë ndryshon shumë. Një qendër të dhënash e fokusuar në inteligjencën artificiale mund të përdorë 30 deri në 80 kW për rack, ndërsa një strukturë tradicionale e cloud-it mund të përdorë vetëm 5 deri në 15 kW për rack. Ky ndryshim 5-fish në dendësinë e fuqisë përkthehet drejtpërdrejt në nevoja shumë të ndryshme për ftohje dhe profile të emetimeve.
Nëse po zgjidhni midis të dyjave për ndikimin në mjedis, cloud-i tradicional aktualisht fiton në efikasitetin për detyrë dhe në përdorimin e energjisë së rinovueshme, por llogaritja e IA-së po e kap shpejt ritmin ndërsa ofruesit nxitojnë të gjelbërojnë flotën e tyre të GPU-ve. Për organizatat që përdorin IA-në, zgjedhja e rajoneve me rrjete energjie të pastra dhe përdorimi i modeleve efikase mund ta zvogëlojë ndjeshëm gjurmën. Për përdoruesit tradicional të cloud-it, rruga drejt uljes së emetimeve ka më shumë të bëjë me optimizimin e ngarkesës së punës dhe zgjedhjen e ofruesve me angazhime të forta për qëndrueshmëri.
Agregimi i preferencave kombinon preferenca të shumta individuale në vendime kolektive, ndërsa modelimi i parashikimit individual parashikon sjelljen personale duke përdorur të mësuarit automatik në të dhënat e një përdoruesi të vetëm. Të dyja shërbejnë për qëllime të dallueshme në sistemet e inteligjencës artificiale, nga motorët e rekomandimeve deri te platformat demokratike të votimit.
Ky krahasim arkitektonik vë në kontrast inxhinierinë deterministe të Agjentëve të Bazuar në Rregulla me natyrën adaptive të të dhënave të Agjentëve të Bazuar në Mësim, duke vlerësuar zbatueshmërinë e tyre në botën reale, kufijtë e shkallëzimit dhe performancën në kushte pasigurie.
Ky udhëzues i detajuar shqyrton ndryshimet strukturore dhe operacionale midis agjentëve autonomë dhe sistemeve të automatizimit të skriptuar. Ndërsa mjetet e skriptuara ofrojnë parashikueshmëri të pakrahasueshme për rrjedha pune të ngurta dhe përsëritëse, agjentët inteligjentë modernë shfrytëzojnë arsyetimin kognitiv për të lundruar në mënyrë të pavarur në të dhëna të ndryshueshme, pengesa teknike të papritura dhe peizazhe të dhënash shumë komplekse dhe të pastrukturuara.
Agjentët autonomë të IA-së veprojnë në mënyrë të pavarur duke planifikuar, arsyetuar dhe ekzekutuar detyra shumë-hapëshe me ndërhyrje minimale njerëzore, ndërsa sistemet e IA-së të bazuara në shpejtësi u përgjigjen udhëzimeve individuale të përdoruesit, një ndërveprim në të njëjtën kohë. Dallimi kryesor qëndron në agjenci: agjentët ndjekin qëllimet nëpër seanca, ndërsa sistemet e shpejtësisë presin për drejtim.
Agjentët bisedorë përqendrohen në dialogun natyror dhe ndërveprimet e bazuara në tekst, ndërsa agjentët që përdorin mjete zgjerojnë aftësitë e IA-së duke thirrur funksione dhe API të jashtme. Të dy përfaqësojnë qasje të dallueshme ndaj sistemeve autonome të IA-së, me modelet bisedore që shkëlqejnë në komunikim dhe agjentët që përdorin mjete të specializuar në ekzekutimin e detyrave në botën reale.
