AI-komputilaj emisioj devenas de energi-avidaj GPU-aretoj trejnantaj grandajn modelojn, dum tradiciaj nubaj emisioj venas de ĝeneraluzeblaj datumcentroj funkciigantaj ĉiutagajn laborkvantojn. AI-laborkvantoj konsumas multe pli da energio por tasko, sed tradicia nubo funkcias je multe pli granda totala skalo.
Karbona spuro generita per trejnado kaj funkciigo de artefaritinteligentecaj modeloj sur specialigita aparataro kiel GPU-oj kaj TPU-oj.
Karbonemisioj produktitaj de ĝeneraluzeblaj datencentroj gastigantaj retejojn, aplikaĵojn, datumbazojn kaj entreprenan programaron.
| Funkcio | AI-Komputaj Emisioj | Tradiciaj Nubaj Emisioj |
|---|---|---|
| Primara Aparataro | GPU-oj kaj TPU-oj (AI-akceliloj) | CPUoj kaj ĝeneraluzeblaj serviloj |
| Potenco po Rako | 30 ĝis 80 kW po rako | 5 ĝis 15 kW po rako |
| Energio po Tasko | Ekstreme alta (trejnado de modelo = tunoj da CO2) | Modera (varias laŭ laborkvanto) |
| Malvarmiga Postulo | Tre alta, ofte likva malvarmigo | Aera malvarmigo tipe sufiĉa |
| Tipo de laborkvanto | Modeltrejnado kaj inferenco | TTT-gastigado, datumbazoj, SaaS-aplikaĵoj |
| Uzofteco | Ofte 30 ĝis 50 procentoj | Tipe 40 ĝis 60 procentoj |
| Adopto de Renovigebla Energio | Pli malalta procento, kreskanta rapide | Pli alta procento, 60 ĝis 90 procentoj en iuj regionoj |
| Kreska Trajektorio | Eksploda, duobliĝante ĉiujn kelkajn monatojn | Konstanta, proksimume 10 ĝis 20 procentoj ĉiujare |
| Akvo-uzado | Alta (malvarmigo de AI-blatoj) | Modera (tradicia malvarmigo) |
AI-komputado funkcias per masive paralelaj procesoroj desegnitaj por matrica matematiko, kaj tiuj ĉipoj konsumas konsiderindan energion. Unuopa NVIDIA H100 povas tiri 700 vatojn sub plena ŝarĝo, kaj rakoj plenigitaj per ok el ili povas atingi 50 kW aŭ pli. Tradiciaj nubserviloj, kontraste, konsumas energion pli modeste, ofte funkciante per procesoroj kiuj malaktiviĝas efike kaj pritraktas diversajn laborkvantojn sen bezoni konstantan maksimuman trairon. La aparatara diferenco sole igas AI-laborkvantojn plurfoje pli energi-avidaj por unuo de laboro.
Kiam esploristoj mezuris la trejnajn emisiojn de grandaj lingvomodeloj, la nombroj estis ŝokaj. Ununura trejna kuro de modelo de la grandeco de GPT-3 povas elsputi centojn da tunoj da CO2-ekvivalento. Tradiciaj nubaj taskoj, kiel servi retpaĝon aŭ funkciigi datumbazan demandon, produktas nur etan frakcion de tio por ĉiu peto. Tamen, tradicia nubo funkcias je multe pli alta volumeno, do la akumula spuro fine estas komparebla en absolutaj terminoj, eĉ se la emisioj por ĉiu tasko aspektas tre malsamaj.
GPU-oj generas intensan varmon, kio signifas, ke AI-datumcentroj ofte bezonas likvan malvarmigon aŭ eĉ mergiĝsistemojn por teni temperaturojn regeblaj. Tiu malvarmiga procezo konsumas grandegajn kvantojn da akvo kaj elektro. Tradiciaj nubaj instalaĵoj plejparte dependas de aera malvarmigo kaj malvarmigiloj, kiuj uzas malpli da akvo kaj energio. En sekec-emaj regionoj kiel Arizono, la akvobezonoj de AI-datumcentroj jam ekfunkciigis komunuman reziston kaj reguligan ekzamenadon.
Tradiciaj nubaj gigantoj kiel Google kaj Microsoft pasigis jarojn aĉetante kontraktojn pri renovigebla energio kaj subskribante interkonsentojn pri aĉeto de energio por verdigi siajn elektroretojn. AI-fokusitaj operacioj, ofte pli novaj kaj konstruitaj specife por hiperskala trejnado, ne ĉiam havis la saman antaŭecon. Tamen, kompanioj kiel CoreWeave kaj Lambda Labs pli kaj pli lokas instalaĵojn proksime al malmultekostaj renovigeblaj fontoj kiel hidroelektraj digoj en la Pacifika Nordokcidento por kompensi siajn grandegajn energikonsumojn.
La postulo pri komputado de artefarita inteligenteco kreskas je rapideco, kiun la kresko de tradicia nubo neniam atingis. Kelkaj analizistoj taksas, ke la energikonsumo rilata al artefarita inteligenteco povus triobligiĝi antaŭ 2030, pelita de pli grandaj modeloj kaj ĝeneraligita deplojo de inferenco. La kresko de tradicia nubo, kvankam ankoraŭ sana, sekvas pli antaŭvideblan kurbon ligitan al entreprenaj IT-elspezoj. Tio signifas, ke la emisioj de artefarita inteligenteco povus superi la emisiojn de tradiciaj nuboj en certaj regionoj ene de la venonta jardeko, se plibonigoj de efikeco ne samrapidos.
Nur AI-trejnado produktas signifajn emisiojn, dum inferenco estas esence senpaga.
Inferenco fakte respondecas pri la plimulto de la dumviva karbona spuro de artefarita inteligenteco, ĉar ĝi okazas miliardojn da fojoj ĉiutage tra deplojitaj modeloj. Ununura ChatGPT-serĉo uzas proksimume 10-oble la energion de tradicia Google-serĉo, kaj tiuj serĉoj rapide sumiĝas.
Tradiciaj nubaj datumcentroj jam estas karbon-neŭtralaj.
Kvankam gravaj provizantoj promesis celojn de neta nulo, la plej multaj ankoraŭ parte dependas de fosiliaj brulaĵoj, precipe en regionoj kun limigita renovigebla infrastrukturo. Karbonneŭtralaj asertoj ofte multe dependas de kompensoj anstataŭ fakta pura energio funkciiganta la servilojn.
AI-laborkvantoj estas pli efikaj ol tradicia nubo ĉar ili estas pli nova teknologio.
Pli nova ne aŭtomate signifas pli verda. AI-aparataro estas multe pli energi-avida po peceto, kaj la grandega skalo de komputado bezonata por trejnado kaj inferenco igas AI-laborkvantojn signife pli karbon-intensaj po tasko ol la plej multaj tradiciaj nubaj operacioj.
Transiro al la nubo aŭtomate reduktas la emisiojn de kompanio.
Nuba migrado povas helpi per plifirmigo de laborkvantoj kaj plibonigo de utiligo, sed ĝi ne forigas emisiojn. La elektro ankoraŭ devas veni de ie, kaj se la nuba regiono funkcias per karbo aŭ gaso, la karbona spuro simple ŝoviĝas anstataŭ ŝrumpi.
Ĉiuj datumcentroj uzas proksimume la saman kvanton da energio sendepende de tio, kion ili funkciigas.
Potenco-denseco varias sovaĝe. AI-fokusita datumcentro povas tiri 30 ĝis 80 kW po rako, dum tradicia nuba instalaĵo eble uzos nur 5 ĝis 15 kW po rako. Tiu 5-obla diferenco en potenco-denseco tradukiĝas rekte en tre malsamajn malvarmigajn bezonojn kaj emisiajn profilojn.
Se vi elektas inter la du rilate al media efiko, tradicia nubo nuntempe venkas rilate al efikeco po tasko kaj adopto de renovigebla energio, sed AI-komputado rapide atingas la malproksimon, ĉar provizantoj rapidas por verdigi siajn GPU-flotojn. Por organizoj, kiuj deplojas AI-on, elekti regionojn kun puraj energiaj retoj kaj uzi efikajn modelojn povas draste malpligrandigi la spuron. Por tradiciaj nubaj uzantoj, la vojo al pli malaltaj emisioj temas pli pri optimumigo de laborkvanto kaj elekto de provizantoj kun fortaj engaĝiĝoj pri daŭripovo.
A/B-testado en enhaveldonoj implikas lanĉi variaĵojn al malsamaj aŭdantarsegmentoj kaj mezuri rendimenton, dum unufojaj enhaveldonoj puŝas ununuran version al ĉiuj samtempe. Ĉiu aliro taŭgas por malsamaj celoj, kie A/B-testado favoras daten-bazitan optimumigon kaj unufojaj eldonoj prioritatas rapidecon kaj simplecon.
A/B-testado en modelservado direktas trafikon inter konkurantaj modelversioj por mezuri realmondan rendimenton, dum unu-modela deplojo liveras unu modelon al ĉiuj uzantoj. Teamoj elektas inter ili surbaze de riskotoleremo, trafikvolumo kaj la bezono de statistika validigo antaŭ plena lanĉo.
Ĉi tiu detala komparo esploras la arkitekturajn distingojn, funkciajn limojn kaj realmondan rendimenton de adaptiĝemaj inteligentaj motoroj kontraŭ fiks-kondutaj aŭtomatigaj sistemoj. Ni rigardas kiel sistemoj, kiuj kontinue lernas de novaj mediaj datumoj, kongruas kun rigidaj, antaŭvideblaj regul-bazitaj kadroj.
Adaptiĝema retrovo dinamike ĝustigas kiel kaj kiajn informojn sistemo prenas surbaze de la serĉmendo, dum statikaj retrovaj duktoj sekvas fiksajn regulojn sendepende de kunteksto. Ambaŭ funkciigas modernajn AI-aplikaĵojn, sed ili akre diferencas laŭ fleksebleco, kosto kaj precizeco. Elektado inter ili dependas de la komplekseco de laborkvanto kaj buĝeto.
Administrado de Modela Vivciklo kovras la plenan vojaĝon de AI-modelo de trejnado ĝis emeritiĝo, dum Unufoja Modela Deplojo fokusiĝas nur al lanĉo de preta modelo en produktadon. Elektado inter ili dependas de ĉu via projekto bezonas daŭran prizorgadon aŭ nur unuopan eldonon.
