Tehisintellekti arvutuste heitkogused tulenevad energiamahukatest GPU-klastritest, mis treenivad suuri mudeleid, samas kui traditsioonilise pilve heitkogused pärinevad üldotstarbelistest andmekeskustest, mis käitavad igapäevaseid töökoormusi. Tehisintellekti töökoormused tarbivad ülesande kohta oluliselt rohkem energiat, kuid traditsiooniline pilveteenus töötab palju suuremas kogumahus.
Süsiniku jalajälg, mis tekib tehisintellekti mudelite treenimisel ja käitamisel spetsiaalsel riistvaral, näiteks graafikaprotsessoritel ja TPÜ-del.
Veebisaite, rakendusi, andmebaase ja ettevõtte tarkvara majutavate üldotstarbeliste andmekeskuste tekitatud süsinikdioksiidi heitkogused.
| Funktsioon | Tehisintellekti heitkoguste arvutamine | Traditsioonilised pilveheitmed |
|---|---|---|
| Esmane riistvara | Graafikaprotsessorid ja TPÜ-d (tehisintellekti kiirendid) | Protsessorid ja üldotstarbelised serverid |
| Võimsus riiuli kohta | 30 kuni 80 kW riiuli kohta | 5 kuni 15 kW riiuli kohta |
| Energia ülesande kohta | Äärmiselt kõrge (mudeli treenimine = tonni CO2) | Mõõdukas (sõltub töökoormusest) |
| Jahutusvajadus | Väga kõrge, sageli vedelikjahutus | Õhujahutus on tavaliselt piisav |
| Töökoormuse tüüp | Mudelikoolitus ja järeldused | Veebimajutus, andmebaasid, SaaS-rakendused |
| Kasutusmäär | Sageli 30–50 protsenti | Tavaliselt 40–60 protsenti |
| Taastuvenergia kasutuselevõtt | Madalam protsent, kiire kasv | Suurem protsent, mõnes piirkonnas 60–90 protsenti |
| Kasvutrajektoor | Plahvatusohtlik, kahekordistub iga paari kuu tagant | Püsiv, umbes 10–20 protsenti aastas |
| Vee tarbimine | Kõrge (tehisintellekti kiipide jahutamine) | Mõõdukas (traditsiooniline jahutus) |
Tehisintellekti arvutused töötavad massiivselt paralleelsetel protsessoritel, mis on loodud maatriksmatemaatika jaoks, ja need kiibid tarbivad märkimisväärselt energiat. Üks NVIDIA H100 suudab täiskoormusel tarbida 700 vatti ja kaheksa sellisega täidetud riiulid võivad ulatuda 50 kW või rohkem. Traditsioonilised pilveserverid seevastu tarbivad energiat tagasihoidlikumalt, töötades sageli protsessoritel, mis on tõhusalt jõudeolekus ja saavad hakkama erinevate töökoormustega ilma pideva maksimaalse läbilaskevõime vajaduseta. Ainuüksi riistvaraline erinevus muudab tehisintellekti töökoormused tööühiku kohta mitu korda energianõudlikumaks.
Kui teadlased mõõtsid suurte keelemudelite treeningheitmeid, olid numbrid hämmastavad. GPT-3 suuruse mudeli üks treeningkäivitus võib paisata sadu tonne CO2 ekvivalenti. Traditsioonilised pilveülesanded, näiteks veebilehe teenindamine või andmebaasipäringu käivitamine, toodavad sellest päringu kohta vaid murdosa. Traditsiooniline pilv töötab aga oluliselt suurema mahuga, seega on kumulatiivne jalajälg absoluutarvudes võrreldav, isegi kui ülesande kohta tekkivad heitkogused on väga erinevad.
Graafikaprotsessorid tekitavad intensiivset kuumust, mis tähendab, et tehisintellekti andmekeskused vajavad temperatuuri kontrolli all hoidmiseks sageli vedelikjahutust või isegi immersioonisüsteeme. See jahutusprotsess tarbib tohutul hulgal vett ja elektrit. Traditsioonilised pilverajatised tuginevad enamasti õhkjahutusele ja jahutitele, mis tarbivad vähem vett ja energiat. Põuaohtlikes piirkondades, nagu Arizona, on tehisintellekti andmekeskuste veevajadus juba tekitanud kogukonna vastuseisu ja regulatiivse kontrolli.
Traditsioonilised pilvegigandid nagu Google ja Microsoft on aastaid ostnud taastuvenergia lepinguid ja sõlminud elektrienergia ostulepinguid, et oma võrke rohelisemaks muuta. Tehisintellektile keskendunud operatsioonid, mis on sageli uuemad ja loodud spetsiaalselt hüperskaalal põhinevaks koolituseks, pole alati sama edumaad olnud. Sellest hoolimata paigutavad ettevõtted nagu CoreWeave ja Lambda Labs üha enam rajatisi odavate taastuvenergiaallikate, näiteks Vaikse ookeani loodeosas asuvate hüdroelektrijaamade lähedale, et kompenseerida oma tohutut energiatarbimist.
Tehisintellekti arvutusvajadus kasvab tempos, millega traditsioonilise pilveteenuse kasv pole kunagi sammu pidanud. Mõned analüütikud hindavad, et tehisintellektiga seotud energiatarbimine võib 2030. aastaks kolmekordistuda, mida ajendavad suuremad mudelid ja laialdane järelduste kasutuselevõtt. Traditsioonilise pilveteenuse kasv, kuigi endiselt tugev, järgib prognoositavamat kõverat, mis on seotud ettevõtete IT-kulutustega. See tähendab, et tehisintellekti heitkogused võivad järgmise kümnendi jooksul teatud piirkondades traditsioonilise pilveteenuse heitkogused ületada, kui tõhususe parandamine ei sammu pida.
Ainult tehisintellekti treenimine tekitab märkimisväärseid heitkoguseid, samas kui järeldamine on sisuliselt tasuta.
Järeldamine moodustab tegelikult suurema osa tehisintellekti eluaegsest süsiniku jalajäljest, kuna see toimub miljardeid kordi päevas kõigis juurutatud mudelites. Üks ChatGPT päring kasutab umbes kümme korda rohkem energiat kui traditsiooniline Google'i otsing ja need päringud kuhjuvad kiiresti.
Traditsioonilised pilveandmekeskused on juba süsinikuneutraalsed.
Kuigi suuremad teenusepakkujad on lubanud saavutada netoheite nulli, tugineb enamik neist osaliselt siiski fossiilkütustele, eriti piirkondades, kus taastuvenergia infrastruktuur on piiratud. Süsinikneutraalsuse väited tuginevad sageli suuresti tasaarvestustele, mitte serverite tegelikule puhtale energiale.
Tehisintellektiga seotud töökoormused on traditsioonilisest pilvest tõhusamad, kuna tegemist on uuema tehnoloogiaga.
Uuem ei tähenda automaatselt keskkonnasõbralikumat. Tehisintellekti riistvara on kiibi kohta palju energianõudlikum ning treenimiseks ja järelduste tegemiseks vajaliku arvutusmahu tohutu ulatus muudab tehisintellekti töökoormuse ülesande kohta oluliselt süsinikumahukamaks kui enamik traditsioonilisi pilveoperatsioone.
Pilve kolimine vähendab automaatselt ettevõtte heitkoguseid.
Pilveteenustele üleminek aitab töökoormust konsolideerida ja energia kasutamist parandada, kuid see ei kõrvalda heitkoguseid. Elekter peab ikkagi kuskilt tulema ja kui pilvepiirkond töötab söe või gaasi peal, siis süsiniku jalajälg lihtsalt nihkub, mitte ei kahane.
Kõik andmekeskused tarbivad umbes sama palju energiat, olenemata sellest, mida nad käitavad.
Võimsustihedus varieerub suuresti. Tehisintellektil põhinev andmekeskus võib tarbida 30–80 kW racki kohta, samas kui traditsiooniline pilvekeskus võib tarbida vaid 5–15 kW racki kohta. See 5-kordne võimsustiheduse erinevus tähendab otseselt väga erinevaid jahutusvajadusi ja heitkoguste profiile.
Kui valida keskkonnamõju põhjal kahe variandi vahel, siis traditsiooniline pilveteenus on praegu ülesannete tõhususe ja taastuvenergia kasutuselevõtu poolest edukas, kuid tehisintellektil põhinev arvutus jõuab kiiresti järele, kuna pakkujad võistlevad oma GPU-parkide rohelisemaks muutmisega. Tehisintellekti juurutavate organisatsioonide jaoks võib puhta energiavõrguga piirkondade valimine ja tõhusate mudelite kasutamine jalajälge dramaatiliselt vähendada. Traditsiooniliste pilveteenuste kasutajate jaoks seisneb heitkoguste vähendamise tee pigem töökoormuse optimeerimises ja pakkujate valimises, kellel on tugevad jätkusuutlikkuse kohustused.
Mudeliteenuse A/B-testimine suunab liiklust konkureerivate mudeliversioonide vahel, et mõõta reaalset toimivust, samas kui ühe mudeli juurutamine saadab kõigile kasutajatele ühe mudeli. Meeskonnad valivad nende vahel riskitaluvuse, liiklusmahu ja statistilise valideerimise vajaduse alusel enne täielikku juurutamist.
Sisuväljaannete A/B-testimine hõlmab variatsioonide levitamist erinevatele sihtrühmadele ja tulemuslikkuse mõõtmist, samas kui ühekordsed sisuväljaanded suunavad ühe versiooni korraga kõigile. Igal lähenemisviisil on erinevad eesmärgid, kusjuures A/B-testimine eelistab andmepõhist optimeerimist ja ühekordsed väljaanded seavad esikohale kiiruse ja lihtsuse.
See detailne võrdlus uurib adaptiivsete intelligentsete mootorite arhitektuurilisi erinevusi, operatsioonilisi piiranguid ja reaalset jõudlust võrreldes fikseeritud käitumisega automatiseerimissüsteemidega. Vaatleme, kuidas süsteemid, mis pidevalt õpivad uutest keskkonnaandmetest, sobivad kokku jäikade ja ennustatavate reeglipõhiste raamistikega.
Adaptiivne otsing kohandab dünaamiliselt, kuidas ja millist teavet süsteem päringu põhjal hangib, samas kui staatilised otsingukanalid järgivad fikseeritud reegleid olenemata kontekstist. Mõlemad toetavad tänapäevaseid tehisintellekti rakendusi, kuid erinevad oluliselt paindlikkuse, maksumuse ja täpsuse poolest. Nende vahel valimine sõltub töökoormuse keerukusest ja eelarvest.
Agentide koolitamine keskkondades hõlmab õppimist reaalajas simuleeritud või füüsilise keskkonnaga suhtlemise kaudu, samas kui võrguühenduseta andmestiku koolitamine tugineb eelnevalt kogutud andmetele ilma täiendava keskkonnale juurdepääsuta. Mõlemad lähenemisviisid treenivad masinõppe mudeleid, kuid erinevad põhimõtteliselt selle poolest, kuidas agendid kogemusi koguvad ja jõudlust parandavad.
