Comparthing Logo
изкуствен интелектоблачни изчислениявъглеродни емисииустойчивостцентрове за данниграфични процесори

Емисии от изчисления от изкуствен интелект спрямо емисии от традиционния облак

Емисиите от изчисления на изкуствен интелект произтичат от енергоемки клъстери от графични процесори, обучаващи големи модели, докато емисиите от традиционните облаци идват от центрове за данни с общо предназначение, изпълняващи ежедневни натоварвания. Натоварванията с изкуствен интелект консумират драстично повече енергия на задача, но традиционните облаци работят в много по-голям общ мащаб.

Акценти

  • Обучението на един голям модел чрез изкуствен интелект може да отдели толкова CO2, колкото 100+ автомобила отделят за една година.
  • AI стелажите консумират от 3 до 5 пъти повече енергия на единица от традиционните облачни стелажи.
  • Традиционните облачни технологии се възползват от дългогодишни инвестиции във възобновяема енергия, на които инфраструктурата с изкуствен интелект едва сега започва да отговаря.
  • Изводът, а не само обучението, сега е причината за по-голямата част от емисиите на изкуствения интелект.

Какво е Изчисляване на емисиите от изкуствен интелект?

Въглероден отпечатък, генериран от обучението и изпълнението на модели с изкуствен интелект на специализиран хардуер като графични процесори (GPU) и процесори за обработка на данни (TPU).

  • Според съобщенията, обучението на един голям езиков модел, като GPT-3, е отделило приблизително 502 метрични тона еквивалент на CO2, сравнимо с 112 автомобила с бензинов двигател, управлявани в продължение на една година.
  • Работните натоварвания, свързани с изкуствен интелект, разчитат в голяма степен на графичните процесори NVIDIA H100 и A100, които консумират от 300 до 700 вата всеки под натоварване.
  • Центровете за данни, посветени на изкуствен интелект, могат да използват от 10 до 20 пъти повече енергия на шкаф, отколкото традиционните облачни сървъри.
  • Мащабният извод, т.е. всеки път, когато потребител отправя запитване към модел на ИИ, вече е причина за по-голямата част от емисиите през целия жизнен цикъл на ИИ, а не само за обучението.
  • Охлаждането на AI хардуера изисква значително повече вода и електричество от охлаждането на конвенционалните процесори, като някои съоръжения използват системи за потапяне в течности.

Какво е Традиционни емисии от облаци?

Въглеродни емисии, произведени от центрове за данни с общо предназначение, хостващи уебсайтове, приложения, бази данни и корпоративен софтуер.

  • Традиционните облачни натоварвания се изпълняват предимно на процесори, оптимизирани за разнообразни задачи, а не на специализирани ускорители с изкуствен интелект.
  • Големи хиперскалери като AWS, Microsoft Azure и Google Cloud са обещали цели за въглеродна неутралност или нетно нулеви емисии, някои още през 2030 г.
  • Центровете за данни в световен мащаб представляват приблизително 1 до 1,5 процента от световното търсене на електроенергия, като традиционните облачни услуги съставляват по-голямата част от тази цифра.
  • Процентът на използване на сървърите в традиционните облачни среди обикновено варира от 40 до 60 процента, което е много по-високо от много клъстери за обучение на ИИ.
  • Много традиционни доставчици на облачни услуги сега захранват операции с 60 до 90 процента възобновяема енергия в региони като Северна Европа и Тихоокеанския северозапад.

Сравнителна таблица

Функция Изчисляване на емисиите от изкуствен интелект Традиционни емисии от облаци
Основен хардуер Графични процесори (GPU) и TPU (AI ускорители) Процесори и сървъри с общо предназначение
Мощност на шкаф 30 до 80 kW на шкаф 5 до 15 kW на шкаф
Енергия на задача Изключително високо (обучение на модел = тонове CO2) Умерено (варира в зависимост от натовареността)
Охлаждаща нужда Много високо, често течно охлаждане Въздушното охлаждане обикновено е достатъчно
Тип натовареност Обучение на модели и изводи Уеб хостинг, бази данни, SaaS приложения
Коефициент на използване Често от 30 до 50 процента Обикновено от 40 до 60 процента
Приемане на възобновяема енергия По-нисък процент, бърз растеж По-висок процент, от 60 до 90 процента в някои региони
Траектория на растежа Експлозивно, удвоява се на всеки няколко месеца Постоянно, приблизително от 10 до 20 процента годишно
Разход на вода Високо (охлаждане на AI чипове) Умерено (традиционно охлаждане)

Подробно сравнение

Енергийна интензивност и хардуерни изисквания

Изчисленията с изкуствен интелект работят на масивно паралелни процесори, проектирани за матрична математика, а тези чипове консумират сериозна мощност. Един NVIDIA H100 може да консумира 700 вата при пълно натоварване, а стелажи, пълни с осем от тях, могат да достигнат 50 kW или повече. Традиционните облачни сървъри, за разлика от тях, консумират енергия по-скромно, често работейки на процесори, които са ефективно в режим на празен ход и се справят с различни натоварвания, без да се нуждаят от постоянна максимална пропускателна способност. Само хардуерната разлика прави натоварванията с изкуствен интелект няколко пъти по-енергоемки на единица работа.

Въглероден отпечатък на задача

Когато изследователите измериха емисиите от обучението на големи езикови модели, числата бяха потресаващи. Еднократно обучение на модел с размерите на GPT-3 може да изхвърли стотици тонове CO2 еквивалент. Традиционните облачни задачи, като например обслужване на уеб страница или изпълнение на заявка към база данни, генерират малка част от това на заявка. Традиционните облачни задачи обаче работят със значително по-голям обем, така че кумулативният отпечатък в крайна сметка е сравним в абсолютни стойности, дори ако емисиите на задача изглеждат много различни.

Охлаждане и консумация на вода

Графичните процесори генерират интензивна топлина, което означава, че центровете за данни с изкуствен интелект често се нуждаят от течно охлаждане или дори потапящи системи, за да поддържат температурите управляеми. Този процес на охлаждане консумира огромни количества вода и електричество. Традиционните облачни съоръжения разчитат предимно на въздушно охлаждане и чилъри, които използват по-малко вода и енергия. В региони, предразположени към суша, като Аризона, нуждите от вода на центровете за данни с изкуствен интелект вече предизвикаха съпротива от страна на общността и регулаторен контрол.

Ангажименти за възобновяема енергия и устойчивост

Традиционните облачни гиганти като Google и Microsoft са прекарали години в закупуване на договори за възобновяема енергия и подписване на споразумения за покупка на електроенергия, за да направят своите мрежи по-зелени. Операциите, фокусирани върху изкуствения интелект, често по-нови и изградени специално за хипермащабно обучение, не винаги са имали еднакво предимство. Въпреки това, компании като CoreWeave и Lambda Labs все по-често разполагат съоръжения в близост до евтини възобновяеми източници, като водноелектрически централи в северозападната част на Тихия океан, за да компенсират огромното си потребление на енергия.

Траектория на растеж и бъдещи перспективи

Търсенето на изчисления, свързани с изкуствен интелект, нараства с темпове, които традиционният растеж на облачните технологии никога не е успявал да постигне. Някои анализатори смятат, че потреблението на енергия, свързано с изкуствен интелект, може да се утрои до 2030 г., водено от по-големи модели и широко разпространено внедряване на изводи. Развитието на традиционните облачни технологии, макар и все още здравословно, следва по-предсказуема крива, обвързана с разходите за корпоративни ИТ. Това означава, че емисиите от изкуствен интелект биха могли да надминат емисиите от традиционните облачни технологии в определени региони през следващото десетилетие, ако подобренията в ефективността не се движат в крак с темпото.

Предимства и Недостатъци

Изчисляване на емисиите от изкуствен интелект

Предимства

  • + Стимулира иновациите
  • + Високо мащабируем
  • + Специализирана ефективност
  • + Бърз напредък в хардуера

Потребителски профил

  • Изключително енергоемко
  • Висока консумация на вода
  • По-нисък микс от възобновяеми източници
  • Бързоразвиващ се отпечатък

Традиционни емисии от облаци

Предимства

  • + Зрели програми за възобновяема енергия
  • + По-добри коефициенти на използване
  • + Установени стандарти за ефективност
  • + По-ниски емисии на задача

Потребителски профил

  • Огромен общ мащаб
  • Застаряваща инфраструктура на места
  • Все още зависи от мрежата
  • По-бавен иновационен цикъл

Често срещани заблуди

Миф

Само обучението на ИИ произвежда значителни емисии, докато изводът е по същество безплатен.

Реалност

Всъщност, изводът е причина за по-голямата част от въглеродния отпечатък на изкуствения интелект през целия му живот, защото се случва милиарди пъти дневно в различните внедрени модели. Една заявка в ChatGPT използва приблизително 10 пъти повече енергия от традиционното търсене в Google, а тези заявки се натрупват бързо.

Миф

Традиционните облачни центрове за данни вече са въглеродно неутрални.

Реалност

Въпреки че големите доставчици са обещали цели за нулеви нетни емисии, повечето все още разчитат частично на изкопаеми горива, особено в региони с ограничена инфраструктура за възобновяеми източници. Твърденията за въглеродна неутралност често разчитат до голяма степен на компенсации, а не на действителна чиста енергия, захранваща сървърите.

Миф

Работните натоварвания с изкуствен интелект са по-ефективни от традиционните облачни технологии, защото са по-нова технология.

Реалност

По-ново не означава автоматично по-екологично. Хардуерът с изкуствен интелект е много по-енергоемък на чип, а огромният мащаб на изчисленията, необходими за обучение и изводи, прави натоварванията с изкуствен интелект значително по-въглеродно интензивни на задача, отколкото повечето традиционни облачни операции.

Миф

Преминаването към облака автоматично намалява емисиите на компанията.

Реалност

Миграцията към облак може да помогне чрез консолидиране на работните натоварвания и подобряване на използването, но не елиминира емисиите. Електричеството все още трябва да идва отнякъде и ако облачният регион работи на въглища или газ, въглеродният отпечатък просто се измества, вместо да се свива.

Миф

Всички центрове за данни използват приблизително еднакво количество енергия, независимо от това, с какво работят.

Реалност

Плътността на мощността варира значително. Център за данни, фокусиран върху изкуствен интелект, може да използва от 30 до 80 kW на шкаф, докато традиционен облачен център може да използва само от 5 до 15 kW на шкаф. Тази 5-кратна разлика в плътността на мощността се превръща директно в много различни нужди от охлаждане и профили на емисиите.

Често задавани въпроси

Колко CO2 всъщност произвежда обучението на модел с изкуствен интелект?
Зависи силно от размера на модела, но изследванията показват, че обучението на голям езиков модел като GPT-3 е отделило около 502 метрични тона еквивалент на CO2. По-малките модели произвеждат много по-малко, но тенденцията към все по-големи модели означава, че емисиите от обучението продължават да се покачват. Еднократно обучение на граничен модел може да се равнява на годишните емисии на десетки домове.
Наистина ли изкуственият интелект е по-лош за околната среда от традиционните облачни изчисления?
Да, натоварванията с изкуствен интелект консумират драстично повече енергия за всяка задача от типичните облачни задачи, като например обслужване на уеб страница или работа с база данни. Традиционните облачни технологии обаче работят в много по-голям общ мащаб, така че абсолютните емисии в момента са сравними. Изкуственият интелект обаче се развива много по-бързо, което би могло да наклони везните в рамките на едно десетилетие.
Защо центровете за данни с изкуствен интелект използват толкова много вода?
Графичните процесори (GPU) и процесорите за обработка на данни (TPU) генерират интензивна топлина, която изисква агресивно охлаждане. Много съоръжения с изкуствен интелект използват системи за охлаждане на водна основа, а консумацията на вода на място може да достигне милиони галони на ден. Традиционните облачни центрове за данни обикновено използват по-малко агресивно охлаждане, често разчитайки на външен въздух или охладители, вместо на постоянно изпаряване на водата.
Могат ли работните натоварвания с изкуствен интелект да работят с възобновяема енергия?
Да, и все по-често го правят. Компании като Google, Microsoft и Amazon подписват споразумения за закупуване на електроенергия, специално за покриване на съоръжения за обучение по изкуствен интелект. Някои доставчици, фокусирани върху изкуствен интелект, се разполагат в близост до водноелектрически централи или изграждат специализирани слънчеви и вятърни паркове. Предизвикателството е да се съчетае огромното и нарастващо търсене на електроенергия с чисти доставки.
Кой е най-големият източник на емисии при изчисленията с изкуствен интелект?
Най-големият източник е електричеството, използвано за захранване на самите графични процесори (GPU) и процесори (TPU), следвано от енергията, необходима за охлаждане. Емисиите от производството на чипове и изграждането на центрове за данни също са от значение, но оперативната енергия доминира в жизнения цикъл на повечето системи с изкуствен интелект.
Традиционните доставчици на облачни услуги използват ли всъщност възобновяема енергия?
Много от тях го правят, поне частично. Google покрива 100% от годишното си потребление на електроенергия с покупки на възобновяема енергия от 2017 г. насам, макар че това не означава, че всеки център за данни работи на възобновяеми източници 24/7. AWS и Microsoft имат сходни цели с различни срокове, а действителните проценти на възобновяема енергия варират в зависимост от региона.
Как компаниите могат да намалят емисиите от изчисления на изкуствен интелект?
Няколко стратегии работят: избор на по-малки, по-ефективни модели, обучение в региони с чисти мрежи, използване на техники като подрязване и квантуване на модели и избор на доставчици на изкуствен интелект със силни ангажименти за устойчивост. Дори нещо толкова просто, като изпълнението на изводи по-близо до потребителите, може да намали загубите при пренос и разходите за охлаждане.
Ще продължат ли емисиите от изкуствен интелект да нарастват вечно?
Не е задължително. Хардуерната ефективност се подобрява с всяко поколение, а нови техники, като модели със смесени експерти и по-добри алгоритми за обучение, могат драстично да намалят изискванията за изчислителни ресурси. Търсенето обаче нараства толкова бързо, че подобренията в ефективността често се поглъщат от чистия мащаб, поради което експертите настояват за решения за чиста енергия на ниво мрежа, наред с алгоритмичните подобрения.
Как се сравнява изводът от изкуствен интелект с търсенето в Google за емисии?
Една заявка за извод с изкуствен интелект, като например задаването на въпрос към ChatGPT, използва приблизително 10 пъти повече енергия от традиционното търсене в Google. Това се равнява на приблизително 2,9 до 4,1 ватчаса на заявка с изкуствен интелект в сравнение с 0,3 ватчаса за стандартно търсене. Умножете това по милиарди дневни заявки и разликата става огромна.
Има ли разпоредби относно емисиите от центрове за данни с изкуствен интелект?
Регулациите се появяват, но все още са неравномерни. Директивата на ЕС за енергийна ефективност вече изисква центровете за данни над определени прагове да отчитат потреблението на енергия и емисиите. Някои щати на САЩ въведоха законодателство, насочено към потреблението на вода в центровете за данни, а няколко държави обсъждат изискванията за отчитане на въглеродните емисии, специално за инфраструктурата с изкуствен интелект.

Решение

Ако избирате между двете по отношение на въздействието върху околната среда, традиционният облак в момента печели по отношение на ефективността на задача и приемането на възобновяема енергия, но изчисленията с изкуствен интелект наваксват бързо, тъй като доставчиците се надпреварват да „озеленят“ своите графични процесори. За организациите, внедряващи изкуствен интелект, изборът на региони с чисти енергийни мрежи и използването на ефективни модели може драстично да намали екологичния отпечатък. За традиционните потребители на облак пътят към намаляване на емисиите е по-скоро свързан с оптимизиране на натоварването и избор на доставчици със силни ангажименти за устойчивост.

Свързани сравнения

A/B тестване при обслужване на модели спрямо внедряване на един модел

A/B тестването при обслужване на модели насочва трафика между конкуриращи се версии на модели, за да измери реалната производителност, докато внедряването на един модел предоставя един модел на всички потребители. Екипите избират между тях въз основа на толерантността към риск, обема на трафика и необходимостта от статистическа валидация преди пълното внедряване.

A/B тестване при пускане на съдържание спрямо еднократно пускане на съдържание

A/B тестването при пускането на съдържание включва пускане на вариации към различни сегменти от аудиторията и измерване на ефективността, докато еднократните пускания на съдържание предлагат една версия на всички наведнъж. Всеки подход е подходящ за различни цели, като A/B тестването предпочита оптимизацията, основана на данни, а еднократните пускания дават приоритет на скоростта и простотата.

AI Companions срещу традиционни приложения за продуктивност

AI компаньоните се фокусират върху разговорното взаимодействие, емоционалната подкрепа и адаптивната помощ, докато традиционните приложения за продуктивност дават приоритет на структурираното управление на задачи, работните процеси и инструментите за ефективност. Сравнението подчертава преминаването от твърд софтуер, предназначен за задачи, към адаптивни системи, които съчетават продуктивност с естествено, подобно на човека взаимодействие и контекстуална подкрепа.

AI Slop срещу човешко ръководена работа с AI

„ИИ слоп“ се отнася до нискоусилно, масово произведено ИИ съдържание, създадено с минимално наблюдение, докато работата с ИИ, ръководена от човек, съчетава изкуствен интелект с внимателно редактиране, режисура и творческа преценка. Разликата обикновено се свежда до качество, оригиналност, полезност и дали истински човек активно оформя крайния резултат.

AI агенти срещу традиционни уеб приложения

Агентите с изкуствен интелект са автономни, целенасочени системи, които могат да планират, разсъждават и изпълняват задачи в различни инструменти, докато традиционните уеб приложения следват фиксирани работни процеси, управлявани от потребителя. Сравнението подчертава преминаването от статични интерфейси към адаптивни, контекстно-осъзнати системи, които могат проактивно да подпомагат потребителите, да автоматизират решенията и да взаимодействат динамично между множество услуги.