انتشار گازهای گلخانهای محاسبات هوش مصنوعی ناشی از خوشههای پردازنده گرافیکی پرمصرف است که مدلهای بزرگ را آموزش میدهند، در حالی که انتشار گازهای گلخانهای در فضای ابری سنتی از مراکز داده عمومی که بارهای کاری روزمره را اجرا میکنند، ناشی میشود. بارهای کاری هوش مصنوعی به طور چشمگیری انرژی بیشتری را برای هر کار مصرف میکنند، اما فضای ابری سنتی در مقیاس کلی بسیار بزرگتری اجرا میشود.
ردپای کربنی ایجاد شده توسط آموزش و اجرای مدلهای هوش مصنوعی بر روی سختافزارهای تخصصی مانند GPUها و TPUها.
انتشار کربن تولید شده توسط مراکز داده عمومی که میزبان وبسایتها، برنامهها، پایگاههای داده و نرمافزارهای سازمانی هستند.
| ویژگی | هوش مصنوعی، میزان انتشار گازهای گلخانهای را محاسبه میکند | انتشار ابرهای سنتی |
|---|---|---|
| سختافزار اولیه | پردازندههای گرافیکی (GPU) و پردازندههای گرافیکی (TPU) (شتابدهندههای هوش مصنوعی) | پردازندهها و سرورهای همه منظوره |
| توان در هر رک | ۳۰ تا ۸۰ کیلووات در هر رک | ۵ تا ۱۵ کیلووات در هر رک |
| انرژی به ازای هر وظیفه | بسیار بالا (آموزش یک مدل = چندین تن CO2) | متوسط (بسته به حجم کار متفاوت است) |
| تقاضای خنککننده | بسیار بالا، اغلب خنککننده مایع | خنک کننده هوا معمولاً کافی است |
| نوع بار کاری | آموزش مدل و استنتاج | میزبانی وب، پایگاههای داده، برنامههای SaaS |
| نرخ استفاده | اغلب ۳۰ تا ۵۰ درصد | معمولاً ۴۰ تا ۶۰ درصد |
| پذیرش انرژی تجدیدپذیر | درصد کمتر، رشد سریع | درصد بالاتر، ۶۰ تا ۹۰ درصد در برخی مناطق |
| مسیر رشد | انفجاری، هر چند ماه دو برابر میشود | ثابت، تقریباً ۱۰ تا ۲۰ درصد سالانه |
| مصرف آب | بالا (تراشههای هوش مصنوعی خنککننده) | متوسط (خنک کننده سنتی) |
محاسبات هوش مصنوعی بر روی پردازندههای موازی عظیمی که برای محاسبات ماتریسی طراحی شدهاند، اجرا میشود و این تراشهها قدرت زیادی مصرف میکنند. یک NVIDIA H100 میتواند تحت بار کامل ۷۰۰ وات مصرف کند و رکهایی که هشت عدد از آنها را در خود جای دادهاند، میتوانند به ۵۰ کیلووات یا بیشتر برسند. در مقابل، سرورهای ابری سنتی، برق کمتری مصرف میکنند و اغلب بر روی پردازندههایی کار میکنند که به طور مؤثر در حالت آماده به کار قرار میگیرند و بارهای کاری متنوع را بدون نیاز به حداکثر توان عملیاتی ثابت، مدیریت میکنند. تفاوت سختافزاری به تنهایی باعث میشود بارهای کاری هوش مصنوعی در هر واحد کار چندین برابر انرژی بیشتری مصرف کنند.
وقتی محققان میزان انتشار گازهای گلخانهای در آموزش مدلهای زبانی بزرگ را اندازهگیری کردند، اعداد سرسامآور بودند. یک اجرای آموزشی واحد از مدلی به اندازه GPT-3 میتواند معادل صدها تن دیاکسید کربن تولید کند. وظایف ابری سنتی، مانند ارائه یک صفحه وب یا اجرای یک پرسوجوی پایگاه داده، بخش بسیار کوچکی از این میزان را در هر درخواست تولید میکنند. با این حال، ابر سنتی با حجم بسیار بالاتری اجرا میشود، بنابراین ردپای تجمعی در نهایت به طور مطلق قابل مقایسه است، حتی اگر میزان انتشار گازهای گلخانهای در هر وظیفه بسیار متفاوت به نظر برسد.
پردازندههای گرافیکی گرمای شدیدی تولید میکنند، به این معنی که مراکز داده هوش مصنوعی اغلب برای کنترل دما به خنککننده مایع یا حتی سیستمهای غوطهوری نیاز دارند. این فرآیند خنککننده مقادیر زیادی آب و برق مصرف میکند. تأسیسات ابری سنتی عمدتاً به خنککننده هوا و چیلرها متکی هستند که از آب و انرژی کمتری استفاده میکنند. در مناطق مستعد خشکسالی مانند آریزونا، تقاضای آب مراکز داده هوش مصنوعی در حال حاضر باعث واکنش منفی جامعه و بررسی دقیق نظارتی شده است.
غولهای سنتی ابری مانند گوگل و مایکروسافت سالها صرف خرید قراردادهای انرژی تجدیدپذیر و امضای توافقنامههای خرید برق برای سبز کردن شبکههای خود کردهاند. عملیات متمرکز بر هوش مصنوعی، که اغلب جدیدتر هستند و بهطور خاص برای آموزش در مقیاس بزرگ ساخته شدهاند، همیشه شروع یکسانی نداشتهاند. با این حال، شرکتهایی مانند CoreWeave و Lambda Labs بهطور فزایندهای در حال استقرار تأسیسات در نزدیکی منابع تجدیدپذیر ارزان مانند سدهای برق آبی در شمال غربی اقیانوس آرام هستند تا مصرف عظیم برق خود را جبران کنند.
تقاضای محاسبات هوش مصنوعی با سرعتی در حال رشد است که رشد سنتی ابر هرگز با آن برابری نمیکرد. برخی از تحلیلگران تخمین میزنند که مصرف برق مرتبط با هوش مصنوعی میتواند تا سال ۲۰۳۰ سه برابر شود، که ناشی از مدلهای بزرگتر و استقرار گسترده استنتاج است. رشد سنتی ابر، اگرچه هنوز سالم است، اما از منحنی قابل پیشبینیتری پیروی میکند که به هزینههای فناوری اطلاعات سازمانی مرتبط است. این بدان معناست که اگر بهبود کارایی با سرعت پیش نرود، انتشار گازهای گلخانهای هوش مصنوعی میتواند در دهه آینده در برخی مناطق از انتشار گازهای گلخانهای ابرهای سنتی پیشی بگیرد.
فقط آموزش هوش مصنوعی باعث انتشار قابل توجه گازهای گلخانهای میشود، در حالی که استنتاج اساساً رایگان است.
استنتاج در واقع بخش عمدهای از ردپای کربن در طول عمر هوش مصنوعی را تشکیل میدهد، زیرا روزانه میلیاردها بار در مدلهای مستقر اتفاق میافتد. یک پرسوجوی ChatGPT تقریباً 10 برابر انرژی یک جستجوی سنتی گوگل را مصرف میکند و این پرسوجوها به سرعت افزایش مییابند.
مراکز داده ابری سنتی از قبل کربن خنثی هستند.
در حالی که ارائه دهندگان اصلی متعهد به اهداف انتشار صفر خالص شدهاند، اکثر آنها هنوز تا حدی به سوختهای فسیلی وابسته هستند، به خصوص در مناطقی که زیرساختهای تجدیدپذیر محدودی دارند. ادعاهای کربن خنثی اغلب به جای انرژی پاک واقعی برای تأمین انرژی سرورها، به شدت به جبران خسارتها متکی هستند.
حجم کاری هوش مصنوعی به دلیل جدیدتر بودن فناوری، از فضای ابری سنتی کارآمدتر است.
جدیدتر بودن لزوماً به معنای سبزتر بودن نیست. سختافزار هوش مصنوعی به ازای هر تراشه، مصرف برق بسیار بیشتری دارد و مقیاس محاسبات مورد نیاز برای آموزش و استنتاج، حجم کار هوش مصنوعی را به طور قابل توجهی بیشتر از اکثر عملیات ابری سنتی، به ازای هر وظیفه، کربنمحور میکند.
حرکت به سمت فضای ابری به طور خودکار میزان انتشار گازهای گلخانهای یک شرکت را کاهش میدهد.
مهاجرت به فضای ابری میتواند با تجمیع حجم کار و بهبود بهرهوری کمک کند، اما انتشار گازهای گلخانهای را از بین نمیبرد. برق هنوز باید از جایی تأمین شود و اگر منطقه ابری با زغال سنگ یا گاز کار کند، ردپای کربن به جای کاهش، به سادگی تغییر میکند.
تمام مراکز داده صرف نظر از نوع سروری که دارند، تقریباً به یک میزان انرژی مصرف میکنند.
چگالی توان به شدت متغیر است. یک مرکز داده متمرکز بر هوش مصنوعی میتواند 30 تا 80 کیلووات در هر رک برق مصرف کند، در حالی که یک مرکز ابری سنتی ممکن است فقط 5 تا 15 کیلووات در هر رک استفاده کند. این تفاوت 5 برابری در چگالی توان مستقیماً به نیازهای خنککننده و مشخصات انتشار گازهای گلخانهای بسیار متفاوت منجر میشود.
اگر قرار است از نظر تأثیر زیستمحیطی بین این دو یکی را انتخاب کنید، فضای ابری سنتی در حال حاضر از نظر بهرهوری در هر وظیفه و پذیرش انرژی تجدیدپذیر برنده است، اما محاسبات هوش مصنوعی به سرعت در حال پیشرفت است، زیرا ارائهدهندگان برای سبز کردن ناوگان GPU خود رقابت میکنند. برای سازمانهایی که از هوش مصنوعی استفاده میکنند، انتخاب مناطقی با شبکههای انرژی پاک و استفاده از مدلهای کارآمد میتواند به طور چشمگیری ردپای خود را کاهش دهد. برای کاربران فضای ابری سنتی، مسیر کاهش انتشار گازهای گلخانهای بیشتر در مورد بهینهسازی حجم کار و انتخاب ارائهدهندگانی با تعهدات قوی به پایداری است.
LLM های مبتنی بر ابزار، مدلهای زبانی مستقل را با اتصال آنها به APIهای خارجی، ماشینحسابها و پایگاههای داده گسترش میدهند و بازیابی اطلاعات و اجرای وظایف را در زمان واقعی امکانپذیر میسازند. LLM های مستقل صرفاً به پارامترهای آموزشدیده خود متکی هستند و آنها را مستقل اما محدود به دانش حاصل از دادههای آموزشی میکنند.
LLM های متن باز، مدلهای هوش مصنوعی قابل تنظیم و خود-میزبان با دسترسی کامل به کد ارائه میدهند، در حالی که API های اختصاصی LLM، خدمات مدیریت شده و بهبود یافته را از طریق نقاط پایانی مبتنی بر ابر با قیمت گذاری مبتنی بر میزان استفاده ارائه میدهند.
RAG و LLM های تنظیمشده دقیق، هر دو کیفیت خروجی هوش مصنوعی را بهبود میبخشند، اما به روشهای اساساً متفاوتی عمل میکنند. RAG اطلاعات خارجی را در زمان پرسوجو دریافت میکند، در حالی که تنظیم دقیق، دانش جدید را مستقیماً در وزنهای مدل قرار میدهد. انتخاب بین آنها بستگی به این دارد که دادههای شما چند وقت یکبار تغییر میکنند و به چه نوع دقتی نیاز دارید.
RAG با زمینه بصری، مدلهای زبانی را با بازیابی تصاویر، نمودارها و دیاگرامها در کنار متن غنی میکند، در حالی که RAG فقط متنی صرفاً به متون نوشتاری متکی است. RAG بصری در وظایف چندوجهی مانند درک اسناد و پاسخ به سؤالات بصری برتری دارد، در حالی که RAG فقط متنی سادهتر، سریعتر و ارزانتر برای استقرار باقی میماند.
RAG چندوجهی متن، تصاویر، صدا و ویدیو را برای بازیابی غنیتر با هم پردازش میکند، در حالی که RAG فقط متنی منحصراً بر محتوای نوشتاری تمرکز دارد. انتخاب بستگی به این دارد که آیا دادهها و موارد استفاده شما فراتر از اسناد متنی ساده است یا خیر.
