פליטות חישוב בינה מלאכותית נובעות מאשכולות GPU זוללי אנרגיה המאמנים מודלים גדולים, בעוד שפליטות ענן מסורתיות מגיעות ממרכזי נתונים למטרות כלליות המפעילים עומסי עבודה יומיומיים. עומסי עבודה של בינה מלאכותית צורכים הרבה יותר חשמל לכל משימה, אך ענן מסורתי פועל בקנה מידה כולל גדול בהרבה.
טביעת רגל פחמנית הנוצרת על ידי אימון והפעלת מודלים של בינה מלאכותית על חומרה ייעודית כמו GPU ו-TPU.
פליטות פחמן המיוצרות על ידי מרכזי נתונים למטרות כלליות המארחים אתרי אינטרנט, אפליקציות, מסדי נתונים ותוכנות ארגוניות.
| תכונה | פליטות חישוב של בינה מלאכותית | פליטות ענן מסורתיות |
|---|---|---|
| חומרה ראשית | GPUs ו-TPUs (מאיצי בינה מלאכותית) | מעבדים ושרתים לשימוש כללי |
| הספק לכל מתלה | 30 עד 80 קילוואט לכל מתלה | 5 עד 15 קילוואט לכל מתלה |
| אנרגיה למשימה | גבוה במיוחד (אימון מודל = טונות של CO2) | בינוני (משתנה בהתאם לעומס העבודה) |
| דרישת קירור | קירור גבוה מאוד, לעתים קרובות נוזלי | קירור אוויר בדרך כלל מספיק |
| סוג עומס עבודה | אימון מודלים והסקה | אירוח אתרים, מסדי נתונים, אפליקציות SaaS |
| שיעור ניצול | לעתים קרובות 30 עד 50 אחוז | בדרך כלל 40 עד 60 אחוז |
| אימוץ אנרגיה מתחדשת | אחוז נמוך יותר, גדל במהירות | אחוז גבוה יותר, 60 עד 90 אחוז באזורים מסוימים |
| מסלול צמיחה | נפץ, מכפיל את עצמו כל כמה חודשים | יציב, בערך 10 עד 20 אחוזים בשנה |
| שימוש במים | גבוה (קירור שבבי בינה מלאכותית) | בינוני (קירור מסורתי) |
חישובי בינה מלאכותית פועלים על מעבדים מקביליים באופן אסיבי, המיועדים למתמטיקה של מטריצות, והשבבים הללו צורכים הספק רב. מעבד NVIDIA H100 יחיד יכול לצרוך 700 וואט בעומס מלא, וארונות תקשורת מלאים בשמונה כאלה יכולים להגיע ל-50 קילוואט או יותר. שרתי ענן מסורתיים, לעומת זאת, צורכים חשמל בצורה צנועה יותר, ולעתים קרובות פועלים על מעבדים שנמצאים במצב סרק ביעילות ומטפלים בעומסי עבודה מגוונים מבלי להזדקק לתפוקה מקסימלית קבועה. ההבדל בחומרה לבדו הופך את עומסי העבודה של בינה מלאכותית לצרוך אנרגיה פי כמה וכמה ליחידת עבודה.
כאשר חוקרים מדדו את פליטות האימון של מודלים גדולים של שפה, המספרים היו מדהימים. ריצת אימון בודדת של מודל בגודל של GPT-3 יכולה לפלוט מאות טונות של שווה ערך ל-CO2. משימות ענן מסורתיות, כמו הצגת דף אינטרנט או הרצת שאילתת מסד נתונים, מייצרות חלק זעיר מזה לכל בקשה. עם זאת, ענן מסורתי פועל בנפח גבוה בהרבה, כך שטביעת הרגל המצטברת בסופו של דבר דומה במונחים מוחלטים גם אם פליטות לכל משימה נראות שונות מאוד.
מעבדים גרפיים מייצרים חום עז, מה שאומר שמרכזי נתונים של בינה מלאכותית זקוקים לעתים קרובות לקירור נוזלי או אפילו למערכות טבילה כדי לשמור על טמפרטורות ניתנות לניהול. תהליך קירור זה צורך כמויות עצומות של מים וחשמל. מתקני ענן מסורתיים מסתמכים בעיקר על קירור אוויר ומקררים, המשתמשים בפחות מים ואנרגיה. באזורים מועדים לבצורת כמו אריזונה, דרישות המים של מרכזי נתונים של בינה מלאכותית כבר עוררו התנגדות קהילתית ובחינה רגולטורית.
ענקיות ענן מסורתיות כמו גוגל ומיקרוסופט השקיעו שנים ברכישת חוזים לאנרגיה מתחדשת וחתימה על הסכמי רכישת חשמל כדי להפוך את הרשתות שלהן לירוקות. פעילויות המתמקדות בבינה מלאכותית, שלעתים קרובות חדשות יותר ונבנות במיוחד לאימון בקנה מידה גדול, לא תמיד היו בעלות יתרון זהה. עם זאת, חברות כמו CoreWeave ו-Lambda Labs ממקמות יותר ויותר מתקנים ליד מקורות מתחדשים זולים כמו סכרים הידרואלקטריים בצפון מערב האוקיינוס השקט כדי לקזז את צריכת החשמל העצומה שלהן.
הביקוש למחשוב בינה מלאכותית גדל בקצב שצמיחת הענן המסורתית מעולם לא השתווה לו. חלק מהאנליסטים מעריכים שצריכת החשמל הקשורה לבינה מלאכותית עשויה לשלש את עצמה עד 2030, הודות למודלים גדולים יותר ופריסה נרחבת של הסקות מידע. צמיחת הענן המסורתית, למרות שעדיין בריאה, עוקבת אחר עקומה צפויה יותר הקשורה להוצאות ה-IT של הארגונים. משמעות הדבר היא שפליטות של בינה מלאכותית עשויות לעקוף את פליטות הענן המסורתיות באזורים מסוימים בתוך העשור הקרוב אם שיפורי היעילות לא יעמדו בקצב.
רק אימון בינה מלאכותית מייצר פליטות משמעותיות, בעוד שהסקה היא למעשה חופשית.
הסקה למעשה אחראית לרוב טביעת הרגל הפחמנית של בינה מלאכותית לאורך החיים, משום שהיא מתרחשת מיליארדי פעמים ביום במודלים שנפרסו. שאילתת ChatGPT בודדת משתמשת בערך פי 10 באנרגיה מחיפוש גוגל מסורתי, והשאילתות הללו מצטברות במהירות.
מרכזי נתונים מסורתיים בענן כבר ניטרליים מפליטות פחמן.
בעוד שספקים גדולים התחייבו ליעדי אפס נטו, רובם עדיין מסתמכים חלקית על דלקים מאובנים, במיוחד באזורים עם תשתית מתחדשת מוגבלת. טענות ניטרליות פחמן מסתמכות לעתים קרובות במידה רבה על קיזוזים ולא על אנרגיה נקייה בפועל המפעילה את השרתים.
עומסי עבודה של בינה מלאכותית יעילים יותר מענן מסורתי מכיוון שהם טכנולוגיות חדשות יותר.
חדש יותר לא בהכרח אומר ירוק יותר. חומרת בינה מלאכותית צורכת הרבה יותר חשמל לכל שבב, והיקף החישוב העצום הנדרש לאימון והסקת מסקנות הופך את עומסי העבודה של בינה מלאכותית לפליטות פחמן גבוהות משמעותית לכל משימה בהשוואה לרוב פעולות הענן המסורתיות.
מעבר לענן מפחית באופן אוטומטי את פליטות הגזים של חברה.
מעבר לענן יכול לסייע על ידי איחוד עומסי עבודה ושיפור ניצול, אך הוא אינו מבטל פליטות. החשמל עדיין צריך להגיע מאיפשהו, ואם אזור הענן פועל על פחם או גז, טביעת הרגל הפחמנית פשוט משתנה במקום להתכווץ.
כל מרכזי הנתונים משתמשים בערך באותה כמות אנרגיה, ללא קשר למה שהם מפעילים.
צפיפות ההספק משתנה מאוד. מרכז נתונים המתמקד בבינה מלאכותית יכול לצרוך 30 עד 80 קילוואט לכל מתקן, בעוד שמתקן ענן מסורתי עשוי להשתמש רק ב-5 עד 15 קילוואט לכל מתקן. הפרש זה של פי 5 בצפיפות ההספק מתורגם ישירות לצורכי קירור ופרופילי פליטות שונים מאוד.
אם אתם בוחרים בין השניים מבחינת השפעה סביבתית, ענן מסורתי מנצח כיום ביעילות לכל משימה ובאימוץ אנרגיה מתחדשת, אך מחשוב בינה מלאכותית מדביק את הפער במהירות ככל שספקים ממהרים להפוך את ציי ה-GPU שלהם לירוקים. עבור ארגונים הפורסים בינה מלאכותית, בחירת אזורים עם רשתות אנרגיה נקיות ושימוש במודלים יעילים יכולים לצמצם באופן דרמטי את טביעת הרגל. עבור משתמשי ענן מסורתיים, הדרך להפחתת פליטות היא יותר אופטימיזציה של עומסי עבודה ובחירת ספקים עם מחויבות חזקה לקיימות.
RAG ו-LLMs מכוונים עדינים שניהם משפרים את איכות הפלט של בינה מלאכותית אך פועלים בדרכים שונות באופן מהותי. RAG מושך מידע חיצוני בזמן השאילתה, בעוד שכיוונון עדין אופה ידע חדש ישירות לתוך משקלי המודל. הבחירה ביניהם תלויה בתדירות שינוי הנתונים שלך ובסוג הדיוק שאתה צריך.
RAG עם הקשר חזותי מעשיר מודלים של שפה על ידי אחזור תמונות, תרשימים ודיאגרמות לצד טקסט, בעוד ש-RAG טקסטואלי בלבד מסתמך אך ורק על קטעים כתובים. RAG חזותי מצטיין במשימות רב-מודאליות כמו הבנת מסמכים ומענה חזותי לשאלות, בעוד ש-RAG טקסטואלי בלבד נותר פשוט, מהיר וזול יותר לפריסה.
RAG רב-מודאלי מעבד טקסט, תמונות, אודיו ווידאו יחד לאחזור עשיר יותר, בעוד ש-RAG טקסט-בלבד מתמקד אך ורק בתוכן כתוב. הבחירה תלויה בשאלה האם הנתונים ומקרי השימוש שלכם חורגים מעבר למסמכי טקסט רגיל.
"אבולוציה של בינה מלאכותית מונחית מחקר" מתמקדת בשיפורים קבועים ומצטברים בשיטות אימון, קנה מידה של נתונים וטכניקות אופטימיזציה בתוך פרדיגמות בינה מלאכותית קיימות, בעוד ש"שיבוש ארכיטקטורה" מציג שינויים מהותיים באופן שבו מודלים מתוכננים ומחשבים מידע. יחד, הם מעצבים את התקדמות הבינה המלאכותית באמצעות חידוד הדרגתי ושינויים מבניים פורצי דרך מדי פעם.
השוואה זו בוחנת את הפשרות המרכזיות בין מערכות בינה מלאכותית אוטונומיות לחלוטין לבין מסגרות הדורשות פיקוח אנושי, ומדגישה כיצד ארגונים מאזנים בין מהירות עיבוד גולמי לבין אחריות אתית, הפחתת סיכונים וטיפול במקרי קצה בלתי צפויים בסביבות אמיתיות.
