এআই কম্পিউট থেকে নির্গত শক্তি মূলত বড় মডেল প্রশিক্ষণের জন্য ব্যবহৃত শক্তি-ক্ষুধার্ত জিপিইউ ক্লাস্টার থেকে আসে, অন্যদিকে প্রচলিত ক্লাউড থেকে নির্গত শক্তি আসে সাধারণ ডেটা সেন্টার থেকে, যা দৈনন্দিন ওয়ার্কলোড পরিচালনা করে। এআই ওয়ার্কলোড প্রতিটি কাজের জন্য অনেক বেশি শক্তি খরচ করে, কিন্তু প্রচলিত ক্লাউড অনেক বৃহত্তর সামগ্রিক পরিসরে চলে।
জিপিইউ এবং টিপিইউ-এর মতো বিশেষায়িত হার্ডওয়্যারে কৃত্রিম বুদ্ধিমত্তা মডেল প্রশিক্ষণ ও চালানোর ফলে সৃষ্ট কার্বন পদচিহ্ন।
ওয়েবসাইট, অ্যাপ, ডেটাবেস এবং এন্টারপ্রাইজ সফটওয়্যার হোস্টকারী সাধারণ ডেটা সেন্টারগুলো থেকে কার্বন নির্গমন হয়।
| বৈশিষ্ট্য | এআই কম্পিউট নির্গমন | ঐতিহ্যবাহী মেঘ নির্গমন |
|---|---|---|
| প্রাথমিক হার্ডওয়্যার | জিপিইউ এবং টিপিইউ (এআই অ্যাক্সিলারেটর) | সিপিইউ এবং সাধারণ-উদ্দেশ্য সার্ভার |
| প্রতি র্যাকের শক্তি | প্রতি র্যাকে ৩০ থেকে ৮০ কিলোওয়াট | প্রতি র্যাকে ৫ থেকে ১৫ কিলোওয়াট |
| প্রতি কাজের জন্য শক্তি | অত্যন্ত উচ্চ (একটি মডেলকে প্রশিক্ষণ দিতে টন টন কার্বন ডাই অক্সাইড প্রয়োজন হয়) | মাঝারি (কাজের চাপের উপর নির্ভর করে) |
| শীতলীকরণের চাহিদা | খুব উচ্চ, প্রায়শই তরল শীতলীকরণ | বায়ু শীতলীকরণ সাধারণত যথেষ্ট |
| কাজের চাপের ধরণ | মডেল প্রশিক্ষণ এবং অনুমান | ওয়েব হোস্টিং, ডেটাবেস, SaaS অ্যাপস |
| ব্যবহারের হার | প্রায়শই ৩০ থেকে ৫০ শতাংশ | সাধারণত ৪০ থেকে ৬০ শতাংশ |
| নবায়নযোগ্য শক্তি গ্রহণ | কম শতাংশ, দ্রুত বাড়ছে | কিছু অঞ্চলে এই হার বেশি, ৬০ থেকে ৯০ শতাংশ। |
| বৃদ্ধির গতিপথ | বিস্ফোরক, প্রতি কয়েক মাসে দ্বিগুণ হচ্ছে | স্থিতিশীল, বার্ষিক প্রায় ১০ থেকে ২০ শতাংশ। |
| জল ব্যবহার | উচ্চ (এআই চিপস শীতল করা) | মাঝারি (ঐতিহ্যবাহী শীতলীকরণ) |
এআই কম্পিউট ম্যাট্রিক্স ম্যাথের জন্য ডিজাইন করা ম্যাসিভলি প্যারালাল প্রসেসরের উপর চলে, এবং এই চিপগুলো প্রচুর শক্তি খরচ করে। একটি একক এনভিডিয়া এইচ১০০ সম্পূর্ণ লোডে ৭০০ ওয়াট পর্যন্ত শক্তি খরচ করতে পারে, এবং এরকম আটটি চিপ দিয়ে ঠাসা র্যাক ৫০ কিলোওয়াট বা তারও বেশি শক্তি খরচ করতে পারে। এর বিপরীতে, প্রচলিত ক্লাউড সার্ভারগুলো আরও পরিমিতভাবে শক্তি ব্যবহার করে, কারণ এগুলো প্রায়শই এমন সিপিইউ-তে চলে যা নিষ্ক্রিয় অবস্থায়ও দক্ষতার সাথে কাজ করে এবং ক্রমাগত সর্বোচ্চ থ্রুপুটের প্রয়োজন ছাড়াই বিভিন্ন ধরনের ওয়ার্কলোড সামলাতে পারে। শুধুমাত্র হার্ডওয়্যারের এই পার্থক্যের কারণেই এআই ওয়ার্কলোডগুলো প্রতি ইউনিট কাজের জন্য কয়েকগুণ বেশি শক্তি-ক্ষুধার্ত।
গবেষকরা যখন বড় ল্যাঙ্গুয়েজ মডেলের ট্রেনিং চলাকালীন নির্গমন পরিমাপ করেন, তখন এর পরিমাণ ছিল বিস্ময়কর। GPT-3 আকারের একটি মডেলের একটিমাত্র ট্রেনিং রান শত শত টন CO2 সমতুল্য নির্গমন করতে পারে। একটি ওয়েবপেজ পরিবেশন করা বা ডাটাবেস কোয়েরি চালানোর মতো প্রচলিত ক্লাউড টাস্কগুলো প্রতি অনুরোধে এর একটি অতি ক্ষুদ্র অংশ উৎপাদন করে। তবে, প্রচলিত ক্লাউড অনেক বেশি পরিমাণে চলে, তাই প্রতি-টাস্ক নির্গমনের পরিমাণ অনেক ভিন্ন হলেও, সামগ্রিক পদচিহ্ন পরম মানের দিক থেকে তুলনীয় হয়ে দাঁড়ায়।
জিপিইউ প্রচণ্ড তাপ উৎপন্ন করে, যার ফলে তাপমাত্রা সহনীয় রাখতে এআই ডেটা সেন্টারগুলোতে প্রায়শই লিকুইড কুলিং বা এমনকি ইমার্সন সিস্টেমের প্রয়োজন হয়। এই শীতলীকরণ প্রক্রিয়ায় বিপুল পরিমাণ পানি ও বিদ্যুৎ খরচ হয়। প্রচলিত ক্লাউড ব্যবস্থাগুলো মূলত এয়ার কুলিং এবং চিলারের ওপর নির্ভর করে, যেগুলোতে কম পানি ও শক্তি ব্যবহৃত হয়। অ্যারিজোনার মতো খরাপ্রবণ অঞ্চলে এআই ডেটা সেন্টারগুলোর পানির চাহিদা ইতিমধ্যেই স্থানীয় সম্প্রদায়ের বিরোধিতা এবং নিয়ন্ত্রক সংস্থার কড়া নজরদারির জন্ম দিয়েছে।
গুগল এবং মাইক্রোসফটের মতো ঐতিহ্যবাহী ক্লাউড জায়ান্টরা তাদের গ্রিডকে পরিবেশবান্ধব করতে বছরের পর বছর ধরে নবায়নযোগ্য শক্তির চুক্তি এবং বিদ্যুৎ ক্রয় চুক্তি স্বাক্ষর করে আসছে। কৃত্রিম বুদ্ধিমত্তা-কেন্দ্রিক কার্যক্রমগুলো, যেগুলো প্রায়শই নতুন এবং বিশেষভাবে হাইপারস্কেল প্রশিক্ষণের জন্য নির্মিত, তারা সবসময় একই রকম অগ্রগামিতা পায়নি। তা সত্ত্বেও, কোরউইভ এবং ল্যাম্বডা ল্যাবসের মতো কোম্পানিগুলো তাদের বিপুল বিদ্যুৎ খরচের ভারসাম্য রক্ষার জন্য প্রশান্ত মহাসাগরীয় উত্তর-পশ্চিম অঞ্চলের জলবিদ্যুৎ বাঁধের মতো সস্তা নবায়নযোগ্য উৎসের কাছাকাছি তাদের স্থাপনাগুলো ক্রমবর্ধমানভাবে স্থাপন করছে।
এআই কম্পিউটিং-এর চাহিদা এমন গতিতে বাড়ছে, যা প্রচলিত ক্লাউডের বৃদ্ধির সাথে কখনোই তাল মেলাতে পারেনি। কিছু বিশ্লেষকের অনুমান, বৃহত্তর মডেল এবং ব্যাপক ইনফারেন্স ডেপ্লয়মেন্টের কারণে ২০৩০ সালের মধ্যে এআই-সম্পর্কিত বিদ্যুৎ খরচ তিনগুণ হতে পারে। প্রচলিত ক্লাউডের বৃদ্ধি এখনও ভালো হলেও, তা এন্টারপ্রাইজ আইটি খরচের সাথে যুক্ত একটি আরও অনুমানযোগ্য গতিপথ অনুসরণ করে। এর অর্থ হলো, যদি দক্ষতার উন্নতি এর সাথে তাল মিলিয়ে না চলে, তবে আগামী দশকের মধ্যেই নির্দিষ্ট কিছু অঞ্চলে এআই থেকে নির্গমন প্রচলিত ক্লাউড থেকে নির্গমনকে ছাড়িয়ে যেতে পারে।
শুধুমাত্র এআই প্রশিক্ষণই উল্লেখযোগ্য পরিমাণে নির্গমন ঘটায়, অপরদিকে ইনফারেন্স প্রক্রিয়াটি মূলত বিনামূল্যে সম্পন্ন হয়।
প্রকৃতপক্ষে, কৃত্রিম বুদ্ধিমত্তার (AI) জীবনকালের কার্বন পদচিহ্নের সিংহভাগই এর অনুমানের (Inference) কারণে হয়ে থাকে, কারণ ব্যবহৃত মডেলগুলোতে এটি প্রতিদিন শত শত কোটি বার ঘটে। একটিমাত্র ChatGPT কোয়েরি একটি প্রচলিত গুগল সার্চের চেয়ে প্রায় ১০ গুণ বেশি শক্তি ব্যবহার করে, এবং এই কোয়েরিগুলোর পরিমাণ দ্রুত বাড়তে থাকে।
প্রচলিত ক্লাউড ডেটা সেন্টারগুলো ইতিমধ্যেই কার্বন-নিরপেক্ষ।
যদিও প্রধান পরিষেবা প্রদানকারীরা নেট-জিরো লক্ষ্যমাত্রার প্রতিশ্রুতি দিয়েছে, তাদের অধিকাংশই এখনও আংশিকভাবে জীবাশ্ম জ্বালানির উপর নির্ভর করে, বিশেষ করে সীমিত নবায়নযোগ্য অবকাঠামোযুক্ত অঞ্চলগুলিতে। কার্বন-নিরপেক্ষতার দাবিগুলো প্রায়শই সার্ভার চালনার জন্য ব্যবহৃত প্রকৃত পরিচ্ছন্ন শক্তির পরিবর্তে ক্ষতিপূরণের উপর ব্যাপকভাবে নির্ভর করে।
প্রচলিত ক্লাউডের তুলনায় এআই ওয়ার্কলোডগুলো বেশি কার্যকর, কারণ এগুলো নতুন প্রযুক্তি।
নতুন মানেই যে পরিবেশবান্ধব, তা নয়। এআই হার্ডওয়্যার প্রতি চিপে অনেক বেশি শক্তি খরচ করে, এবং ট্রেনিং ও ইনফারেন্সের জন্য প্রয়োজনীয় বিপুল পরিমাণ কম্পিউটেশনের কারণে, এআই ওয়ার্কলোডগুলো বেশিরভাগ প্রচলিত ক্লাউড অপারেশনের তুলনায় প্রতি টাস্কে উল্লেখযোগ্যভাবে বেশি কার্বন-নিবিড়।
ক্লাউডে স্থানান্তরিত হলে একটি কোম্পানির নির্গমন স্বয়ংক্রিয়ভাবে হ্রাস পায়।
ক্লাউড মাইগ্রেশন ওয়ার্কলোড একত্রিত করে এবং ব্যবহার উন্নত করে সাহায্য করতে পারে, কিন্তু এটি কার্বন নিঃসরণ পুরোপুরি বন্ধ করে না। বিদ্যুৎ তো কোনো না কোনো উৎস থেকে আসতেই হবে, এবং ক্লাউড অঞ্চলটি যদি কয়লা বা গ্যাসে চলে, তবে কার্বন ফুটপ্রিন্ট সংকুচিত না হয়ে কেবল স্থানান্তরিত হয়।
সব ডেটা সেন্টার কী চালাচ্ছে তা নির্বিশেষে প্রায় একই পরিমাণ শক্তি ব্যবহার করে।
পাওয়ার ডেনসিটি ব্যাপকভাবে পরিবর্তিত হয়। একটি এআই-কেন্দ্রিক ডেটা সেন্টার প্রতি র্যাকে ৩০ থেকে ৮০ কিলোওয়াট শক্তি ব্যবহার করতে পারে, যেখানে একটি প্রচলিত ক্লাউড ফ্যাসিলিটি প্রতি র্যাকে মাত্র ৫ থেকে ১৫ কিলোওয়াট ব্যবহার করে। পাওয়ার ডেনসিটির এই ৫ গুণ পার্থক্যের ফলে শীতলীকরণের প্রয়োজনীয়তা এবং নির্গমনের ধরনেও সরাসরি ব্যাপক ভিন্নতা দেখা যায়।
পরিবেশগত প্রভাবের জন্য যদি দুটির মধ্যে একটিকে বেছে নিতে হয়, তবে বর্তমানে প্রচলিত ক্লাউড প্রতি-কাজের দক্ষতা এবং নবায়নযোগ্য শক্তি ব্যবহারের ক্ষেত্রে এগিয়ে আছে, কিন্তু এআই কম্পিউট দ্রুত এগিয়ে আসছে কারণ পরিষেবা প্রদানকারীরা তাদের জিপিইউ ফ্লিটকে পরিবেশবান্ধব করার প্রতিযোগিতায় নেমেছে। যে সংস্থাগুলো এআই ব্যবহার করছে, তারা পরিবেশবান্ধব শক্তি গ্রিডযুক্ত অঞ্চল নির্বাচন এবং দক্ষ মডেল ব্যবহার করে তাদের কার্বন ফুটপ্রিন্ট নাটকীয়ভাবে কমাতে পারে। প্রচলিত ক্লাউড ব্যবহারকারীদের জন্য, কার্বন নিঃসরণ কমানোর পথটি মূলত ওয়ার্কলোড অপটিমাইজেশন এবং টেকসই উন্নয়নে দৃঢ় প্রতিশ্রুতিবদ্ধ পরিষেবা প্রদানকারী বেছে নেওয়ার উপর নির্ভরশীল।
CLIP এমবেডিং একটি অভিন্ন শব্দার্থিক পরিসরে ছবি ও লেখা বোঝার জন্য ডিপ লার্নিং ব্যবহার করে, অন্যদিকে কীওয়ার্ড-ভিত্তিক ছবি পুনরুদ্ধার পদ্ধতি হাতে-কলমে নির্ধারিত ট্যাগ বা পারিপার্শ্বিক লেখা মেলানোর ওপর নির্ভর করে। আধুনিক ভিজ্যুয়াল সার্চের কাজগুলোর জন্য CLIP অনেক বেশি নমনীয়তা ও নির্ভুলতা প্রদান করে, অপরদিকে কীওয়ার্ড পদ্ধতিগুলো সংকীর্ণ ও সুসংগঠিত প্রেক্ষাপটেই কার্যকর থাকে।
PPO-তে পলিসি ক্লিপিং প্রতিটি আপডেটের সময় একটি নতুন পলিসি পুরানোটি থেকে কতটা বিচ্যুত হতে পারে তা সীমাবদ্ধ করে, যা প্রশিক্ষণকে স্থিতিশীল রাখে। সীমাহীন পলিসি আপডেট নতুন পলিসিকে অবাধে স্থানান্তরিত হতে দেয়, যা শেখার গতি বাড়াতে পারে কিন্তু প্রায়শই জটিল পরিবেশে অস্থিতিশীলতা বা পতনের কারণ হয়।
RAG এবং ফাইন-টিউনড LLM উভয়ই AI আউটপুটের মান উন্নত করে, কিন্তু এদের কাজের পদ্ধতি মৌলিকভাবে ভিন্ন। RAG কোয়েরি করার সময় বাহ্যিক তথ্য ব্যবহার করে, অন্যদিকে ফাইন-টিউনিং নতুন জ্ঞানকে সরাসরি মডেলের ওয়েট-এর মধ্যে অন্তর্ভুক্ত করে। এদের মধ্যে কোনটি বেছে নেবেন, তা নির্ভর করে আপনার ডেটা কত ঘন ঘন পরিবর্তিত হয় এবং আপনার কী ধরনের নির্ভুলতা প্রয়োজন তার উপর।
RAG-এ ইমেজ গ্রাউন্ডিং, ডকুমেন্ট থেকে সংগৃহীত ভিজ্যুয়াল প্রমাণের উপর ভিত্তি করে AI-এর প্রতিক্রিয়াকে স্থির করে, যা বিভ্রম কমায় এবং তথ্যের নির্ভুলতা বাড়ায়। অন্যদিকে, ভিত্তিহীন টেক্সট জেনারেশন শুধুমাত্র ট্রেনিং ডেটা থেকে প্রাপ্ত প্যারামেট্রিক জ্ঞানের উপর নির্ভর করে, যার ফলে সাবলীল কিন্তু যাচাইযোগ্য উৎসবিহীন এবং সম্ভাব্য মনগড়া আউটপুট তৈরি হয়।
এই তুলনামূলক আলোচনায় অগমেন্টেড রিয়েলিটি (এআর) ডেটা, যা বাস্তব পরিবেশের উপর কৃত্রিম, ডিজিটালভাবে তৈরি উপাদান স্থাপন করে, এবং রিয়েল ক্যামেরা ডেটা, যা সম্পূর্ণরূপে বাস্তব ইমেজ সেন্সর দ্বারা ধারণ করা কাঁচা, অপরিবর্তিত পিক্সেল স্ট্রিমের উপর নির্ভর করে—এই দুইয়ের মধ্যে কৃত্রিম বুদ্ধিমত্তা প্রশিক্ষণের পার্থক্যগুলো বিশদভাবে তুলে ধরা হয়েছে।
