প্রশিক্ষণ খরচ হলো বৃহৎ ভাষা মডেল তৈরির জন্য করা বিশাল এককালীন বিনিয়োগ, অন্যদিকে ইনফারেন্স খরচ হলো প্রতিবার ব্যবহারকারীরা প্রতিক্রিয়া তৈরি করার সময়কার চলমান ব্যয়; এই দুটি মিলে বৃহৎ পরিসরে এআই প্রয়োগের সম্পূর্ণ অর্থনৈতিক চিত্রটি তৈরি করে।
প্রোডাকশনে ব্যবহারকারীর কোয়েরির আউটপুট তৈরি করার জন্য প্রশিক্ষিত এলএলএম চালানোর চলমান খরচ।
ভিত্তি মডেল তৈরি করার জন্য প্রয়োজনীয় কম্পিউট, ডেটা এবং সময়ের বিপুল প্রাথমিক বিনিয়োগ।
| বৈশিষ্ট্য | অনুমান খরচ | প্রশিক্ষণের খরচ |
|---|---|---|
| ব্যয় কাঠামো | ব্যবহার অনুযায়ী মূল্য পরিশোধ করতে হবে, কোয়েরির সাথে সাথে এর পরিসর বাড়ে। | বিশাল অগ্রিম, মূলত স্থির |
| সাধারণ মাত্রা | প্রতি হাজার টোকেনে সেন্ট | সীমান্ত মডেল প্রতি শত মিলিয়ন |
| হার্ডওয়্যার ব্যবহার | অনিয়মিত, চাহিদা-নির্ভর | সপ্তাহ/মাস ধরে অবিচ্ছিন্ন, নিবিড় |
| অপ্টিমাইজেশন ফোকাস | লেটেন্সি, থ্রুপুট, ব্যাচিং | সমান্তরাল দক্ষতা, অভিসরণ গতি |
| ব্যবসায়িক মডেলের প্রভাব | সরাসরি মুনাফা এবং মূল্য নির্ধারণকে প্রভাবিত করে | পণ্যের জীবনকাল জুড়ে অবচয়িত |
| শক্তি ব্যবহারের ধরণ | আকস্মিক, ব্যবহারকারী-চালিত চাহিদা | অবিচ্ছিন্ন, ঘনীভূত বিস্ফোরণ |
| স্কেলিং চ্যালেঞ্জ | ব্যবহারকারী গ্রহণের সাথে রৈখিক | মডেলের উন্নতির সাথে সাবলিনিয়ার |
| প্রাথমিক ব্যয়ের চালক | টোকেন ভলিউম, মডেল সাইজ, কনকারেন্সি | মডেলের পরামিতি, ডেটার পরিমাণ, প্রশিক্ষণের সময়কাল |
প্রশিক্ষণের খরচ অনেকটা কারখানা তৈরির মতো একবারে এসে পড়ে—এর জন্য অগ্রিম মূলধন এবং প্রতিদান পাওয়ার আগে ধৈর্যের প্রয়োজন হয়। অন্যদিকে, অনুমানের খরচ ক্রমাগত অল্প অল্প করে আসতে থাকে, অনেকটা ইউটিলিটি বিল পরিশোধ করার মতো, যা আপনার তৈরি করা প্রযুক্তির ব্যবহারের পরিমাণের সাথে সাথে বাড়তে থাকে। সময়ের এই মৌলিক পার্থক্যটিই এআই কোম্পানিগুলোর তহবিল সংগ্রহ থেকে শুরু করে মূল্য নির্ধারণের কৌশল পর্যন্ত সবকিছুকে প্রভাবিত করে।
প্রশিক্ষণের জন্য সবচেয়ে শক্তিশালী ক্লাস্টারের প্রয়োজন হয়, যা প্রায়শই বিশেষভাবে তৈরি করা হয় এবং এতে হাজার হাজার আন্তঃসংযুক্ত জিপিইউ নিখুঁত সমন্বয়ে কাজ করে। ইনফারেন্স আরও সাধারণ হার্ডওয়্যারেও চালানো যায়, যদিও বৃহৎ পরিসরে এর জন্যও যথেষ্ট পরিকাঠামোর প্রয়োজন হয়—শুধু বিশ্বব্যাপী ব্যবহারকারীদের জন্য লেটেন্সি কমানোর উদ্দেশ্যে এটি অঞ্চলভেদে ভিন্নভাবে বণ্টিত থাকে।
ট্রেনিং ইঞ্জিনিয়াররা গাণিতিক দক্ষতার প্রতি ভীষণভাবে মনোযোগী থাকেন: কনভারজেন্স স্থিতিশীলতা বজায় রেখে কীভাবে প্রতি ডলারে আরও বেশি গ্রেডিয়েন্ট স্টেপ যোগ করা যায়। ইনফারেন্স ইঞ্জিনিয়াররা সম্পূর্ণ ভিন্ন এক জগতে বাস করেন, যেখানে তাঁরা মিলিসেকেন্ডের ল্যাটেন্সির পেছনে ছোটেন এবং ব্যবহারকারীদের অলক্ষ্যে একই ধরনের অনুরোধে গণনা পুনঃব্যবহারের চতুর উপায় বের করেন।
প্রশিক্ষণের খরচের বাধাই ব্যাখ্যা করে কেন হাতেগোনা কয়েকটি কোম্পানি একেবারে গোড়া থেকে ভিত্তি মডেল তৈরি করে, যেখানে শত শত কোম্পানি তা ব্যবহার করে। একবার প্রশিক্ষিত হয়ে গেলে, একটি মডেল পরিবেশনের প্রান্তিক খরচই প্রতিযোগিতার মূল ক্ষেত্র হয়ে ওঠে—গুগল এবং অ্যান্থনির সাথে ওপেনএআই-এর এপিআই মূল্যের লড়াই সরাসরি ইনফারেন্স খরচের চাপকেই প্রতিফলিত করে।
একটি বৃহৎ আকারের মডেলের একক প্রশিক্ষণ পর্ব থেকে যে কার্বন নিঃসরণ হয়, তা শত শত গাড়ি এক বছর চালানোর সমতুল্য। ইনফারেন্স তার প্রভাব লক্ষ লক্ষ ব্যবহারকারীর মধ্যে ছড়িয়ে দেয়, যার ফলে স্বতন্ত্র কোয়েরিগুলোকে নগণ্য মনে হলেও, এআই-এর ব্যবহার দ্রুত বাড়ার সাথে সাথে সম্মিলিতভাবে তা বৃহত্তর পরিবেশগত প্রভাব ফেলে।
এলএলএম ব্যবসা পরিচালনার ক্ষেত্রে প্রশিক্ষণই সবসময় সবচেয়ে ব্যয়বহুল অংশ।
অধিকাংশ সফল এআই পণ্যের ক্ষেত্রে, ইনফারেন্স খরচ দ্রুত ট্রেনিং বিনিয়োগকে ছাড়িয়ে যায়। লক্ষ লক্ষ দৈনিক ব্যবহারকারীকে পরিষেবা দেওয়া একটি মডেল কয়েক সপ্তাহের ইনফারেন্সেই তার ট্রেনিং খরচের সমপরিমাণ অর্থ খরচ করে ফেলতে পারে। প্রোডাক্ট-মার্কেট ফিট অর্জনের পর এই অনুপাতটি নাটকীয়ভাবে উল্টে যায়।
ইনফারেন্সের ক্ষেত্রে বড় মডেল চালাতে সবসময় বেশি খরচ হয়।
যদিও বড় মডেলগুলির জন্য প্রতি টোকেনে বেশি কম্পিউট প্রয়োজন হয়, মিক্সচার-অফ-এক্সপার্টস আর্কিটেকচারের মতো কৌশলগুলি প্রতি কোয়েরিতে মডেলের কেবল অংশবিশেষ সক্রিয় করে। গুগলের জেমিনি স্পার্স অ্যাক্টিভেশন ব্যবহার করে ডেন্স বিকল্পগুলির চেয়ে আরও সাশ্রয়ীভাবে বিশাল মডেল পরিবেশন করে।
একবার প্রশিক্ষিত হয়ে গেলে, একটি মডেলের খরচ মূলত স্থির হয়ে যায়।
বাস্তবায়নের মান, ব্যাচিং কৌশল, হার্ডওয়্যারের পছন্দ এবং এমনকি আউটপুটের দৈর্ঘ্যকে প্রভাবিত করে এমন প্রম্পট ইঞ্জিনিয়ারিংয়ের উপর ভিত্তি করে ইনফারেন্সের খরচ ব্যাপকভাবে পরিবর্তিত হয়। পরিচালনগত উৎকর্ষ বা এর অভাবের কারণে একই মডেল ব্যবহারকারী দুটি কোম্পানির খরচের পার্থক্য ১০ গুণ পর্যন্ত হতে পারে।
প্রযুক্তি সংস্থাগুলো থেকে পাওয়া প্রশিক্ষণের খরচের অনুমান নির্ভরযোগ্য এবং স্বচ্ছ।
প্রকাশিত পরিসংখ্যানে প্রায়শই গবেষণার পুনরাবৃত্তি, ব্যর্থ প্রচেষ্টা, তথ্য সংগ্রহ এবং প্রকৌশলীদের বেতন অন্তর্ভুক্ত থাকে না। চূড়ান্ত প্রশিক্ষণ পর্বকে সমর্থনকারী সম্পূর্ণ গবেষণা ও উন্নয়ন (R&D) পরিকাঠামোকে অন্তর্ভুক্ত করলে, GPT-4 তৈরির প্রকৃত খরচ সম্ভবত জনসমক্ষে উল্লিখিত সংখ্যাকে উল্লেখযোগ্যভাবে ছাড়িয়ে যায়।
অন-প্রেমিস ডেপ্লয়মেন্ট ইনফারেন্স খরচ দূর করে।
ক্লাউড এপিআই মার্কআপগুলো অদৃশ্য হয়ে গেলেও, হার্ডওয়্যার, বিদ্যুৎ, কুলিং এবং রক্ষণাবেক্ষণের জন্য মূলধনী ব্যয় সেগুলোর স্থান নেয়। মোট মালিকানা ব্যয়ের হিসাব প্রায়শই পরিবর্তনশীল ওয়ার্কলোডের জন্য ক্লাউডকে এবং শুধুমাত্র অত্যন্ত অনুমানযোগ্য ও উচ্চ-পরিমাণের পরিস্থিতির জন্য অন-প্রেমিসকে সুবিধাজনক বলে মনে করে।
স্বতন্ত্র নিজস্ব সক্ষমতা তৈরি করার সময় অথবা ব্যাপক পরিসরে কাজ করার সময় প্রশিক্ষণে বিনিয়োগ করুন, যেখানে উল্লম্ব একীকরণ (ভার্টিক্যাল ইন্টিগ্রেশন) লাভজনক হয়। বিদ্যমান মডেলগুলো স্থাপন করার সময় ইনফারেন্স খরচ অপ্টিমাইজেশনকে অগ্রাধিকার দিন, বিশেষ করে উচ্চ-ভলিউম অ্যাপ্লিকেশনগুলির জন্য, যেখানে প্রতি-কোয়েরি অর্থনীতি লাভজনকতা নির্ধারণ করে। বেশিরভাগ সংস্থা ফাউন্ডেশন মডেলগুলোর লাইসেন্সিং করে এবং ইঞ্জিনিয়ারিং রিসোর্সগুলোকে ইনফারেন্স দক্ষতার উপর কেন্দ্রীভূত করে বিচক্ষণতার সাথে প্রশিক্ষণের খরচ সম্পূর্ণরূপে এড়িয়ে চলে।
CLIP এমবেডিং একটি অভিন্ন শব্দার্থিক পরিসরে ছবি ও লেখা বোঝার জন্য ডিপ লার্নিং ব্যবহার করে, অন্যদিকে কীওয়ার্ড-ভিত্তিক ছবি পুনরুদ্ধার পদ্ধতি হাতে-কলমে নির্ধারিত ট্যাগ বা পারিপার্শ্বিক লেখা মেলানোর ওপর নির্ভর করে। আধুনিক ভিজ্যুয়াল সার্চের কাজগুলোর জন্য CLIP অনেক বেশি নমনীয়তা ও নির্ভুলতা প্রদান করে, অপরদিকে কীওয়ার্ড পদ্ধতিগুলো সংকীর্ণ ও সুসংগঠিত প্রেক্ষাপটেই কার্যকর থাকে।
PPO-তে পলিসি ক্লিপিং প্রতিটি আপডেটের সময় একটি নতুন পলিসি পুরানোটি থেকে কতটা বিচ্যুত হতে পারে তা সীমাবদ্ধ করে, যা প্রশিক্ষণকে স্থিতিশীল রাখে। সীমাহীন পলিসি আপডেট নতুন পলিসিকে অবাধে স্থানান্তরিত হতে দেয়, যা শেখার গতি বাড়াতে পারে কিন্তু প্রায়শই জটিল পরিবেশে অস্থিতিশীলতা বা পতনের কারণ হয়।
RAG এবং ফাইন-টিউনড LLM উভয়ই AI আউটপুটের মান উন্নত করে, কিন্তু এদের কাজের পদ্ধতি মৌলিকভাবে ভিন্ন। RAG কোয়েরি করার সময় বাহ্যিক তথ্য ব্যবহার করে, অন্যদিকে ফাইন-টিউনিং নতুন জ্ঞানকে সরাসরি মডেলের ওয়েট-এর মধ্যে অন্তর্ভুক্ত করে। এদের মধ্যে কোনটি বেছে নেবেন, তা নির্ভর করে আপনার ডেটা কত ঘন ঘন পরিবর্তিত হয় এবং আপনার কী ধরনের নির্ভুলতা প্রয়োজন তার উপর।
RAG-এ ইমেজ গ্রাউন্ডিং, ডকুমেন্ট থেকে সংগৃহীত ভিজ্যুয়াল প্রমাণের উপর ভিত্তি করে AI-এর প্রতিক্রিয়াকে স্থির করে, যা বিভ্রম কমায় এবং তথ্যের নির্ভুলতা বাড়ায়। অন্যদিকে, ভিত্তিহীন টেক্সট জেনারেশন শুধুমাত্র ট্রেনিং ডেটা থেকে প্রাপ্ত প্যারামেট্রিক জ্ঞানের উপর নির্ভর করে, যার ফলে সাবলীল কিন্তু যাচাইযোগ্য উৎসবিহীন এবং সম্ভাব্য মনগড়া আউটপুট তৈরি হয়।
এই তুলনামূলক আলোচনায় অগমেন্টেড রিয়েলিটি (এআর) ডেটা, যা বাস্তব পরিবেশের উপর কৃত্রিম, ডিজিটালভাবে তৈরি উপাদান স্থাপন করে, এবং রিয়েল ক্যামেরা ডেটা, যা সম্পূর্ণরূপে বাস্তব ইমেজ সেন্সর দ্বারা ধারণ করা কাঁচা, অপরিবর্তিত পিক্সেল স্ট্রিমের উপর নির্ভর করে—এই দুইয়ের মধ্যে কৃত্রিম বুদ্ধিমত্তা প্রশিক্ষণের পার্থক্যগুলো বিশদভাবে তুলে ধরা হয়েছে।
