LLM های مبتنی بر ابزار، مدلهای زبانی مستقل را با اتصال آنها به APIهای خارجی، ماشینحسابها و پایگاههای داده گسترش میدهند و بازیابی اطلاعات و اجرای وظایف را در زمان واقعی امکانپذیر میسازند. LLM های مستقل صرفاً به پارامترهای آموزشدیده خود متکی هستند و آنها را مستقل اما محدود به دانش حاصل از دادههای آموزشی میکنند.
مدلهای زبانی با دسترسی به ابزار خارجی برای دادههای بلادرنگ و اجرای وظایف بهبود یافتهاند.
مدلهای زبانی مستقل که پاسخها را صرفاً از پارامترهای آموزشدیده خود تولید میکنند.
| ویژگی | LLM های با استفاده از ابزار | LLM های مستقل |
|---|---|---|
| منبع دانش | دادههای آموزشی + ابزارها و APIهای خارجی | فقط دادههای آموزشی |
| اطلاعات بلادرنگ | بله، از طریق جستجوی وب و API های زنده | خیر، محدود به حد نصاب آموزشی |
| میزان توهم | برای پرسشهای واقعی با تأیید، پایینتر | برای موضوعات جدید یا خاص، بالاتر است |
| پیچیدگی استقرار | بالاتر، نیاز به تنظیم API دارد | استنتاج تک مدلی پایینتر |
| هزینه عملیاتی | به دلیل تماسهای متعدد با سرویس، بالاتر است | هزینه استنتاج واحد پایینتر |
| تأخیر | بالاتر، بستگی به زمان پاسخ ابزار دارد | تولید مستقیم و پایینتر |
| تطبیقپذیری وظایف | میتواند اقدامات را اجرا کند و دادههای زنده را بازیابی کند | محدود به تولید متن و استدلال |
| قابلیت آفلاین | محدود و بدون پاسخهای ابزار ذخیره شده | کاملاً کاربردی آفلاین |
| سیستمهای نمونه | GPT-4 با ابزارها، کلود با MCP، ماموران LangChain | GPT-3.5، لاما ۳، میسترال، پایه PaLM |
مدلهای LLM مستقل منحصراً از الگوهای کدگذاری شده در طول آموزش استفاده میکنند، به این معنی که درک آنها از جهان در یک تاریخ پایان مشخص متوقف میشود. مدلهای LLM که از ابزار استفاده میکنند، با پرس و جو از موتورهای جستجو، پایگاههای دانش و پایگاههای داده تخصصی بر اساس تقاضا، بر این محدودیت غلبه میکنند. وقتی در مورد آب و هوای امروز یا آخرین قیمت سهام سوال میکنید، یک مدل مستقل یا حدس میزند یا به جهل خود اعتراف میکند، در حالی که یک مدل مبتنی بر ابزار میتواند دادههای دقیق و بهروز را دریافت کند. این تفاوت اساسی، موارد استفادهای را که هر معماری به خوبی از عهده آنها برمیآید، شکل میدهد.
سیستمهای مبتنی بر ابزار معمولاً خروجیهای واقعی قابل اعتمادتری تولید میکنند، زیرا میتوانند قبل از پاسخگویی، ادعاهای خود را با منابع معتبر مقایسه کنند. یک مدل مستقل ممکن است با اطمینان آمار قدیمی را بیان کند یا استنادهای به ظاهر قابل قبولی ارائه دهد. با این حال، LLM های مبتنی بر ابزار نیز در برابر خطا مصون نیستند. آنها میتوانند نتایج جستجو را اشتباه تفسیر کنند یا از نقطه پایانی API اشتباه استفاده کنند. مزیت اصلی، قابلیت تأیید است: مدلهای مبتنی بر ابزار میتوانند کار خود را با استناد به منابع بازیابی شده نشان دهند، در حالی که مدلهای مستقل چنین شفافیتی را ارائه نمیدهند.
LLM های مستقل به دلیل سرعت و سادگی اولیه برنده میشوند، زیرا یک مسیر رو به جلو، پاسخ را بدون هیچ گونه فراخوانی شبکهای تولید میکند. معماریهای مبتنی بر ابزار، تأخیر ناشی از هر فراخوانی سرویس خارجی را ایجاد میکنند و برای مدیریت صحیح خطاها، نیاز به هماهنگی دقیق دارند. هزینهها به سرعت چند برابر میشوند، زمانی که یک عامل برای هر پرس و جو چندین فراخوانی ابزار انجام میدهد، به خصوص با API های پولی. برای برنامههای کاربردی با حجم بالا و حساس به تأخیر مانند رباتهای چت که به میلیونها کاربر خدمترسانی میکنند، مدلهای مستقل اغلب با وجود محدودیتهای دانش خود، انتخاب عملی باقی میمانند.
نوشتن خلاقانه، طوفان فکری، تولید کد از الگوهای موجود و مکالمه عمومی، همگی به زیبایی با LLM های مستقل کار میکنند. سیستمهای استفاده از ابزار در گردشهای کاری عاملمحور میدرخشند: دستیاران تحقیقاتی که گزارشها را گردآوری میکنند، رباتهای خدمات مشتری که به پایگاههای داده حسابها دسترسی دارند و خطوط لوله اتوماسیون که با نرمافزار تعامل دارند. انتخاب واقعاً به این بستگی دارد که آیا برنامه شما نیاز به اقدام در جهان دارد یا صرفاً در مورد آن بحث میکند. بسیاری از سیستمهای تولیدی اکنون هر دو رویکرد را با هم ترکیب میکنند، از مدلهای مستقل برای پرسوجوهای معمول استفاده میکنند و برای کارهای پیچیده به عاملهای استفاده از ابزار ارتقا مییابند.
LLM های مستقل، سطح حمله محدودی را ارائه میدهند، زیرا کد خارجی را اجرا نمیکنند یا به سیستمهای حساس دسترسی ندارند. LLM های استفادهکننده از ابزار، این سطح را به میزان قابل توجهی گسترش میدهند، زیرا ادغام ابزارهای آسیبپذیر میتواند دادهها را استخراج کند یا اقدامات ناخواستهای را ایجاد کند. شرکتهایی که سیستمهای عامل را مستقر میکنند، باید مرزهای مجوز سختگیرانه، اعتبارسنجی ورودی و ثبت ممیزی را برای هر فراخوانی ابزار پیادهسازی کنند. این پیچیدگی اضافی زمانی توجیه میشود که افزایش بهرهوری از سربار امنیتی بیشتر باشد، اما برای صنایع تحت نظارت، یک ملاحظه غیر بدیهی است.
LLM های استفاده کننده از ابزار هرگز دچار توهم نمی شوند زیرا آنها در وب جستجو می کنند.
حتی با دسترسی به وب، LLM های استفاده کننده از ابزار میتوانند اطلاعات بازیابی شده را اشتباه تفسیر کنند، به منابع غیرقابل اعتماد استناد کنند یا وقتی نتایج جستجو مبهم هستند، جزئیات را جعل کنند. ابزارها توهم را کاهش میدهند اما از بین نمیبرند، به خصوص برای پرسوجوهایی که نیاز به ترکیب در چندین منبع دارند.
دورههای LLM مستقل برای پرسشهای واقعی کاملاً بیفایده هستند.
مدلهای مستقل مدرن که بر روی مجموعه دادههای گردآوریشده آموزش داده میشوند، میتوانند به بسیاری از سوالات واقعی، بهویژه در مورد موضوعات کاملاً تثبیتشده، بهطور دقیق پاسخ دهند. نقطه ضعف آنها عمدتاً در رویدادهای اخیر، اطلاعات اختصاصی یا حوزههای بهسرعت در حال تحول است که در آنها دادههای آموزشی قدیمی میشوند.
LLM های استفاده کننده از ابزار همیشه می دانند برای هر کار مشخص از کدام ابزار استفاده کنند.
انتخاب ابزار، خود یک رفتار آموختهشده است و مدلها میتوانند ابزارهای نامناسبی را انتخاب کنند، آرگومانهای نادرستی را ارسال کنند یا در تشخیص زمان نیاز به یک ابزار شکست بخورند. استفاده مؤثر از ابزار نیازمند مهندسی دقیق و سریع و اغلب تنظیم دقیق نمونههای فراخوانی ابزار است.
افزودن ابزارها به یک LLM به طور خودکار آن را به یک عامل هوش مصنوعی تبدیل میکند.
عاملهای واقعی برنامهریزی مستقل، استدلال چند مرحلهای و رفتار هدفمند را از خود نشان میدهند. صرفاً دادن دسترسی به یک API مدل، آن را عاملمند نمیکند؛ سیستم برای تجزیه وظایف، مدیریت شکستها و تکرار به سمت اهداف، به منطق هماهنگسازی نیاز دارد.
اکنون که مدلهای مبتنی بر ابزار وجود دارند، LLM های مستقل منسوخ شدهاند.
LLM های مستقل همچنان پایه و اساس پشته هوش مصنوعی هستند. اکثر سیستمهای مبتنی بر ابزار بر اساس مدلهای مستقل ساخته میشوند و بسیاری از استقرارهای تولیدی، سادگی را بر قابلیت ترجیح میدهند. این دو رویکرد مکمل یکدیگر هستند نه رقیب.
زمانی که برنامه شما به اطلاعات فعلی نیاز دارد، نیاز به تعامل با سیستمهای خارجی دارد یا باید اقداماتی فراتر از تولید متن انجام دهد، LLM های مبتنی بر ابزار را انتخاب کنید. LLM های مستقل همچنان برای استقرارهای حساس به تأخیر، سناریوهای آفلاین و وظایفی که در آنها استدلال خلاق بیش از دقت واقعی اهمیت دارد، مناسبتر هستند. بسیاری از سازمانها دریافتهاند که مسیر بهینه، یک سیستم ترکیبی است که پرسوجوها را به هر رویکردی که به بهترین وجه با درخواست مطابقت دارد، هدایت میکند.
LLM های متن باز، مدلهای هوش مصنوعی قابل تنظیم و خود-میزبان با دسترسی کامل به کد ارائه میدهند، در حالی که API های اختصاصی LLM، خدمات مدیریت شده و بهبود یافته را از طریق نقاط پایانی مبتنی بر ابر با قیمت گذاری مبتنی بر میزان استفاده ارائه میدهند.
RAG و LLM های تنظیمشده دقیق، هر دو کیفیت خروجی هوش مصنوعی را بهبود میبخشند، اما به روشهای اساساً متفاوتی عمل میکنند. RAG اطلاعات خارجی را در زمان پرسوجو دریافت میکند، در حالی که تنظیم دقیق، دانش جدید را مستقیماً در وزنهای مدل قرار میدهد. انتخاب بین آنها بستگی به این دارد که دادههای شما چند وقت یکبار تغییر میکنند و به چه نوع دقتی نیاز دارید.
RAG با زمینه بصری، مدلهای زبانی را با بازیابی تصاویر، نمودارها و دیاگرامها در کنار متن غنی میکند، در حالی که RAG فقط متنی صرفاً به متون نوشتاری متکی است. RAG بصری در وظایف چندوجهی مانند درک اسناد و پاسخ به سؤالات بصری برتری دارد، در حالی که RAG فقط متنی سادهتر، سریعتر و ارزانتر برای استقرار باقی میماند.
RAG چندوجهی متن، تصاویر، صدا و ویدیو را برای بازیابی غنیتر با هم پردازش میکند، در حالی که RAG فقط متنی منحصراً بر محتوای نوشتاری تمرکز دارد. انتخاب بستگی به این دارد که آیا دادهها و موارد استفاده شما فراتر از اسناد متنی ساده است یا خیر.
این مقایسه، نحوه آموزش شبکههای عصبی مصنوعی برای تفسیر دادههای بصری را با نحوه درک سیستم بینایی بیولوژیکی انسان از دنیای طبیعی مقایسه میکند. در حالی که بینایی کامپیوتر برای استخراج ماتریسهای ریاضی به میلیونها ورودی ایستا و حاشیهنویسی شده در سطح پیکسل متکی است، ادراک طبیعی انسان از جریانهای حسی پویا و پیوسته که توسط زیستشناسی تکاملی و ساختارهای حلقه بازخورد شناختی فوری در بافت قرار گرفتهاند، بهره میبرد.
