این مقایسه معماری، یادگیری ویژگی، که در آن یک مدل ویژگیهای علّی واقعی دادهها را کشف میکند، را در مقابل یادگیری الگوی جعلی، که در آن یک مدل از همبستگیهای سطحی سوءاستفاده میکند، قرار میدهد. در حالی که یادگیری ویژگی، سیستمهای بسیار تعمیمپذیر را به ارمغان میآورد، الگوهای جعلی مدلهای شکنندهای ایجاد میکنند که هنگام استقرار در محیطهای دنیای واقعی به طور غیرقابل پیشبینی شکست میخورند.
فرآیندی که طی آن یک سیستم هوش مصنوعی به طور خودکار بازنماییهای معنادار، قوی و علّی را از دادههای خام استخراج میکند.
تمایل مدلها به بهرهبرداری از همبستگیهای غیرعلّی و سطحی که اتفاقاً فقط در مجموعه دادههای آموزشی صادق هستند.
| ویژگی | یادگیری ویژگی | یادگیری الگوی جعلی |
|---|---|---|
| مکانیکهای زیربنایی | ویژگیهای سببی اصلی را میآموزد | از همبستگیهای تصادفی سوءاستفاده میکند |
| قابلیت تعمیم | بالا؛ به خوبی بین دامنهها منتقل میشود | پایین؛ توزیع تمرینات خارج از زمین را مختل میکند |
| پایداری در برابر تغییرات دامنه | قوی؛ تغییرات نامربوط در متن را نادیده میگیرد | شکننده؛ به راحتی با تغییرات پسزمینه گیج میشود |
| الزامات دادههای آموزشی | زمینههای متنوع و توزیعهای گسترده را میطلبد | روی مجموعه دادههای همگن و جانبدارانه موفق عمل میکند |
| قابلیت توضیح مدل | با منطق و نیت انسانی کاملاً همسو است | تحت تحلیل رفتاری بسیار غیرمنطقی به نظر میرسد |
| آسیبپذیری در برابر هکها | مقاوم در برابر تغییرات جزئی ورودی | در برابر دستکاریهای پیکسلی بسیار آسیبپذیر است |
مدلهای یادگیری عمیق اساساً موتورهای بهینهسازی تنبلی هستند؛ آنها همیشه مسیر کمترین مقاومت را برای به حداقل رساندن توابع زیان خود انتخاب میکنند. در یادگیری ویژگی، مدل، نمایشهای پیچیده و سلسله مراتبی از شیء واقعی، مانند شکل هندسی یک وسیله نقلیه، میسازد. یادگیری الگوی جعلی زمانی اتفاق میافتد که مجموعه دادهها شامل یک جایگزین آسانتر، مانند یک برچسب سازنده خاص روی سطح جاده باشد که شبکه به جای یادگیری خود وسیله نقلیه، از آن بهرهبرداری میکند.
وقتی یک مدل با موفقیت بر یادگیری ویژگیها مسلط میشود، عملکرد آن حتی هنگام حرکت بین محیطهای مجزا، به طور استثنایی پایدار میماند. مدلهایی که در دام همبستگیهای کاذب افتادهاند، در آزمایشگاه عالی به نظر میرسند، اما بلافاصله پس از استقرار از بین میروند. به عنوان مثال، یک مدل پزشکی که برای تشخیص بیماریهای ریه آموزش دیده است، ممکن است با خواندن سهوی فونت خاص دستگاه اشعه ایکس بیمارستان، نمرات کاملی کسب کند و آن را در هر مرکز پزشکی دیگری بیفایده کند.
مرز بین این دو رفتار یادگیری مستقیماً توسط ترکیب دادههای آموزشی تعیین میشود. مجموعه دادههای همگن که در آنها پسزمینه همیشه با کلاس هدف مطابقت دارد - مانند عکاسی مداوم از شترها در بیابانها - عملاً مدل را به سمت یادگیری الگوی جعلی سوق میدهند. یادگیری ویژگی واقعی نیاز به گردآوری دادههای متنوع دارد که عمداً اشیاء را از محیط معمول خود جدا میکند و شبکه عصبی را مجبور میکند تا روی خود شیء تمرکز کند.
جلوگیری از سوءاستفاده از میانبرها مستلزم عبور از تکنیکهای استاندارد کمینهسازی ریسک تجربی است. مهندسان از رویکردهای تخصصی مانند کمینهسازی ریسک ثابت، آموزش خصمانه و افزایش هدفمند دادهها برای جریمه کردن صریح مدلهایی که به عوامل محیطی ناپایدار متکی هستند، استفاده میکنند. این محافظهای الگوریتمی، بهینهسازی را به سمت ویژگیهای ثابتی هدایت میکنند که قدرت پیشبینی را در تقسیمبندیهای داده کاملاً متفاوت حفظ میکنند.
امتیاز دقت بالا در یک مجموعه تست بزرگ ثابت میکند که یک مدل ویژگیهای صحیح را یاد گرفته است.
اگر مجموعه تست شما همان سوگیریهای جمعآوری داده مجموعه آموزش شما را داشته باشد، مدلی که کاملاً به میانبرهای جعلی متکی است، همچنان امتیاز تقریباً کاملی کسب خواهد کرد. استحکام واقعی را تنها میتوان با ارزیابی مدل روی مجموعه دادههای کاملاً مستقل و خارج از توزیع تأیید کرد.
معماریهای شبکه عصبی بزرگتر طبیعتاً در اجتناب از الگوهای جعلی بهتر عمل میکنند.
افزایش ظرفیت یک مدل در واقع به آن آزادی بیشتری برای کشف و به خاطر سپردن همبستگیهای پیچیده و بسیار ظریف میدهد. بدون منظمسازی مناسب یا تنوع دادهها، مدلهای بزرگتر میتوانند در یافتن میانبرهای هوشمندانه حتی ماهرتر از مدلهای کوچکتر شوند.
همبستگیهای کاذب، ناهنجاریهای نادری هستند که فقط در پروژههای با طراحی ضعیف اتفاق میافتند.
یادگیری میانبر، رفتار پیشفرض الگوریتمهای یادگیری ماشین است، زیرا همبستگیهای غیرعلّی در دادههای خام به طرز باورنکردنی فراوان هستند. شبکههای عصبی همواره یک بافت پسزمینه ساده را به یک شکل ساختاری پیچیده ترجیح میدهند، مگر اینکه صریحاً مجبور به انجام کاری خلاف آن شوند.
افزایش داده، خطر یادگیری الگوهای جعلی توسط مدل را به طور کامل از بین میبرد.
تقویت دادههای اولیه مانند برش یا وارونه کردن تصویر، تنها زیرمجموعه کوچکی از میانبرهای مکانی را مختل میکند. آنها کاملاً در رفع سوگیریهای معنایی عمیقتر، مانند یک سیستم هوش مصنوعی که گروههای جمعیتی خاص را به دلیل دادههای آموزشی با انحراف تاریخی با طبقهبندیهای شغلی مرتبط میکند، شکست میخورند.
هنگام ساخت مدل برای محیطهای ناپایدار و پرخطر مانند رانندگی خودران یا پزشکی، با استفاده از دادههای متنوع و محدودیتهای تغییرناپذیر، یادگیری ویژگی را در اولویت قرار دهید. پذیرش یادگیری الگوهای جعلی فقط در سیستمهای ایستا و بسیار کنترلشده قابل قبول است که در آنها توزیع آموزش به طور کامل و نامحدود، منعکسکنندهی استقرار در دنیای واقعی است.
LLM های مبتنی بر ابزار، مدلهای زبانی مستقل را با اتصال آنها به APIهای خارجی، ماشینحسابها و پایگاههای داده گسترش میدهند و بازیابی اطلاعات و اجرای وظایف را در زمان واقعی امکانپذیر میسازند. LLM های مستقل صرفاً به پارامترهای آموزشدیده خود متکی هستند و آنها را مستقل اما محدود به دانش حاصل از دادههای آموزشی میکنند.
LLM های متن باز، مدلهای هوش مصنوعی قابل تنظیم و خود-میزبان با دسترسی کامل به کد ارائه میدهند، در حالی که API های اختصاصی LLM، خدمات مدیریت شده و بهبود یافته را از طریق نقاط پایانی مبتنی بر ابر با قیمت گذاری مبتنی بر میزان استفاده ارائه میدهند.
RAG و LLM های تنظیمشده دقیق، هر دو کیفیت خروجی هوش مصنوعی را بهبود میبخشند، اما به روشهای اساساً متفاوتی عمل میکنند. RAG اطلاعات خارجی را در زمان پرسوجو دریافت میکند، در حالی که تنظیم دقیق، دانش جدید را مستقیماً در وزنهای مدل قرار میدهد. انتخاب بین آنها بستگی به این دارد که دادههای شما چند وقت یکبار تغییر میکنند و به چه نوع دقتی نیاز دارید.
RAG با زمینه بصری، مدلهای زبانی را با بازیابی تصاویر، نمودارها و دیاگرامها در کنار متن غنی میکند، در حالی که RAG فقط متنی صرفاً به متون نوشتاری متکی است. RAG بصری در وظایف چندوجهی مانند درک اسناد و پاسخ به سؤالات بصری برتری دارد، در حالی که RAG فقط متنی سادهتر، سریعتر و ارزانتر برای استقرار باقی میماند.
RAG چندوجهی متن، تصاویر، صدا و ویدیو را برای بازیابی غنیتر با هم پردازش میکند، در حالی که RAG فقط متنی منحصراً بر محتوای نوشتاری تمرکز دارد. انتخاب بستگی به این دارد که آیا دادهها و موارد استفاده شما فراتر از اسناد متنی ساده است یا خیر.
