یادگیری ماشینیبازیابی اطلاعاتسیستمهای توصیهگریادگیری تحت نظارتهوش مصنوعی
سیستمهای رتبهبندی در مقابل سیستمهای طبقهبندی
سیستمهای رتبهبندی و سیستمهای طبقهبندی، دو رویکرد اساسی در یادگیری ماشینی را نشان میدهند، که در آنها رتبهبندی، موارد را بر اساس ارتباط یا ترجیح مرتب میکند، در حالی که طبقهبندی، موارد را به دستههای از پیش تعریفشدهی گسسته اختصاص میدهد. هر دو نقش مهمی در موتورهای توصیه، موتورهای جستجو و فرآیندهای تصمیمگیری ایفا میکنند.
برجستهها
سیستمهای رتبهبندی، ترتیب نسبی را بهینه میکنند در حالی که طبقهبندی، تخصیص مطلق دستهها را بهینه میکند.
موتورهای جستجو و پلتفرمهای پیشنهاددهنده اساساً برای ارائه نتایج به رتبهبندی متکی هستند، نه طبقهبندی
خروجیهای طبقهبندی معمولاً تفسیر و اشکالزدایی آسانتری نسبت به تصمیمات مدل رتبهبندی دارند.
رتبهبندی به طور طبیعی مجموعههای آیتم پویا را مدیریت میکند که در آنها کاندیداهای جدید دائماً ظاهر میشوند، برخلاف طبقهبندی کلاس ثابت
سیستمهای رتبهبندی چیست؟
رویکردهای یادگیری ماشینی که اقلام را بر اساس ارتباط، ترجیح یا کیفیت پیشبینیشده نسبت به سایر اقلام مرتب میکنند.
سیستمهای رتبهبندی یاد میگیرند که به جای امتیازدهی جداگانه به موارد، آنها را مرتب کنند و مقایسههای نسبی را در طراحی خود محور قرار دهند.
یادگیری الگوریتمهای رتبهبندی (LTR) مانند LambdaMART، RankNet و ListNet، موتورهای جستجوی مدرن از جمله گوگل و بینگ را قدرتمند میکند.
رویکردهای جفتی و فهرستی بر روششناسی رتبهبندی غالب هستند، به طوری که روشهای جفتی دو مورد را همزمان مقایسه میکنند و کل فهرستهای مرتب را به صورت فهرستی بهینهسازی میکنند.
ارزیابی به جای دقت ساده، به معیارهایی مانند بهره تجمعی تنزیلشده نرمالشده (NDCG)، رتبه معکوس میانگین (MRR) و تاو کندال متکی است.
سیستمهای رتبهبندی با چالشهای منحصر به فردی از جمله سوگیری موقعیتی مواجه هستند، که در آن کاربران بدون توجه به ارتباط واقعی، به طور نامتناسبی روی نتایج برتر کلیک میکنند.
سیستمهای طبقهبندی چیست؟
مدلهای یادگیری ماشین که دادههای ورودی را بر اساس الگوهای آموختهشده به دستهها یا برچسبهای گسسته از پیش تعریفشده اختصاص میدهند.
طبقهبندی شامل انواع دودویی، چندکلاسی و چندبرچسبی است و الگوریتمهای آن از رگرسیون لجستیک گرفته تا شبکههای عصبی عمیق را شامل میشود.
تلفات آنتروپی متقاطع و انواع آن به عنوان هدف اصلی بهینهسازی عمل میکنند و مستقیماً جرم احتمال قرار داده شده روی کلاسهای نادرست را جریمه میکنند.
معیارهای ارزیابی شامل دقت، صحت، فراخوانی، امتیاز F1 و AUC-ROC هستند که انتخاب آنها به تعادل کلاس و عدم تقارن هزینه بستگی دارد.
طبقهبندی مدرن از یادگیری انتقالی از طریق مدلهای از پیش آموزشدیده مانند BERT و ResNet بهره میبرد و به طور چشمگیری نیازهای دادهای را برای وظایف جدید کاهش میدهد.
تکنیکهای کالیبراسیون مانند مقیاسبندی دما و مقیاسبندی پلات، مشکل رایج تخمینهای احتمال بیش از حد مطمئن را برطرف میکنند.
جدول مقایسه
ویژگی
سیستمهای رتبهبندی
سیستمهای طبقهبندی
فرمت خروجی
فهرست مرتب یا رتبهبندی امتیازی اقلام
توزیع تک برچسب یا احتمال روی کلاسها
هدف آموزش
بهینهسازی ترتیب نسبی (مثلاً ترجیح جفتی، NDCG فهرستی)
به طور طبیعی مجموعههای آیتم پویا را در خود جای میدهد
نیاز به مجموعه کلاس ثابت از پیش تعریف شده دارد
تفسیرپذیری
اغلب توضیح اینکه چرا یک مورد بالاتر از دیگری قرار میگیرد، دشوارتر است.
احتمالات کلاس و مرزهای تصمیمگیری به راحتی قابل تفسیر هستند
الزامات داده
دادههای ترجیحی، گزارشهای کلیک یا قضاوتهای صریح مورد نیاز
مثالهای برچسبگذاری شده برای هر کلاس کافی است
مقایسه دقیق
هدف اصلی و خروجی
سیستمهای رتبهبندی اساساً مسائل مربوط به ترتیب را حل میکنند. آنها به جای اینکه به این سوال پاسخ دهند که «کدام مورد باید اول بیاید؟» به این سوال پاسخ میدهند که «این چیست؟» در مقابل، طبقهبندی، مسائل دستهبندی را حل میکند و برچسبهای قطعی را تعیین میکند. یک مدل رتبهبندی ممکن است سه سند مرتبط را به ترتیب مفید بودن مرتب کند؛ یک مدل طبقهبندی به سادگی هر کدام را به عنوان «مرتبط» یا «غیرمرتبط» علامتگذاری میکند، بدون اینکه اهمیتی بدهد کدام یک بهتر است.
توابع زیان و بهینهسازی
قلب ریاضی این سیستمها به طور قابل توجهی متفاوت است. تلفات رتبهبندی، ترجیحات نسبی را رمزگذاری میکنند - چه از طریق تلفات جفتی لولا مانند یا جایگزینهای پیچیدهتر فهرستی. تلفات طبقهبندی، صحت مطلق را هدف قرار میدهند و احتمال اختصاص داده شده به کلاسهای اشتباه را جریمه میکنند. این تفاوت ساختاری به این معنی است که مدلهای رتبهبندی میتوانند حتی زمانی که نمرات مطلق به خوبی کالیبره نشدهاند، عملکرد خوبی داشته باشند، در حالی که طبقهبندیکنندهها برای تصمیمگیریهای بعدی به احتمالات کالیبره شده نیاز دارند.
فلسفه ارزیابی
نحوه قضاوت ما در مورد موفقیت عمیقاً متفاوت است. یک سیستم رتبهبندی در صورتی موفق میشود که کاربران آنچه را که نیاز دارند در نزدیکی بالای لیست پیدا کنند، و این امر معیارهای حساس به موقعیت را ضروری میکند. موفقیت طبقهبندی صرف نظر از محل وقوع خطاها، به برچسبگذاری صحیح بستگی دارد. این توضیح میدهد که چرا یک موتور جستجو با دقت ۹۰٪ در عبارات طبقهبندی، اگر ۱۰٪ خطاها در بالای نتایج جمع شوند، ممکن است همچنان کاربران را شکست دهد.
اقتصاد داده و حاشیهنویسی
طبقهبندی معمولاً به نمونههای برچسبگذاریشده برای هر کلاس نیاز دارد - گران اما سرراست. رتبهبندی نیازمند حاشیهنویسیهای پیچیدهتری است: ترجیحات جفتی، قضاوتهای مرتبط درجهبندیشده یا بازخورد ضمنی مانند الگوهای کلیک. این سیگنالهای غنیتر، رتبهبندی را امکانپذیر میکنند اما جمعآوری دادهها را پیچیده میکنند و سوگیریهایی را از نحوه تعامل کاربران با ترتیبهای ارائهشده ایجاد میکنند.
ادغام عملی
سیستمهای تولیدی اغلب هر دو رویکرد را به صورت زنجیرهای به کار میگیرند. یک طبقهبندیکننده ممکن است ابتدا کاندیداها را از یک مجموعه عظیم فیلتر کند، سپس یک رتبهدهنده، بازماندهها را مرتب میکند. این معماری، کارایی و کیفیت را متعادل میکند و از سادگی طبقهبندی برای فیلتر کردن دقیق و ظرافت رتبهبندی برای ارائه نهایی بهره میبرد. درک زمان استقرار هر یک - و نحوه تعامل آنها - سیستمهای یادگیری ماشین قوی را از سیستمهای شکننده جدا میکند.
مزایا و معایب
سیستمهای رتبهبندی
مزایا
+ترجیحات ظریف را ثبت میکند
+مجموعههای آیتم پویا را مدیریت میکند
+مستقیماً تجربه کاربر را بهینه میکند
+پشتیبانی از سفارش شخصیسازیشده
مصرف شده
−الزامات حاشیهنویسی پیچیده
−تفسیر تصمیمات دشوارتر است
−حساس به سوگیری موقعیت
−از نظر محاسباتی در مقیاس بزرگ گران است
سیستمهای طبقهبندی
مزایا
+آموزش و ارزیابی سادهتر
+مبانی نظریِ به خوبی درک شده
+استنتاج کارآمد در مقیاسهای بزرگ
+ادغام آسان با قوانین
مصرف شده
−کیفیت نسبی درون کلاسها را نادیده میگیرد
−محدودیتهای دستهبندی ثابت
−چالشهای کالیبراسیون
−مدیریت ضعیف روابط یا روابط نزدیک
تصورات نادرست رایج
افسانه
رتبهبندی و طبقهبندی رویکردهای قابل تعویضی برای یک مسئله هستند.
واقعیت
اگرچه میتوانید رتبهبندی را از طریق آستانههای امتیاز به طبقهبندی کاهش دهید، اما این کار اطلاعات حیاتی مرتبسازی را از دست میدهد. عکس این حالت - تبدیل طبقهبندی به رتبهبندی - از نظر فنی امکانپذیر است اما عملاً ناخوشایند و به ندرت مفید است.
افسانه
دقت طبقهبندی بالاتر همیشه به معنای کیفیت بهتر جستجو یا توصیه است.
واقعیت
یک سیستم میتواند ارتباط را با دقت بالایی طبقهبندی کند، اما اگر نتواند درجات ارتباط را تشخیص دهد، نتایج را ضعیف رتبهبندی میکند. کاربران به یافتن سریع بهترین موارد اهمیت میدهند، نه فقط هر مورد مرتبطی.
افسانه
سیستمهای رتبهبندی به الگوریتمهای پیچیدهتری نسبت به طبقهبندی نیاز دارند.
واقعیت
الگوریتمهای رتبهبندی ساده اغلب برای مرتبسازی وظایف، از طبقهبندیکنندههای پیچیده بهتر عمل میکنند. شکاف پیچیدگی بیش از حد بزرگنمایی شده است؛ آنچه مهم است تطبیق الگوریتم با ساختار مسئله است.
افسانه
احتمالات طبقهبندی میتوانند مستقیماً به عنوان نمرات رتبهبندی عمل کنند.
واقعیت
اگرچه وسوسهانگیز است، اما احتمالات طبقهبندیکننده اغلب به خوبی کالیبره نمیشوند و نمیتوانند ترجیحات نسبی را ثبت کنند. سندی با احتمال ارتباط ۰.۹ لزوماً بهتر از سندی با احتمال ارتباط ۰.۸۵ نیست - آموزش مقایسهای مدل رتبهبندی اهمیت بیشتری دارد.
افسانه
یادگیری عمیق، رویکردهای سنتی رتبهبندی و طبقهبندی را منسوخ کرده است.
واقعیت
مدلهای خطی و درختهای تقویتشده با گرادیان همچنان رقابتی هستند و اغلب در تولید به دلیل تأخیر، تفسیرپذیری و نگهداری ترجیح داده میشوند. یادگیری عمیق با دادههای بدون ساختار برتری دارد اما به طور خودکار برتر نیست.
سوالات متداول
تفاوت اصلی بین رتبهبندی و طبقهبندی در یادگیری ماشین چیست؟
طبقهبندی، موارد را به دستههای مجزا اختصاص میدهد - این ایمیل هرزنامه است یا نه. رتبهبندی، موارد را بر اساس ارتباط یا ترجیح پیشبینیشده - این نتایج جستجو را از مفیدترین تا کمفایدهترین - مرتب میکند. تمایز کلیدی در این است که آیا به برچسبهای مطلق نیاز دارید یا به ترتیب نسبی. طبقهبندی، دستهها را در اختیار شما قرار میدهد؛ رتبهبندی، توالیها را.
آیا میتوان از یک مدل طبقهبندی برای رتبهبندی استفاده کرد؟
از نظر فنی بله، اما معمولاً بهینه نیست. شما میتوانید آیتمها را بر اساس احتمال پیشبینیشده برای تعلق به یک کلاس «مرتبط» امتیازدهی کنید، سپس بر اساس آن امتیاز مرتب کنید. با این حال، طبقهبندی برای به حداکثر رساندن صحت مطلق آموزش میبیند، نه ترتیب نسبی، بنابراین رتبههای حاصل اغلب در مقایسه با الگوریتمهای رتبهبندی اختصاصی که برای مقایسههای جفتی یا فهرستی طراحی شدهاند، عملکرد ضعیفتری دارند.
الگوریتمهای رایج مورد استفاده برای رتبهبندی چیست؟
روشهای یادگیری رتبهبندی غالب هستند: رویکردهای نقطهای مانند رگرسیون ترتیبی، روشهای جفتی مانند RankNet و RankSVM که از جفت آیتمها یاد میگیرند، و روشهای لیستمحور مانند LambdaMART و ListNet که کل لیست نتایج را بهینه میکنند. رویکردهای عصبی از جمله SetRank و معماریهای مختلف مبتنی بر ترانسفورماتور برای ثبت تعاملات پیچیده آیتمها مورد توجه قرار گرفتهاند.
چگونه یک سیستم رتبهبندی را ارزیابی میکنید؟
معیارهای حساس به موقعیت ضروری هستند. NDCG به موارد بسیار مرتبط در نزدیکی بالا پاداش میدهد. MRR بر رتبه اولین مورد مرتبط تمرکز دارد. Precision@k میزان مرتبط بودن را در k نتیجه برتر اندازهگیری میکند. برخلاف دقت طبقهبندی، این معیارها خطاها را در موقعیتهای برجسته، بیشتر جریمه میکنند.
چه زمانی باید به جای رتبهبندی از طبقهبندی استفاده کنم؟
از طبقهبندی زمانی استفاده کنید که به تصمیمات گسسته برای پردازشهای بعدی نیاز دارید، زمانی که دستهبندیها به خوبی تعریف شده و پایدار هستند، یا زمانی که قابلیت تفسیر و اشکالزدایی ساده بیشترین اهمیت را دارند. تشخیص پزشکی، تشخیص تقلب و مدیریت محتوا معمولاً با طبقهبندی مطابقت دارند. از رتبهبندی زمانی استفاده کنید که ترتیب ارائه، ارزش کاربر را تعیین میکند و زمانی که نیاز به انتخاب بهترین گزینهها از میان انبوهی از کاندیداها دارید.
یادگیری رتبهبندی چیست و چگونه کار میکند؟
یادگیری رتبهبندی، یادگیری ماشینی را برای مسائل مرتبسازی به کار میگیرد. این روش بر اساس نمونههایی از مرتبسازیهای ترجیحی - قضاوتهای صریح انسانی یا سیگنالهای ضمنی مانند کلیکها - آموزش میبیند و سپس آن را به موارد جدید تعمیم میدهد. این مدل یک تابع امتیازدهی را یاد میگیرد که وقتی بر روی هر مجموعه موردی اعمال میشود، رتبهبندیهایی مطابق با ترجیحات مشاهده شده تولید میکند. LambdaMART، یک نوع درخت تقویتشده با گرادیان، به ویژه برای ویژگیهای جدولی و پراکنده مؤثر است.
چرا موتورهای جستجو به جای طبقهبندی از رتبهبندی استفاده میکنند؟
کاربران جستجو ابتدا به مفیدترین نتایج نیاز دارند، نه فقط فهرستی از صفحات مرتبط. طبقهبندی، میلیونها سند را «مرتبط» برچسبگذاری میکند، بدون اینکه به کاربران در پیمایش آنها کمکی کند. رتبهبندی مستقیماً تجربه یافتن سریع اطلاعات را بهینه میکند و آن را به انتخابی طبیعی برای بازیابی اطلاعات تبدیل میکند، جایی که موقعیت، ارزش را تعیین میکند.
چالشهای خاص سیستمهای رتبهبندی چیست؟
سوگیری موقعیت یک حلقه بازخورد ایجاد میکند: کاربران بیشتر روی نتایج برتر کلیک میکنند و این رتبهبندیها را تقویت میکنند. بازخورد پراکنده به این معنی است که اکثر جفتهای آیتم هرگز به طور مستقیم مقایسه نمیشوند. مقیاسپذیری برای میلیونها کاندیدا نیازمند معماریهای بازیابی-رتبهبندی مجدد کارآمد است. شروع سرد برای آیتمهای جدید و حفظ تازگی در عین حفظ ثبات، پیچیدگی بیشتری را ایجاد میکند.
عدم تعادل طبقاتی چگونه بر طبقهبندی در مقابل رتبهبندی تأثیر میگذارد؟
در طبقهبندی، عدم تعادل شدید میتواند باعث شود مدلها منحصراً کلاس اکثریت را پیشبینی کنند و به تکنیکهایی مانند نمونهگیری بیش از حد یا یادگیری حساس به هزینه نیاز داشته باشند. رتبهبندی کمتر تحت تأثیر عدم تعادل کلی قرار میگیرد زیرا بر مقایسههای نسبی در جفتها یا لیستهای مشاهده شده تمرکز دارد، اگرچه سوگیری محبوبیت هنوز هم میتواند نتایج را به سمت موارد مکرراً مشاهده شده منحرف کند.
آیا رویکردهای ترکیبی وجود دارد که رتبهبندی و طبقهبندی را با هم ترکیب کنند؟
کاملاً، و این روشها در عمل رایج هستند. معماریهای چند مرحلهای ابتدا نامزدها را طبقهبندی میکنند تا فیلتر شوند، سپس بازماندگان رتبهبندی میشوند. برخی رویکردها از طبقهبندی برای پیشبینی نمرات مرتبط بودن استفاده میکنند و سپس بر اساس آن نمرات رتبهبندی میشوند. مدلهای آبشاری قبل از رتبهبندی دقیق، طبقهبندی کلی را اعمال میکنند. این مدلهای ترکیبی، کارایی، دقت و کیفیت مرتبسازی را متعادل میکنند.
یادگیری عمیق چه نقشی در رتبهبندی و طبقهبندی مدرن ایفا میکند؟
یادگیری عمیق هر دو حوزه را متحول کرد، به خصوص برای دادههای بدون ساختار. BERT و جانشینانش از طریق نمایشهای متنی، رتبهبندی متن را متحول کردند. ResNet و تبدیلکنندههای بینایی بر طبقهبندی تصویر تسلط دارند. با این حال، برای دادههای ساختاریافته با ویژگیهای معنادار، درختهای تقویتشده با گرادیان اغلب به دلیل استنتاج سریعتر، تنظیم آسانتر و دقت قابل مقایسه، در تولید از شبکههای عصبی بهتر عمل میکنند.
سیستمهای توصیهگر چگونه بین رتبهبندی و طبقهبندی یکی را انتخاب میکنند؟
توصیه اساساً نیازمند رتبهبندی است - کاربران لیستهای مرتبشده را میبینند و ابتدا به بهترین موارد نیاز دارند. با این حال، طبقهبندی اغلب در بالادست ظاهر میشود: پیشبینی اینکه آیا کاربر با یک مورد تعامل خواهد داشت یا خیر، یا طبقهبندی موارد به دستههای کلی برای تولید کاندید. لایه ارائه نهایی تقریباً همیشه رتبهبندی میشود، حتی اگر طبقهبندی از مراحل اولیه پشتیبانی کند.
حکم
وقتی رضایت کاربر به ارائه بهترین گزینهها در ابتدا بستگی دارد، مانند جستجو و توصیه، سیستمهای رتبهبندی را انتخاب کنید. وقتی تصمیمگیریها نیاز به دستهبندی گسسته دارند یا وقتی سیستمهای پاییندستی به برچسبهای قطعی نیاز دارند، طبقهبندی را انتخاب کنید. بسیاری از برنامههای موفق هر دو را با هم ترکیب میکنند: طبقهبندی برای فیلتر اولیه، رتبهبندی برای ارائه نهایی.