بسط پرسوجو به صورت پویا پرسوجوهای جستجو را با اصطلاحات اضافی در زمان اجرا غنی میکند، در حالی که جاسازیهای پرسوجوی ثابت به نمایشهای برداری از پیش محاسبهشدهای متکی هستند که ثابت میمانند. هر دو رویکرد مشکل عدم تطابق واژگان را در بازیابی اطلاعات برطرف میکنند، اما از نظر انعطافپذیری، هزینه محاسباتی و سازگاری با محتوای جدید تفاوتهای چشمگیری دارند.
یک تکنیک بازیابی که عبارت جستجوی اصلی را با اصطلاحات مرتبط، مترادفها یا زمینههای مرتبط تکمیل میکند تا بازیابی جستجو را بهبود بخشد.
نمایشهای برداری متراکم از پیش محاسبهشده از پرسوجوها که ثابت میمانند و بدون تغییر در زمان اجرا، در جستجوهای مختلف دوباره استفاده میشوند.
| ویژگی | بسط پرسوجو | جاسازیهای پرسوجوی ثابت |
|---|---|---|
| مکانیسم اصلی | عبارات را در زمان اجرا به پرس و جو اضافه میکند | پرسوجو را در بردار استاتیک کدگذاری میکند |
| سازگاری با محتوای جدید | بالا - میتواند سیگنالهای جدید را در خود جای دهد | پایین - در زمان تمرین یخ زده |
| هزینه محاسباتی به ازای هر پرس و جو | متوسط تا زیاد (تماسهای LLM امکانپذیر است) | پایین - رمزگذار تک گذر |
| مدیریت اصطلاحات نادر | قوی - تطبیق صریح اصطلاحات | ضعیف - بستگی به پوشش توکنساز دارد |
| موازنه دقت در مقابل فراخوانی | یادآوری را افزایش میدهد، ممکن است به دقت آسیب برساند | متعادل اما وابسته به جسم |
| الزامات نمایهسازی | شاخص معکوس استاندارد کار میکند | نیازمند شاخص برداری (FAISS، ScaNN) است |
| موارد استفاده معمول | جستجوی واژگانی، بازیابی ترکیبی | جستجوی معنایی، خطوط لوله RAG |
| تفسیرپذیری | بالا - شرایط قابل مشاهده هستند | فضای برداری کم - مات |
بسط پرسوجو بر اساس نمایش متنی پرسوجو عمل میکند و مترادفها، مفاهیم مرتبط یا اصطلاحات استخراجشده از اسناد برتر را اضافه میکند. جاسازیهای پرسوجوی ثابت، مسیری اساساً متفاوت را طی میکنند: یک رمزگذار عصبی، پرسوجو را به یک بردار پیوسته نگاشت میکند و شباهت در آن فضای جاسازی اندازهگیری میشود. مورد اول در دنیای توکنهای گسسته باقی میماند، در حالی که مورد دوم معنا را به هندسه فرو میریزد.
از آنجا که بسط پرسوجو (Query Expansion) در زمان جستجو، اصطلاحات جدیدی تولید میکند، میتواند به مجموعه واقعی اسناد، رفتار کاربر یا روندهای اخیر واکنش نشان دهد. در مقابل، جاسازیهای پرسوجوی ثابت (Fixed Query Embeddings) در زمان آموزش تعبیه میشوند و نمیتوانند بدون آموزش مجدد، خود را با تغییر واژگان یا محتوای تازه فهرستبندی شده وفق دهند. این امر بسط را پاسخگوتر اما در عین حال متغیرتر در طول اجراها میکند.
تعبیههای ثابت در برنامههای حساس به تأخیر میدرخشند، زیرا یک عبور رو به جلو از طریق یک رمزگذار ارزان است و بردار حاصل را میتوان ذخیره کرد. گسترش پرسوجو، بهویژه هنگامی که توسط مدلهای زبانی بزرگ پشتیبانی میشود، سربار به ازای هر پرسوجو اضافه میکند. با این حال، گسترش از هزینه سنگین زیرساخت برای نگهداری یک شاخص برداری جلوگیری میکند، که میتواند در مقیاس میلیارد سند بار واقعی باشد.
پرسوجوهای کوتاه و مبهم اغلب از بسط دادن سود میبرند زیرا زمینه اضافی، منظور را از ابهام خارج میکند. پرسوجوهای طولانی و خوشفرم گاهی اوقات از بسط دادن رنج میبرند زیرا عبارات اضافه شده، سیگنال اصلی را رقیق میکنند. تعبیههای ثابت، سوالات زبان طبیعی را به زیبایی مدیریت میکنند اما در اسمهای خاص نادر، اصطلاحات فنی یا اصطلاحات تازه ابداع شدهای که رمزگذار هرگز یاد نگرفته است، دچار مشکل میشوند.
امروزه اکثر سیستمهای بازیابی تولید، هر دو ایده را با هم ترکیب میکنند. یک الگوی رایج از جاسازیهای پرسوجوی ثابت برای یادآوری معنایی و بسط پرسوجو برای دقت واژگانی استفاده میکند، سپس دو لیست نتیجه را با هم ترکیب میکند. تحقیقات اخیر در مورد تکنیکهایی مانند HyDE (جاسازیهای سند فرضی) با استفاده از یک LLM برای تولید یک سند کاذب که جاسازی میشود، مرز را بیش از پیش محو میکند و به طور مؤثر بسط و جاسازی را در یک مرحله ادغام میکند.
گسترش پرسوجو همیشه نتایج جستجو را بهبود میبخشد.
بسط دادن، یادآوری را افزایش میدهد اما اغلب وقتی اصطلاحات اضافه شده نامربوط به موضوع باشند، به دقت آسیب میرساند. بسط کورکورانه میتواند نتایج مرتبط را در نویز غرق کند، به همین دلیل است که سیستمهای مدرن از استراتژیهای بسط انتخابی یا آموختهشده استفاده میکنند.
جاسازیهای کوئری ثابت هر کلمهای را که به آنها میدهید، میفهمند.
رمزگذارها توسط توکنساز و دادههای آموزشی خود محدود میشوند. غلطهای املایی، نامهای جدید محصولات یا اصطلاحات تخصصی دامنه اغلب به زیرکلماتی تقسیم میشوند که مدل هرگز ندیده است و منجر به نمایش ضعیف میشوند.
جستجوی برداری، بازیابی اطلاعات سنتی را منسوخ میکند.
روشهای لغوی مانند BM25 هنوز هم در بسیاری از معیارها، به ویژه برای پرسوجوهای پر از کلمات کلیدی، بازیابی متراکم را شکست میدهند. قویترین سیستمها ترکیبی هستند، نه برداری خالص.
بسط پرسوجو یک تکنیک قدیمی است که دیگر اهمیتی ندارد.
روشهای بسط مبتنی بر LLM مانند query2doc و HyDE این حوزه را احیا کردهاند و نشان میدهند که بسط مدرن با اختلاف زیادی از رویکردهای سادهی کیسهی کلمات (bag of words) بهتر عمل میکند.
مدلهای جاسازی بزرگتر همیشه به معنای بازیابی بهتر هستند.
بازده نزولی به سرعت وارد عمل میشود و یک انکودر کوچک تنظیمشده با استخراج منفی سخت، اغلب با کسری از هزینه، با یک مدل عظیم برابری میکند.
وقتی مجموعه دادههای شما بزرگ است، پرسوجوهای شما شامل اصطلاحات نادر یا فنی هستند و به بازیابی قابل تفسیر و تطبیقپذیر نیاز دارید، Query Expansion را انتخاب کنید. وقتی تأخیر مهم است، پرسوجوهای شما سوالات زبان طبیعی هستند و میتوانید از زیرساخت نمایهسازی برداری استفاده کنید، Fixed Query Embeddings را انتخاب کنید. در عمل، قویترین سیستمها به جای انتخاب یکی از طرفین، از هر دو با هم استفاده میکنند.
LLM های مبتنی بر ابزار، مدلهای زبانی مستقل را با اتصال آنها به APIهای خارجی، ماشینحسابها و پایگاههای داده گسترش میدهند و بازیابی اطلاعات و اجرای وظایف را در زمان واقعی امکانپذیر میسازند. LLM های مستقل صرفاً به پارامترهای آموزشدیده خود متکی هستند و آنها را مستقل اما محدود به دانش حاصل از دادههای آموزشی میکنند.
LLM های متن باز، مدلهای هوش مصنوعی قابل تنظیم و خود-میزبان با دسترسی کامل به کد ارائه میدهند، در حالی که API های اختصاصی LLM، خدمات مدیریت شده و بهبود یافته را از طریق نقاط پایانی مبتنی بر ابر با قیمت گذاری مبتنی بر میزان استفاده ارائه میدهند.
RAG و LLM های تنظیمشده دقیق، هر دو کیفیت خروجی هوش مصنوعی را بهبود میبخشند، اما به روشهای اساساً متفاوتی عمل میکنند. RAG اطلاعات خارجی را در زمان پرسوجو دریافت میکند، در حالی که تنظیم دقیق، دانش جدید را مستقیماً در وزنهای مدل قرار میدهد. انتخاب بین آنها بستگی به این دارد که دادههای شما چند وقت یکبار تغییر میکنند و به چه نوع دقتی نیاز دارید.
RAG با زمینه بصری، مدلهای زبانی را با بازیابی تصاویر، نمودارها و دیاگرامها در کنار متن غنی میکند، در حالی که RAG فقط متنی صرفاً به متون نوشتاری متکی است. RAG بصری در وظایف چندوجهی مانند درک اسناد و پاسخ به سؤالات بصری برتری دارد، در حالی که RAG فقط متنی سادهتر، سریعتر و ارزانتر برای استقرار باقی میماند.
RAG چندوجهی متن، تصاویر، صدا و ویدیو را برای بازیابی غنیتر با هم پردازش میکند، در حالی که RAG فقط متنی منحصراً بر محتوای نوشتاری تمرکز دارد. انتخاب بستگی به این دارد که آیا دادهها و موارد استفاده شما فراتر از اسناد متنی ساده است یا خیر.
