Self-RAG тилдик моделдерге өздөрүнүн жыйынтыктарын сындоого жана ыңгайлаштырууга мүмкүндүк берген өзүн-өзү чагылдыруучу издөө катмарын киргизет, ал эми стандарттуу RAG түтүктөрү туруктуу алуу-андан кийин окуу жумуш агымына таянат. Негизги айырмачылык адаптациялык башкарууда жана алдын ала айтууга боло турган, сызыктуу аткарууда жатат.
Модель маалыматты өз алдынча качан алууну баалап, чечкен издөө менен кеңейтилген алкак.
Алгач документтерди алып, андан кийин аларды тилдик моделге киргизген салттуу издөө-көбөйтүлгөн генерация ыкмасы.
| Мүмкүнчүлүк | Өзүн-өзү шылдыңдоо | Стандарттуу RAG түтүктөрү |
|---|---|---|
| Алып келүү стратегиясы | Адаптациялоочу модель качан алуу керектигин чечет | Жооп берүүдөн мурун ар дайым алат |
| Өзүн-өзү баалоо | Сапатты көзөмөлдөө үчүн орнотулган чагылдыруучу токендер | Ички сындоо механизми жок |
| Эсептөө наркы | Алып келүү өткөрүлүп жиберилгенде төмөндөйт | Суроо-талап боюнча туруктуу баа |
| Жооптун тактыгы | Татаал ой жүгүртүү тапшырмаларында жогорку | Күчтүү, бирок тиешеси жок контекстти камтышы мүмкүн |
| Ишке ашыруунун татаалдыгы | Татаалыраак окутуу түтүгү | Жайгаштыруу жана тейлөө жөнөкөйүрөөк |
| Ийкемдүүлүк | Суроо-талап боюнча динамикалык түрдө туураланат | Суроо түрүнө карабастан, жумуш агымы оңдолду |
| Окутуу талаптары | Чагылышуу менен белгиленген маалыматтар керек | Стандарттуу так жөндөө жетиштүү |
| Кечигүү | Кайра алуу чечимдерине жараша өзгөрүлмө | Болжолдонуучу эки кадамдуу кечигүү |
Стандарттык RAG жөнөкөй эки баскычтуу түтүк аркылуу иштейт, анда ретривер тиешелүү документтерди алып келет жана генератор ошол контекстке жараша жооп берет. Self-RAG чечим кабыл алуу процессин жогору карай жайгаштырат, бул моделге калыбына келтирүү керекпи же жокпу жана чыгаруу негизделгенби же жокпу, аныктоочу чагылдыруучу токендерди чыгарууга мүмкүндүк берет. Бул Self-RAGды ой жүгүртүү жагынан модулдук кылат, ал эми стандарттык RAG жөнөкөй жана ой жүгүртүүгө оңой бойдон калууда.
Стандарттык RAGда ар бир суроо-талап моделдин буга чейин билими бар же жок экендигине карабастан, издөө кадамын иштетет. Self-RAG муну моделди тышкы маалымат чындыгында качан зарыл экенин аныктоого үйрөтүү менен өзгөртөт. Модель өз салмагынан жооп бере алган фактылык суроолор үчүн Self-RAG издөөнү толугу менен өткөрүп жиберет, бул ызы-чууну азайтып, жоопторду тездетет.
Self-RAG төрт чагылдыруу токенин киргизет, алар генерация процессинде текшерүү пункттары катары кызмат кылат. Бул токендер моделге колдоого алынбаган дооматтарды белгилөөгө жана далилдер алсыз болгондо кайра аракет кылууга мүмкүндүк берет. Стандарттык RAGда мындай ички кайтарым байланыш цикли жок, андыктан тышкы тосмолор кошулбаса, галлюцинациялар же темадан тышкаркы жооптор өтүп кетиши мүмкүн.
PopQA, ARC-Challenge жана PubHealth сыяктуу эталондордо Self-RAG стандарттуу RAG базалык көрсөткүчтөрүнө караганда, айрыкча көп баскычтуу ой жүгүртүүнү талап кылган суроолор үчүн өлчөнүүчү жетишкендиктерди көрсөттү. Стандарттык RAG дагы эле издөө туура үзүндүнү ишенимдүү түрдө тапкан жөнөкөй фактыларды издөөдө жакшы иштейт. Суроонун татаалдыгы жогорулаган сайын аткаруу айырмасы кеңейет.
Стандарттык RAG көпчүлүк өндүрүш системалары үчүн демейки тандоо бойдон калууда, анткени ал учурдагы вектордук маалымат базалары менен таза интеграцияланат жана атайын окутуу маалыматтарын талап кылбайт. Өзүн-өзү RAG көбүрөөк инженердик күч-аракетти талап кылат, анын ичинде чагылдыруу менен белгиленген маалымат топтомдорун түзүү жана туура токендерди чыгаруу үчүн моделди так жөндөө. Чектелген ML ресурстары бар командалар үчүн стандарттык RAG прагматикалык вариант болуп саналат.
Self-RAG ретривердин компонентин толугу менен алмаштырат.
Self-RAG дагы эле ретриверди колдонот, бирок үстүнө чечим кабыл алуу катмарын кошот. Модель кайтарууну түтүктөн толугу менен алып салуунун ордуна, качан кайтарууну чакыруу керектигин тандайт.
Стандарттык RAG эскирген жана мындан ары пайдалуу эмес.
Стандарттык RAG көпчүлүк өндүрүштүк AI системаларынын негизи бойдон калууда. Self-RAG аны алмаштыруунун ордуна, анын негизинде курат жана көптөгөн командалар классикалык ыкма менен дагы эле эң сонун натыйжаларга жетишүүдө.
Self-RAG ар дайым стандарттуу RAGга караганда көбүрөөк документтерди алат.
Self-RAG көп учурда азыраак документтерди алат, анткени ал керексиз учурда издөөнү өткөрүп жибериши мүмкүн. Адаптивдүү мүнөзү анын контекстти модель пайдалуу деп эсептегенде гана тартып алаарын билдирет.
Self-RAG иштетүү үчүн сизге GPT-4 керек.
Self-RAG ар кандай ачык булактуу моделдер менен ишке ашырылышы мүмкүн. Баштапкы макалада Llama 2 чагылдыруучу токендер менен жакшыртылган, бул ыкма менчик системалардан тышкары иштей тургандыгын далилдейт.
Стандарттык RAG татаал ой жүгүртүүнү көтөрө албайт.
Стандарттык RAG күчтүү генераторлор жана жакшы бөлүп алуу стратегиялары менен жупташкан татаал ой жүгүртүүнү жакшы иштетет. Self-RAG четки учурларды жакшыртат, бирок стандарттык RAG жөнөкөй суроолор менен гана чектелбейт.
Жооптордун сапаты, галлюцинацияны азайтуу жана адаптациялык натыйжалуулук, айрыкча татаал ой жүгүртүү тапшырмалары үчүн, ишке ашыруунун жөнөкөйлүгүнөн маанилүүрөөк болгондо Self-RAG тандаңыз. Стандарттык RAG түтүктөрү алдын ала айтууга боло турган кечигүү жана учурдагы инфраструктура менен оңой интеграциялоо артыкчылыктуу болгон жөнөкөй жайылтуулар үчүн жакшыраак ылайыктуу бойдон калууда.
CLIP киргизүүлөрү сүрөттөрдү жана текстти жалпы семантикалык мейкиндикте түшүнүү үчүн терең үйрөнүүнү колдонот, ал эми ачкыч сөздөргө негизделген сүрөттү издөө кол менен дайындалган тегдерди же айланасындагы текстти дал келтирүүгө негизделген. CLIP заманбап визуалдык издөө тапшырмалары үчүн алда канча чоң ийкемдүүлүктү жана тактыкты сунуштайт, ал эми ачкыч сөздөрдүн ыкмалары тар, жакшы тандалган контексттерде пайдалуу бойдон калууда.
DeepSeek V4 - бул кытайлык жасалма интеллект лабораториясынан чыккан ачык салмактагы чоң тил модели, ал эми GPT-4 классындагы моделдер OpenAIдин флагмандык жабык булактуу системаларына тиешелүү. Бул салыштыруу иштеп чыгуучуларга жана бизнеске акылдуулук менен тандоо жасоого жардам берүү үчүн алардын архитектурасын, мүмкүнчүлүктөрүн, баасын, жеткиликтүүлүгүн жана реалдуу дүйнөдөгү иштешин изилдейт.
Google издөө алгоритми миллиарддаган веб-баракчаларды машиналык окутууну жана жүздөгөн сигналдарды колдонуп рейтингге киргизет, ал эми жөнөкөйлөтүлгөн класстык моделдер жасалма интеллект концепцияларын үйрөтүүгө боло турган, жеткиликтүү алкактарга бөлөт. Бири өндүрүштө планетардык масштабда иштейт; экинчиси окуучулар үчүн жасалма интеллекттин чындыгында кандай иштээрин үйрөнүү үчүн педагогикалык көпүрө катары кызмат кылат.
Google Издөө – көпчүлүк адамдар күн сайын колдонгон кеңири веб индекстөө системасы, ал эми Knowledge Graph Search – бул түз жоопторду жана маалымат панелдерин колдогон Google'дун структураланган объект маалымат базасы. Алардын кандайча айырмаланарын түшүнүү эмне үчүн кээ бир сурамдар бай маалыматтарды кайтарарын, ал эми башкалары салттуу көк шилтемелерди кайтарарын түшүндүрүүгө жардам берет.
GPT стилиндеги архитектуралар бай контексттик түшүнүктү түзүү үчүн өзүнө көңүл бурган Трансформер декодер моделдерине таянат, ал эми Мамбага негизделген тил моделдери ырааттуулуктарды натыйжалуураак иштетүү үчүн структураланган абал мейкиндигин моделдөөнү колдонушат. Негизги компромисс - GPT стилиндеги системалардагы экспрессивдүүлүк жана ийкемдүүлүк, ал эми Мамбага негизделген моделдердеги масштабдуулук жана узак контексттик натыйжалуулук.
