El Self-RAG introdueix una capa de recuperació autoreflexiva que permet als models de llenguatge criticar i adaptar les seves pròpies sortides, mentre que les pipelines RAG estàndard es basen en un flux de treball fix de recuperació i lectura. La diferència clau rau en el control adaptatiu versus l'execució lineal predictible.
Un marc de treball augmentat per la recuperació on el model avalua i decideix quan recuperar informació pel seu compte.
Un enfocament tradicional de generació augmentada per recuperació que recupera primer els documents i després els alimenta a un model de llenguatge.
| Funcionalitat | Auto-RAG | Canonades RAG estàndard |
|---|---|---|
| Estratègia de recuperació | Adaptatiu, el model decideix quan recuperar | Sempre recupera abans de respondre |
| Autoavaluació | Fitxes de reflexió integrades per al control de qualitat | Cap mecanisme de crítica interna |
| Cost computacional | Més baix quan s'omet la recuperació | Cost per consulta consistent |
| Precisió de la resposta | Superior en tasques de raonament complex | Fort però pot incloure context irrellevant |
| Complexitat d'implementació | Canal de formació més complex | Més senzill de desplegar i mantenir |
| Flexibilitat | S'ajusta dinàmicament per consulta | Flux de treball fix independentment del tipus de consulta |
| Requisits de formació | Necessita dades etiquetades amb reflexió | N'hi ha prou amb un ajust fi estàndard |
| Latència | Variable en funció de les decisions de recuperació | Latència predictible en dos passos |
El RAG estàndard opera en un pipeline senzill de dues etapes on un recuperador obté els documents rellevants i un generador produeix una resposta condicionada a aquest context. El Self-RAG afegeix un procés de presa de decisions, permetent que el model emeti tokens de reflexió que determinen si cal una recuperació i si la sortida és sòlida. Això fa que el Self-RAG sigui més modular en concepte, mentre que el RAG estàndard continua sent més senzill i fàcil de raonar.
En el RAG estàndard, cada consulta desencadena un pas de recuperació independentment de si el model ja té el coneixement. Self-RAG inverteix això entrenant el model per jutjar quan la informació externa és realment necessària. Per a preguntes factuals que el model pot respondre a partir dels seus propis pesos, Self-RAG omet completament la recuperació, cosa que redueix el soroll i accelera les respostes.
L'auto-RAG introdueix quatre tokens de reflexió que actuen com a punts de control durant tot el procés de generació. Aquests tokens permeten que el model marqui les afirmacions no compatibles i ho torni a intentar quan les proves són febles. El RAG estàndard no té aquest bucle de retroalimentació intern, de manera que les al·lucinacions o les respostes fora de tema poden passar desapercebudes tret que s'afegeixin barreres de seguretat externes.
En proves de referència com PopQA, ARC-Challenge i PubHealth, Self-RAG ha demostrat guanys mesurables respecte a les línies de base estàndard de RAG, especialment per a preguntes que requereixen raonament multi-hop. El RAG estàndard encara funciona bé en cerques factuals senzilles on la recuperació de manera fiable mostra el passatge correcte. La bretxa de rendiment s'eixampla a mesura que augmenta la complexitat de les preguntes.
El RAG estàndard continua sent l'opció per defecte per a la majoria de sistemes de producció perquè s'integra perfectament amb les bases de dades vectorials existents i no requereix dades d'entrenament especialitzades. L'auto-RAG exigeix més esforç d'enginyeria, incloent-hi la generació de conjunts de dades etiquetats per reflexió i l'afinament del model per emetre els tokens correctes. Per a equips amb recursos d'aprenentatge automàtic limitats, el RAG estàndard és l'opció pragmàtica.
El Self-RAG substitueix completament el component del recuperador.
Self-RAG encara utilitza un recuperador, però afegeix una capa de decisió a la part superior. El model tria quan invocar la recuperació en lloc d'eliminar-la completament del pipeline.
El RAG estàndard està obsolet i ja no és útil.
El RAG estàndard continua sent la base de la majoria de sistemes d'IA de producció. L'auto-RAG es basa en ell en lloc de substituir-lo, i molts equips encara obtenen resultats excel·lents amb l'enfocament clàssic.
El Self-RAG sempre recupera més documents que el RAG estàndard.
Self-RAG sovint recupera menys documents perquè pot ometre la recuperació quan no és necessària. La naturalesa adaptativa significa que només extreu el context quan el model el considera útil.
Necessiteu GPT-4 per executar Self-RAG.
L'auto-RAG es pot implementar amb diversos models de codi obert. L'article original utilitzava Llama 2 ajustat amb tokens de reflexió, cosa que demostra que l'enfocament funciona més enllà dels sistemes propietaris.
El RAG estàndard no pot gestionar raonaments complexos.
El RAG estàndard gestiona bé el raonament complex quan es combina amb generadors potents i bones estratègies de segmentació. L'auto-RAG millora els casos límit, però el RAG estàndard no es limita inherentment a consultes simples.
Trieu Self-RAG quan la qualitat de la resposta, la reducció d'al·lucinacions i l'eficiència adaptativa importin més que la simplicitat d'implementació, especialment per a tasques de raonament complexes. Els pipelines RAG estàndard continuen sent la millor opció per a implementacions senzilles on la latència predictible i la fàcil integració amb la infraestructura existent són les màximes prioritats.
Aquest desglossament detallat explora les diferències fonamentals entre les actualitzacions de gràfics basades en esdeveniments i el processament de gràfics per lots dins de les arquitectures d'IA. Mentre que les pipelines basades en esdeveniments gestionen la transmissió en temps real i les mutacions irregulars de la topologia de xarxa, el processament per lots consolida els canvis en execucions computacionals pesades i programades per maximitzar el rendiment del sistema i la saturació del maquinari.
Les actualitzacions de models en temps real i el reentrenament de models per lots representen dos enfocaments fonamentalment diferents per mantenir els sistemes d'aprenentatge automàtic actualitzats. Els mètodes en temps real s'adapten instantàniament a les noves dades, mentre que el reentrenament per lots reconstrueix els models a intervals programats utilitzant conjunts de dades acumulats.
Les actualitzacions de la versió LLM se centren en la implementació de models de llenguatge més nous i capaços amb un raonament i unes funcions millorades, mentre que el manteniment de models antics manté els sistemes d'IA més antics funcionant de manera fiable. Les organitzacions han de sospesar la innovació contra l'estabilitat a l'hora de decidir entre actualitzar o mantenir els seus models existents.
Aquesta comparació analitza les opcions estratègiques en l'aprenentatge automàtic entre l'adaptació de domini, que transfereix coneixement d'un entorn d'origen etiquetat a un entorn de destinació diferent, i l'entrenament dins del domini, que crea models completament a partir de dades recollides de la configuració exacta de desplegament de destinació.
L'adaptació lingüística en la IA se centra en l'ensenyament de models per gestionar idiomes específics mitjançant l'afinament i l'aprenentatge per transferència, mentre que els sistemes d'IA agnòstics a l'idioma tenen com a objectiu processar qualsevol idioma sense formació específica per a l'idioma. Ambdós enfocaments aborden els reptes multilingües, però difereixen fonamentalment en l'arquitectura, les dades d'entrenament i el desplegament al món real.
