Comparthing Logo
人工智能抹布法学硕士检索增强生成自然语言处理

自 RAG 流水线与标准 RAG 流水线

Self-RAG引入了一个自反思检索层，使语言模型能够批判性地评估和调整自身的输出，而标准的RAG流程则依赖于固定的“检索-读取”工作流程。关键区别在于自适应控制与可预测的线性执行之间的差异。

亮点

  • Self-RAG 使用反射令牌来决定何时真正需要检索。
  • 标准 RAG 始终会检索，并添加一致但有时不必要的上下文。
  • Self-RAG 可以跳过对已知查询的检索，从而降低计算成本。
  • 如今，标准 RAG 系统在生产环境中部署起来要容易得多。

自毁是什么？

一种检索增强框架，其中模型可以自行评估并决定何时检索信息。

  • 由华盛顿大学和艾伦人工智能研究所的研究人员在 2023 年的一篇论文中提出。
  • 使用 Retrieve、IsRel、IsSup 和 IsUse 等特殊反射标记来指导行为。
  • 如果模型已经知道答案，则可以完全跳过检索过程，从而节省计算资源。
  • 在 PopQA 和 PubHealth 基准测试等知识密集型任务中取得了优异的性能。
  • 使用由 GPT-4 生成的包含自我反思示例的数据集进行训练。

标准 RAG 管道是什么？

一种传统的检索增强生成方法，首先检索文档，然后将其输入到语言模型中。

  • 源自 Patrick Lewis 及其 Facebook AI 研究院同事于 2020 年发表的一篇论文。
  • 遵循线性检索-读取序列，不进行内部自我评估。
  • 通常使用来自 DPR 或 BGE 等模型的密集嵌入进行文档检索。
  • 构成了当今大多数生产型聊天机器人和企业搜索工具的支柱。
  • 通常与 FAISS、Pinecone 或 Weaviate 等矢量数据库配合使用，以进行快速相似性搜索。

比较表

功能 自毁 标准 RAG 管道
检索策略 自适应模型决定何时检索 总是在回答之前进行检索。
自我评价 内置反射标记用于质量控制 没有内部批评机制
计算成本 跳过检索时降低 每次查询成本稳定
答案准确率 在复杂推理任务中表现更佳 强，但可能包含无关内容
实现复杂度 更复杂的训练流程 更易于部署和维护
灵活性 根据查询动态调整 无论查询类型如何，工作流程都是固定的。
培训要求 需要带有反射标签的数据 标准微调就足够了
延迟 变量取决于检索决策 可预测的两步延迟

详细对比

核心架构

标准 RAG 采用简单的两阶段流程：检索器获取相关文档，生成器根据上下文生成答案。Self-RAG 在此基础上增加了一个决策过程，允许模型发出反射标记，以确定是否需要检索文档以及输出是否合理。这使得 Self-RAG 在设计上更加模块化，而标准 RAG 则保持了简洁易懂的风格。

检索行为

在标准的 RAG 算法中，无论模型是否已具备相关知识，每个查询都会触发检索步骤。而 Self-RAG 则反其道而行之，它训练模型判断何时真正需要外部信息。对于模型能够根据自身权重回答的事实性问题，Self-RAG 会完全跳过检索步骤，从而降低噪声并加快响应速度。

质量控制

Self-RAG引入了四个反思标记，它们在整个生成过程中充当检查点。这些标记允许模型标记缺乏证据支持的断言，并在证据不足时重试。标准RAG没有这种内部反馈回路，因此，除非添加外部防护措施，否则可能会出现臆想或离题的答案。

基准测试性能

在 PopQA、ARC-Challenge 和 PubHealth 等基准测试中，Self-RAG 相较于标准 RAG 基线算法展现出显著优势，尤其是在需要多跳推理的问题上。对于能够可靠检索到正确段落的简单事实查找问题，标准 RAG 仍然表现良好。但随着问题复杂性的增加，性能差距会逐渐扩大。

实际部署

标准 RAG 仍然是大多数生产系统的默认选择，因为它能与现有的向量数据库无缝集成，且无需专门的训练数据。自 RAG 则需要更多的工程投入，包括生成反射标注的数据集以及微调模型以生成正确的词元。对于机器学习资源有限的团队而言，标准 RAG 是务实的选择。

优点与缺点

自毁

优点

  • + 自适应检索
  • + 内置质量检查
  • + 更高精度
  • + 减少幻觉

继续

  • − 复杂训练
  • − 需要专门数据
  • − 部署难度更大
  • − 可变延迟

标准 RAG 管道

优点

  • + 简单的架构
  • + 易于集成
  • + 可预测的成本
  • + 广泛的工具支持

继续

  • − 始终检索
  • − 没有自我批评
  • − 可能包含噪音
  • − 幻觉风险较高

常见误解

神话

Self-RAG 完全取代了检索组件。

现实

Self-RAG 仍然使用检索器，但在其上增加了一个决策层。该模型会选择何时调用检索功能，而不是完全从流程中移除检索步骤。

神话

标准 RAG 已过时，不再适用。

现实

标准 RAG 仍然是大多数生产级 AI 系统的基础。自 RAG 是在其基础上构建的，而不是取代它，许多团队使用传统方法仍然能取得卓越的成果。

神话

自 RAG 检索到的文档数量总是比标准 RAG 多。

现实

由于 Self-RAG 可以跳过不必要的检索，因此通常检索到的文档数量较少。其自适应特性意味着它仅在模型认为上下文有用时才提取上下文信息。

神话

运行 Self-RAG 需要 GPT-4。

现实

Self-RAG 可以与多种开源模型结合使用。最初的论文使用了经过反射令牌微调的 Llama 2 模型，证明该方法不仅适用于专有系统。

神话

标准 RAG 无法处理复杂的推理。

现实

标准 RAG 在配合强大的生成器和良好的分块策略时，能够很好地处理复杂的推理。自 RAG 改进了边界情况的处理，但标准 RAG 本身并不局限于简单的查询。

常见问题解答

Self-RAG 和标准 RAG 的主要区别是什么？
最大的区别在于自适应控制。Self-RAG 允许模型自行决定何时检索文档，并使用反射标记评估自身的输出，而标准 RAG 则始终在生成答案之前检索文档。这使得 Self-RAG 更灵活，但也更难实现。
Self-RAG 能减少幻觉吗？
是的，Self-RAG 的设计初衷就是为了减少幻觉。它的 IsSup 和 IsUse 反射标记可以让模型标记出那些没有检索到的证据支持的答案，这有助于在用户看到未经证实的说法之前就将其拦截下来。
我可以将 Self-RAG 与开源模型一起使用吗？
当然。最初的 Self-RAG 论文使用 Llama 2 7B 和 13B 模型演示了该方法。您可以使用反射令牌数据对任何开源 LLM 进行微调，以实现类似的自反射行为。
2026年，标准的红黄绿编码还值得学习吗？
标准 RAG 绝对值得学习。它构成了所有检索增强系统（包括 Self-RAG）的概念基础。大多数企业部署仍然使用标准 RAG 模式，因此在学习更高级的变体之前，理解这些模式至关重要。
Self-RAG 比标准 RAG 改进了多少？
原始论文报告称，在 PopQA 和 PubHealth 等基准测试中，性能提升了几个百分点。不同任务的提升幅度有所不同，其中多跳推理和事实验证类问题的提升最为显著。
Self-RAG 中的反思标记是什么？
反思标记是模型在生成过程中发出的特殊标记，用于指示决策。主要有四种类型：检索（我应该检索吗？）、相关（段落是否相关？）、支持（段落是否支持答案？）和有用（答案总体上是否有用？）。
Self-RAG 的运行成本是否高于标准 RAG？
这取决于工作负载。当许多查询不需要检索数据时，自 RAG 可能更便宜，因为它完全跳过了检索步骤。对于确实需要检索数据的查询，其成本与标准 RAG 相当，外加少量反射标记处理的开销。
哪些向量数据库可以同时用于这两种方法？
Self-RAG 和标准 RAG 均可与任何向量数据库配合使用，包括 FAISS、Pinecone、Weaviate、Chroma 和 Milvus。检索组件基本相同；区别在于模型如何使用检索到的结果。
Self-RAG 可以在没有网络连接的情况下工作吗？
是的，只要您拥有本地向量存储和经过微调的模型，Self-RAG 就可以完全离线工作。反射机制完全在模型自身的输出中运行，因此推理过程中不需要调用外部 API。
哪种方法更适合企业聊天机器人？
对于当今大多数企业聊天机器人而言，由于标准 RAG 算法的成熟性和维护简便性，它是更安全的选择。当出现幻觉率至关重要，且团队具备应对额外复杂性的工程能力时，自 RAG 算法就显得很有吸引力。

裁决

当答案质量、减少幻觉和自适应效率比实现简易性更重要时，尤其是在处理复杂的推理任务时，应选择 Self-RAG。对于延迟可预测且易于与现有基础设施集成的简单部署，标准 RAG 流水线仍然是更佳选择。

相关比较

AI 错误检测与人工审核对比

人工智能质量检测利用机器学习模型大规模标记低质量或人工智能生成的内容，而人工审核则依靠训练有素的编辑通过判断和上下文来评估内容质量。每种方法各有优势，许多组织现在都将两者结合起来以获得最佳效果。

AI管道中的迭代检索与一次性检索系统

人工智能流程中的迭代检索通过多次搜索和推理循环来优化结果，而一次性检索系统则只需一次遍历即可获取信息。迭代方法擅长处理复杂的多跳查询，而一次性方法则优先考虑速度和简洁性，适用于简单的查询。

AI伙伴 vs 人类友谊

人工智能伴侣是旨在模拟对话、情感支持和临场感的数字系统，而人类友谊则建立在共同的生活经验、信任和情感互惠之上。本文将对比探讨这两种连接方式如何在日益数字化的世界中塑造沟通、情感支持、孤独感和社会行为。

AI计算排放与传统云排放对比

人工智能计算产生的排放主要来自训练大型模型的高能耗GPU集群，而传统云的排放则来自运行日常工作负载的通用数据中心。人工智能工作负载的单次任务耗电量远高于传统云，但传统云的运行规模要大得多。

AI检测与基于规则的检测

现代数字环境需要强大的防御机制，但其底层方法却截然不同，威胁、欺诈或异常情况的检测方式也大相径庭。基于规则的系统依赖于严格的预配置条件来标记已知威胁，而人工智能模型则通过分析行为来发现不常见的异常情况。在两者之间做出选择意味着需要在绝对确定性和适应性灵活性之间取得平衡。