神话
基于规则的系统是过时的垃圾，在现代人工智能工程中没有立足之地。
现实
它们仍然是关键安全基础设施、金融交易合规性和自动化计费软件的基石。许多现代企业有意将它们作为保护不稳定的机器学习模型的护栏，以防止出现危险或不稳定的输出。
人工智能软件工程机器学习代理工作流
基于规则的智能体与基于学习的智能体
这种架构比较将基于规则的代理的确定性工程与基于学习的代理的自适应数据驱动特性进行了对比，评估了它们在现实世界中的适用性、扩展极限以及在不确定性下的性能。
亮点
- 基于规则的智能体强制执行一种完全由人类领域专业知识构建的僵化、确定性的世界观。
- 基于学习的智能体能够动态适应，发现人类可能忽略的细微数学模式。
- 基于规则的设置不需要任何初始数据，但在面对开放世界环境时扩展性较差。
- 基于学习的系统固有的缺乏透明度使得对其进行严格的监管合规性审计变得更加困难。
基于规则的代理是什么？
由明确的、人为编写的逻辑和条件语句控制的系统，可提供可预测的、确定性的结果。
- 严格按照完全由人类程序员设计的“如果-那么”语义框架运行。
- 具有绝对的可预测性，确保每次给定输入都能得到完全相同的输出。
- 无需任何训练数据或优化阶段即可部署到生产环境中。
- 展现出完全透明的决策过程，便于人工审核。
- 当遇到超出其明确预编程逻辑范围的新极端情况时，会完全失效。
基于学习的智能体是什么？
通过数据暴露，能够独立发现模式、优化策略和改进操作的自适应软件实体。
- 利用神经网络、统计模型或强化算法来概括行为。
- 通过与数据或模拟环境的持续交互，随着时间的推移提高性能。
- 在高维、复杂的空间中，尤其是在有大量环境噪音的环境中，能够茁壮成长。
- 其运行方式很大程度上像一个黑箱，使得具体的逐步逻辑难以解释。
- 需要大量的计算基础设施来进行训练、微调和推理循环。
比较表
| 功能 | 基于规则的代理 | 基于学习的智能体 |
|---|---|---|
| 核心机制 | 人工编写的专家规则 | 算法数据优化 |
| 可预测性 | 100%确定性 | 概率和统计 |
| 数据依赖性 | 无需 | 需要海量数据集 |
| 极端情况下的行为 | 系统故障或默认错误 | 近似猜测或概括 |
| 可解释性 | 完全透明（清晰的逻辑树） | 不透明（复杂的权重矩阵） |
| 扩展复杂性 | 随着规则增多，变得难以管理。 | 随着计算规模的扩大，性能得到提升。 |
| 发展瓶颈 | 花费在采访领域专家上的时间 | 收集和清理数据所花费的时间 |
详细对比
建筑逻辑与决策
基于规则的智能体采用自顶向下的设计，由人类工程师扮演“大脑”的角色，手动绘制出所有允许的状态及其对应的动作。这导致智能体结构僵化、脆弱，只能在狭窄的范围内完美运行，无法独立扩展。基于学习的智能体则颠覆了这种范式，采用自底向上的方法，利用目标函数或奖励信号来探索数据空间，并制定自身的内部成功策略。
应对不确定性和环境复杂性
当被置于自动驾驶或自然语言处理等复杂环境中时，基于规则的系统会面临组合爆炸的困境，因为编写足够的代码来涵盖所有现实情况是不可能的。而基于学习的框架在这方面表现出色，因为它们着眼于统计相关性而非僵化的约束。它们能够巧妙地处理缺失的变量，并根据历史模式预测最安全或最合乎逻辑的前进路径。
维护性、可扩展性和技术债务
维护庞大的基于规则的架构最终会成为软件工程的噩梦，因为添加一条新规则可能会无意中与五条现有规则相矛盾或破坏它们。相反，扩展基于学习的模型需要输入更多样化的数据并增加其参数容量。虽然这缓解了手动编码的瓶颈，但也引入了另一种形式的技术债务，其核心在于数据管道管理和模型漂移监控。
透明度和监管合规性
在医疗诊断或贷款审批等监管严格的领域，基于规则的系统仍然备受重视，因为它们的执行路径可以清晰地打印出来，并可供验证以确保合法合规。而基于学习的模型则难以做到绝对透明，通常需要借助辅助的、可解释的人工智能技术来推断特定预测的依据。这种在原始性能和可审计性之间的权衡，决定了许多现代部署方案的选择。
优点与缺点
基于规则的代理
优点
- + 结果完全可预测
- + 零数据需求
- + 完美的数学可解释性
- + 计算开销低
继续
- − 极其脆弱的建筑
- − 大量人工编码工作
- − 不能推广到新颖性
- − 在复杂环境下失效
基于学习的智能体
优点
- + 卓越的通才能力
- + 在混乱的环境中茁壮成长
- + 随计算能力扩展
- + 发现新颖的解决方案
继续
- − 不透明的决策过程
- − 需要海量数据集
- − 容易出现统计幻觉
- − 高昂的训练计算成本
常见误解
神话
基于学习的智能体能够自动理解其任务的内在含义。
现实
这些智能体并不具备真正的理解能力；相反，它们优化的是复杂的统计相关性和高维几何结构。如果输入数据发生变化，破坏了这些隐藏的相关性，智能体的性能就会迅速下降。
神话
构建基于规则的智能体总是更快，因为它不需要训练。
现实
虽然部署过程是即时的，但人工访谈专家、发现极端情况以及构建无错逻辑树等阶段可能需要数月的密集工程。如果已有高质量的数据集，学习模型通常可以完全绕过这个人工转换阶段。
神话
只要数据足够多，基于学习的模型最终将达到100%的准确率。
现实
统计模型本质上是概率性的，始终存在误差。增加数据种类可以最大限度地减少误差，但噪声、抽样偏差和分布偏移意味着它们永远无法像确定性代码那样保证绝对的确定性。
常见问题解答
日常生活中一个经典的基于规则的智能体的例子是什么？
一个典型的例子是，电子邮件垃圾邮件过滤器会搜索诸如“彩票中奖”或“电汇”之类的特定关键词。如果邮件包含这些指定的短语，系统会立即执行规则，将其重定向到垃圾邮件文件夹。虽然这种方法对于简单的威胁非常有效，但如果诈骗者更改拼写以绕过精确的关键词匹配规则，它就会完全失效。
基于学习的智能体如何处理它们从未遇到过的情况？
它们依赖于一种名为泛化的数学特性，将新场景与训练过程中学习到的最接近的统计模式进行比对。模型不会崩溃，而是会根据计算结果，插值出一个成功概率最高的动作。虽然这赋予了模型灵活的问题解决能力，但如果场景过于陌生，有时也会导致一些奇怪且意想不到的错误。
是否有可能将基于规则的机制与学习算法结合起来？
是的，这种方法被称为混合人工智能系统或神经符号架构，它代表了企业人工智能领域的一大趋势。在这种架构下，学习代理可以自由探索、生成内容或优化方案。然而，它的输出必须经过严格的基于规则的过滤器，该过滤器会阻止无效操作，从而确保安全性和合规性。
为什么金融机构仍然非常青睐基于规则的欺诈检测编程？
监管机构要求银行明确说明特定账户被标记或贷款申请被拒的原因。基于规则的系统能够提供清晰、可追溯的记录，表明该账户触发了特定阈值。试图基于神经网络内部的抽象权重来解释拒贷决定可能会导致严重的法律和合规风险。
从长远来看，这两种方法的维护成本有何不同？
基于规则的框架会产生高昂的工程人工成本，因为程序员必须随着业务需求的变化不断编写和测试代码修复。而基于学习的框架虽然需要较少的手动编码，但需要持续投入大量资金用于数据收集管道、用于定期模型重新训练的云计算以及专门的 MLOps 团队来监控数据漂移。
基于规则的智能体能否在实际运行中从错误中学习？
不，纯粹基于规则的智能体在执行过程中完全静止不动，无法根据性能跟踪来修改自身的逻辑。如果某条规则存在缺陷，智能体会反复犯同样的错误，直到人类工程师手动修改源代码为止。它完全缺乏强化学习中常见的自主纠错循环。
是什么导致基于学习的系统计算成本如此高昂？
它们依赖于数百万甚至数十亿个数学权重，这些权重必须通过称为反向传播的过程反复调整。计算海量数据集的梯度需要并行处理架构，而这种架构通常只存在于专用GPU上。相比之下，基于规则的系统只需按顺序执行逻辑语句，几乎可以在任何基本处理器上运行。
哪种类型的代理人更适合作为电子游戏中的NPC？
这取决于游戏风格，但大多数商业游戏都倾向于使用基于规则的有限状态机。游戏设计师需要NPC的行为具有可预测性，以便讲述连贯的故事并提供平衡的挑战。基于学习的NPC可能会发现意想不到的漏洞或做出异常行为，从而破坏精心设计的玩家体验，尽管它常用于高级模拟中以测试游戏平衡的极限。
裁决
在设计高度结构化的工作流程时，如果容错率极低、逻辑清晰且法律要求完全可审计，则应选择基于规则的代理。在处理混乱、不可预测或非结构化的数据字段时，如果模式过于微妙，人类程序员难以高效地进行硬编码，则应选择基于学习的代理。
相关比较
AI伙伴 vs 人类友谊
人工智能伴侣是旨在模拟对话、情感支持和临场感的数字系统，而人类友谊则建立在共同的生活经验、信任和情感互惠之上。本文将对比探讨这两种连接方式如何在日益数字化的世界中塑造沟通、情感支持、孤独感和社会行为。
AI检测与基于规则的检测
现代数字环境需要强大的防御机制，但其底层方法却截然不同，威胁、欺诈或异常情况的检测方式也大相径庭。基于规则的系统依赖于严格的预配置条件来标记已知威胁，而人工智能模型则通过分析行为来发现不常见的异常情况。在两者之间做出选择意味着需要在绝对确定性和适应性灵活性之间取得平衡。
AI助手与传统生产力应用
人工智能助手侧重于对话式互动、情感支持和自适应辅助，而传统的生产力应用则更注重结构化的任务管理、工作流程和效率工具。这种对比凸显了软件设计正从僵化的、以任务为导向的软件向融合生产力、自然人性化互动和情境支持的自适应系统转变。
GPT风格架构与基于Mamba的语言模型
GPT 式架构依赖于带有自注意力机制的 Transformer 解码器模型来构建丰富的上下文理解，而基于 Mamba 的语言模型则使用结构化状态空间建模来更高效地处理序列。关键的权衡在于：GPT 式系统注重表达能力和灵活性，而基于 Mamba 的模型则注重可扩展性和长上下文处理效率。
Transformer 中的内存瓶颈与 Mamba 中的内存效率
随着序列长度的增加，Transformer 会因为需要对所有标记进行完全关注而难以应对不断增长的内存需求，而 Mamba 引入了一种状态空间方法，该方法按顺序处理序列并压缩隐藏状态，从而显著提高了内存效率，并为现代 AI 系统中的长上下文任务提供了更好的可扩展性。