神话
人工神经网络的运行方式与生物人脑完全相同。
现实
“神经网络”一词很大程度上是一种比喻。虽然早期的设计在一定程度上受到了生物学的启发，但现代深度学习依赖于严格的矩阵运算和全局优化算法，这与活体大脑组织复杂、化学反应和异步运行的机制截然不同。
人工智能认知科学深度学习神经科学
神经网络训练与人类学习过程
这项全面的分析对比了人工神经网络训练机制与人类认知发展。深度学习依赖于反向传播、海量数据集和数十亿次迭代调整来寻找统计模式，而人类学习则利用由情境、物理经验和概念抽象驱动的高效、低数据量的突触可塑性。
亮点
- 人工神经网络需要数百万次的数学迭代，而人类则依赖于上下文抽象。
- 反向传播需要全局协调，而生物大脑则通过局部突触更新进行适应。
- 人工智能模型难以应对灾难性遗忘，而人类可以通过睡眠和记忆巩固来克服这个问题。
- 生物系统运行所需的能量仅为高性能计算集群所需能量的一小部分。
神经网络训练是什么？
利用梯度下降法和海量数据集对人工权重进行数学优化，以最小化误差函数。
- 主要依靠反向传播将误差信号沿各层向后传播。
- 需要成千上万个具体的例子才能掌握简单的分类任务。
- 如果没有重新训练，接触新的、不相关的任务时会遭受灾难性遗忘。
- 在标准推理阶段，通过静态、固定的架构运行。
- 为达到高精度，需要消耗大量的电力和计算能量。
人类学习过程是什么？
感觉体验、好奇心和情境概念化驱动的神经通路生物适应。
- 利用突触可塑性，使大脑能够实时不断地自我重塑。
- 能够零次学习或一次学习，通过一次接触掌握新概念。
- 能够轻松保留历史知识框架，同时融入全新的技能。
- 自然地整合多模态感官输入，结合视觉、听觉、触觉和环境。
- 其生物运行效率极高，仅需约 20 瓦的功率。
比较表
| 功能 | 神经网络训练 | 人类学习过程 |
|---|---|---|
| 主要机制 | 数学梯度下降和反向传播 | 生物突触可塑性和神经递质调节 |
| 数据效率 | 极低；需要海量计算数据集 | 极高；从少数例子中提炼出规则 |
| 能源消耗 | 用于大规模集群训练的兆瓦级功率 | 大约20瓦的持续代谢功率 |
| 持续学习 | 差劲；经常完全忘记之前的任务。 | 优秀；将新技能融入旧框架。 |
| 学习方向 | 严格以目标为导向，通过最小化损失函数来实现 | 探索性、自主性和情境感知能力 |
| 硬件-软件分离 | 代码与物理硅芯片之间有明确的分离 | 密不可分；物理架构就是软件 |
详细对比
适应机制
人工神经网络通过调整刚性矩阵上的数值权重来进行学习。在反向传播过程中，一个中央算法计算输出的精确误差，并将基于微积分的修正值反向传递到系统中。相比之下，人脑利用的是局部突触可塑性。物理通路会根据细胞放电的时序进行增强或减弱，这使得生物系统能够在没有全局主算法管理调整的情况下进行有机适应。
数据和计算效率
为了识别自行车，人工智能网络必须处理成千上万张角度、光照和背景各异的图像，才能绘制出统计边界。而人类儿童通常只需要看到一两次自行车即可。人类认知利用现有的心理框架、直觉物理原理和结构类比，而人工智能网络每次初始化新架构时，本质上都是从一张充满随机噪声的空白画布开始。
泛化和迁移学习
众所周知，人工智能系统在脱离其狭窄的训练分布范围后会变得异常脆弱。一个经过训练、能够熟练玩特定电子游戏的模型，如果背景颜色稍有变化，就会完全失效，除非进行针对性的微调。人类则擅长迁移学习，能够将在一个领域中学到的平衡、动量和策略等抽象概念无缝地应用到完全陌生的场景中。
记忆保持和适应能力
当人工神经网络被迫学习一项全新的任务时，新的梯度更新往往会覆盖先前任务中建立的数值权重，导致灾难性遗忘。人脑则能巧妙地处理终身学习。我们通过睡眠将日常经验巩固为长期结构，确保学习驾驶不会降低我们的写作、说话或识别熟悉面孔的能力。
优点与缺点
神经网络训练
优点
- + 处理数百万个并行输入
- + 完美的数学一致性
- + 易于复制和扩展
- + 识别超维模式
继续
- − 海量数据需求
- − 高能耗
- − 容易发生灾难性遗忘
- − 缺乏常识
人类学习过程
优点
- + 惊人的数据效率
- + 精湛的抽象概括
- + 终身记忆整合
- + 超低功耗要求
继续
- − 缓慢、循序渐进地摄入
- − 容易出现认知疲劳
- − 知识无法立即复制。
- − 受情绪状态影响
常见误解
神话
深度学习模型经过训练后，就具备了类似人类的理解能力。
现实
人工智能模型擅长映射输入和输出之间的统计相关性，但它们完全缺乏语义理解能力。一个模型可以完美地描述水，却完全不理解水的湿润、口渴或物理存在等概念。
神话
人脑的存储容量是固定的，就像电脑的内存一样。
现实
人类记忆并非像数字硬盘那样，会随着空间的耗尽而逐渐填满。生物记忆是建构性的、联想性的；学习新概念实际上会建立更多联系，使未来获取信息更加容易，而不是耗尽物理空间。
神话
增加人工智能网络的规模将自动赋予其人类水平的推理能力。
现实
增加参数可以提高模式匹配能力并产生高度复杂的模仿效果，但这并不能解决根本性的架构限制。仅仅增加规模并不能赋予人工智能内在动机、物理实体或对世界进行理性思考的能力。
常见问题解答
反向传播究竟是什么？人类大脑会使用它吗？
反向传播是一种数学技术，用于计算神经网络中误差函数相对于权重的梯度。它将误差信号反向传递到模型的各个层，以调整连接。目前尚无确凿证据表明人脑使用反向传播。生物神经元通过突触间向前传播的电脉冲和化学信号进行通信，根据时间模式进行局部调整，而不是接收来自中央算法的全局数学修正。
为什么计算机需要数百万个例子才能学到孩子从一个例子中就能学到的东西？
儿童天生就拥有经过数百万年进化而来的生物结构，这种结构经过优化，能够适应物理宇宙的生存。儿童天生就对物理定律、物体恒存性和因果关系有着直觉式的理解。当儿童第一次看到动物时，他们会将这种视觉信息融入到一个庞大的、预先存在的框架中。而人工智能模型则从一张白纸开始训练，初始状态只有随机数，这意味着它们必须完全从零开始推断线条、几何、光照和存在等基本概念。
人工神经网络在训练过程中会产生好奇心吗？
标准神经网络不会体验情感或好奇心。然而，计算机科学家可以在强化学习智能体中模拟一种被称为内在好奇心的动态过程。这是通过在损失函数中添加数学奖励来实现的，奖励会在智能体遇到全新的状态或不可预测的数据时发放。虽然这鼓励了探索并模拟了好奇行为，但它仍然是一种经过计算的数学优化，而非情感或心理驱动。
什么是灾难性遗忘？为什么人类不会遭受这种遗忘的影响？
灾难性遗忘是指当一个人工神经网络接受新任务训练时，由此产生的数学更新会覆盖先前任务中学习到的权重配置，导致旧技能失效。人类之所以能够避免这种情况，是因为我们的大脑运用了多种互补学习系统的复杂组合。海马体能够迅速捕捉新的日常经验，而新皮层则在睡眠期间缓慢地将这些信息整合到稳定的长期框架中，从而保护基础知识免受突然干扰。
人工智能训练的能源效率与人脑相比如何？
能源效率的差异巨大。训练一个前沿的深度学习模型需要仓库大小的数据中心，消耗兆瓦级的电力，其耗电量往往足以供数千户家庭使用数周。而人脑仅需20瓦的生物能量，就能同时完成复杂的语言合成、身体协调、感觉处理和抽象推理等任务，这些生物能量完全来自基本的热量摄入。
身体体验在人类学习和人工智能训练中分别扮演着怎样的角色？
具身认知是人类认知发展的基石。人类通过与周围环境进行物理互动来学习，例如操作物体、感受重力以及体验运动带来的后果。这种持续的反馈循环构建了对现实的稳健而扎实的理解。大多数人工智能模型完全脱离了具身认知，它们孤立地处理静态的数字符号或像素，没有任何物理关联、空间存在感或现实世界的参照点。
人工智能模型能否在消费者使用过程中持续学习？
在标准的生产部署中，人工智能模型在训练阶段结束后就会被冻结。当你与商业模型交互时，它处于推理模式，这意味着它的内部权重不会根据你的查询而改变。为了从新数据中学习，工程师必须收集用户日志，将它们打包成庞大的批次，然后运行一个独立的、成本高昂的重新训练周期。相反，人类能够动态学习，并通过每一次对话和体验不断更新他们的心智模型。
神经形态计算能否缩小人工智能与人类学习之间的差距？
神经形态计算旨在通过设计模拟生物神经元和突触物理结构的硬件来弥合这一差距。与传统处理器不断在存储器和中央处理器之间交换数据不同，神经形态芯片直接在芯片上使用稀疏的异步电脉冲来处理信息。这种方法可以显著降低能耗，并使未来的人工智能系统能够实现更局部化、更类似大脑的学习机制。
裁决
在需要解析海量结构化数据以发现人眼难以察觉的微妙高维模式时，神经网络训练的优势无可比拟。然而，在数据稀缺、上下文至关重要的不可预测环境中，人类学习仍然是适应性强、创造性解决问题的黄金标准。
相关比较
AI 错误检测与人工审核对比
人工智能质量检测利用机器学习模型大规模标记低质量或人工智能生成的内容，而人工审核则依靠训练有素的编辑通过判断和上下文来评估内容质量。每种方法各有优势，许多组织现在都将两者结合起来以获得最佳效果。
AI管道中的迭代检索与一次性检索系统
人工智能流程中的迭代检索通过多次搜索和推理循环来优化结果，而一次性检索系统则只需一次遍历即可获取信息。迭代方法擅长处理复杂的多跳查询，而一次性方法则优先考虑速度和简洁性，适用于简单的查询。
AI伙伴 vs 人类友谊
人工智能伴侣是旨在模拟对话、情感支持和临场感的数字系统，而人类友谊则建立在共同的生活经验、信任和情感互惠之上。本文将对比探讨这两种连接方式如何在日益数字化的世界中塑造沟通、情感支持、孤独感和社会行为。
AI计算排放与传统云排放对比
人工智能计算产生的排放主要来自训练大型模型的高能耗GPU集群，而传统云的排放则来自运行日常工作负载的通用数据中心。人工智能工作负载的单次任务耗电量远高于传统云，但传统云的运行规模要大得多。
AI检测与基于规则的检测
现代数字环境需要强大的防御机制，但其底层方法却截然不同，威胁、欺诈或异常情况的检测方式也大相径庭。基于规则的系统依赖于严格的预配置条件来标记已知威胁，而人工智能模型则通过分析行为来发现不常见的异常情况。在两者之间做出选择意味着需要在绝对确定性和适应性灵活性之间取得平衡。