机器学习信息检索推荐系统监督式学习人工智能

排名系统与分类系统

排序系统和分类系统是机器学习中的两种基本方法。排序系统根据相关性或偏好对项目进行排序，而分类系统则将项目分配到预先定义的离散类别中。两者都在推荐引擎、搜索引擎和决策流程中发挥着至关重要的作用。

亮点

排名系统优化相对顺序，而分类系统优化绝对类别分配。
搜索引擎和推荐平台从根本上来说，依靠排名而非分类来呈现搜索结果。
与排序模型决策相比，分类输出通常更容易解释和调试。
与固定类别分类不同，排序能够自然地处理不断出现新候选项的动态项目集。

排名系统是什么？

机器学习方法根据预测的相关性、偏好或相对于其他项目的质量对项目进行排序。

排名系统学习的是对项目进行排序，而不是孤立地给它们打分，因此相对比较是其设计的核心。
LambdaMART、RankNet 和 ListNet 等学习排序 (LTR) 算法为包括 Google 和 Bing 在内的现代搜索引擎提供支持。
排序方法主要分为成对比较法和列表比较法，其中成对比较法一次比较两个项目，而列表比较法优化整个有序列表。
评估依赖于归一化折现累计收益 (NDCG)、平均倒数排名 (MRR) 和肯德尔 Tau 系数等指标，而非简单的准确率。
排名系统面临着独特的挑战，包括位置偏差，即用户不成比例地点击排名靠前的结果，而忽略了结果的真实相关性。

分类系统是什么？

机器学习模型根据学习到的模式，将输入数据分配到预定义的离散类别或标签中。

分类涵盖二元分类、多类分类和多标签分类，算法范围从逻辑回归到深度神经网络。
交叉熵损失及其变体是主要优化目标，它直接惩罚分配给错误类别的概率质量。
评估指标包括准确率、精确率、召回率、F1 分数和 AUC-ROC，具体选择取决于类别平衡和成本不对称性。
现代分类利用迁移学习，通过预训练模型（例如 BERT 和 ResNet）来显著降低新任务所需的数据量。
诸如温度标度和普拉特标度之类的校准技术可以解决概率估计过于自信的常见问题。

比较表

功能	排名系统	分类系统
输出格式	项目有序列表或评分排名	单标签或类别上的概率分布
培训目标	优化相对排序（例如，成对偏好、列表NDCG）	优化正确的类别分配（例如，交叉熵损失）
评估指标	NDCG、MRR、Kendall's Tau、precision@k	准确率、F1 分数、ROC 曲线下面积、对数损失
典型应用	搜索引擎、推荐系统、产品排序	垃圾邮件检测、医疗诊断、图像识别
处理新物品	自然地适应动态项目集	需要预定义的固定类集
可解释性	通常更难解释为什么一个项目排名高于另一个项目。	类别概率和决策边界更容易解释
数据要求	需要偏好数据、点击日志或明确的判断。	每类标注示例数量充足

详细对比

核心目标和产出

排序系统从根本上解决的是排序问题。它们回答的是“哪个项目应该排在第一位？”，而不是“这是什么？”。相比之下，分类解决的是分类问题，即赋予项目明确的标签。排序模型可能会根据实用性对三个相关文档进行排序；而分类模型只会简单地将每个文档标记为“相关”或“不相关”，而不会考虑哪个文档的实用性更高。

损失函数和优化

这些系统的数学核心存在显著差异。排序损失编码的是相对偏好——无论是通过类似铰链的成对损失，还是更复杂的列表式替代损失。分类损失则追求绝对正确性，惩罚分配给错误类别的概率。这种结构上的差异意味着，即使绝对分数校准不佳，排序模型也能表现良好，而分类器则需要校准良好的概率才能进行后续决策。

评价理念

我们对成功的评判标准截然不同。排名系统的成功在于用户能否在列表顶部附近找到所需内容，因此对位置敏感的指标至关重要。而分类系统的成功则取决于标签的正确性，无论错误出现在何处。这就解释了为什么即使搜索引擎在分类词条上的准确率达到 90%，如果 10% 的错误集中在搜索结果的顶部，仍然可能无法满足用户的需求。

数据与标注经济学

分类通常需要每个类别都有标注样本——成本高昂但操作简便。排序则需要更复杂的标注：成对偏好、分级相关性判断，或点击模式等隐式反馈。这些更丰富的信号能够实现排序，但也使数据收集更加复杂，并引入了用户与排序结果交互方式带来的偏差。

实践整合

生产系统通常会将这两种方法结合起来。分类器可能首先从海量语料库中筛选候选对象，然后排序器对筛选出的候选对象进行排序。这种架构兼顾了效率和质量，利用分类的简单性进行粗略筛选，并利用排序的精细性进行最终呈现。了解何时部署每种方法以及它们如何交互，是区分稳健的机器学习系统和脆弱的机器学习系统的关键。

优点与缺点

排名系统

优点

+ 捕捉细微的偏好
+ 处理动态项集
+ 直接优化用户体验
+ 支持个性化订购

继续

− 复杂的注释要求
− 决策更难解读
− 对位置偏好敏感
− 大规模计算成本高昂

分类系统

优点

+ 更易于训练和评估
+ 完善的理论基础
+ 大规模高效推理
+ 易于与规则集成

继续

− 忽略类别内的相对质量
− 固定类别限制
− 校准挑战
− 对领带或准领带处理不当

常见误解

神话

排序和分类是解决同一问题的两种可以互换的方法。

现实

虽然可以通过分数阈值将排名简化为分类，但这会丢失关键的排序信息。反过来——将分类转换为排名——在技术上是可行的，但实际上却很麻烦，而且很少有益处。

神话

更高的分类准确率总是意味着更好的搜索或推荐质量。

现实

即使系统能够高精度地对相关性进行分类，但如果无法区分相关性的程度，则其结果排名也会很差。用户关心的是快速找到最佳商品，而不仅仅是找到任何相关的商品。

神话

排名系统需要比分类系统更复杂的算法。

现实

对于排序任务，简单的排序启发式算法通常比复杂的分类器表现更好。复杂度差距被夸大了；关键在于使算法与问题结构相匹配。

神话

分类概率可以直接用作排名分数。

现实

虽然很诱人，但分类器概率通常校准不佳，无法捕捉相对偏好。相关性概率为 0.9 的文档并不一定比相关性概率为 0.85 的文档更好——排名模型的比较训练更为重要。

神话

深度学习使得传统的排序和分类方法过时了。

现实

线性模型和梯度提升树在延迟、可解释性和可维护性方面仍然具有竞争力，并且通常是生产环境中的首选模型。深度学习在处理非结构化数据方面表现出色，但并非必然优于其他方法。

常见问题解答

机器学习中的排序和分类的主要区别是什么？

分类将项目分配到不同的类别中——例如，这封邮件是垃圾邮件还是非垃圾邮件。排名则根据预测的相关性或偏好对项目进行排序——例如，这些搜索结果从最有用到最没用排列。关键区别在于你需要的是绝对标签还是相对排序。分类提供的是类别；排名提供的是序列。

分类模型可以用于排名吗？

理论上可以，但通常并非最优解。你可以先根据预测的属于“相关”类别的概率给项目打分，然后按分数排序。然而，分类训练的目标是最大化绝对正确率，而非相对排序，因此，与专门用于成对或列表比较的排序算法相比，最终的排名结果往往不尽如人意。

常用的排名算法有哪些？

排序学习方法占据主导地位：包括逐点方法（如序数回归）、成对方法（如 RankNet 和 RankSVM，它们从项目对中学习）以及列表方法（如 LambdaMART 和 ListNet，它们优化整个结果列表）。神经网络方法，包括 SetRank 和各种基于 Transformer 的架构，在捕捉复杂的项目交互方面也获得了广泛关注。

如何评价一个排名系统？

位置敏感指标至关重要。NDCG 奖励排名靠前的相关项。MRR 关注第一个相关项的排名。Precision@k 衡量前 k 个结果的相关性。与分类准确率不同，这些指标对出现在显著位置的错误惩罚更为严厉。

什么时候应该使用分类而不是排名？

当您需要为下游处理做出离散决策、类别定义明确且稳定，或者可解释性和易于调试至关重要时，请使用分类。医疗诊断、欺诈检测和内容审核通常适用于分类。当呈现顺序影响用户价值，并且您需要从大量候选选项中筛选出最佳选项时，请使用排序。

什么是学习排序？它是如何运作的？

排序学习（Learning to Rank）将机器学习应用于排序问题。它首先利用已知的偏好排序示例（例如人类的明确判断或点击等隐式信号）进行训练，然后将其推广到新的项目。该模型学习一个评分函数，当应用于任何项目集时，都能生成与观察到的偏好相匹配的排序结果。LambdaMART 是一种梯度提升树的变体，对于表格型和稀疏型特征仍然特别有效。

为什么搜索引擎使用排名而不是分类？

搜索用户首先需要的是最有用的结果，而不仅仅是相关页面的列表。分类会将数百万份文档标记为“相关”，却无法帮助用户浏览这些文档。排名则能直接优化用户快速查找信息的体验，因此在信息检索中，排名决定价值，排名自然是首选。

排名系统特有的挑战有哪些？

位置偏差会形成反馈循环：用户更倾向于点击排名靠前的结果，从而强化这些排名。反馈稀疏意味着大多数项目对从未被直接比较。要扩展到数百万个候选项目，就需要高效的检索重排序架构。新项目的冷启动以及在保持稳定性的同时维持新鲜度，都增加了复杂性。

类别不平衡如何影响分类和排名？

在分类中，严重的样本不平衡会导致模型只预测多数类，这就需要过采样或成本敏感学习等技术。排序受全局不平衡的影响较小，因为它侧重于观测到的样本对或列表内的相对比较，但流行度偏差仍然会使结果偏向于频繁出现的项目。

是否存在结合排序和分类的混合方法？

当然，它们在实践中很常见。多阶段架构首先进行分类以筛选候选对象，然后对筛选出来的对象进行排序。有些方法使用分类来预测相关性等级，然后根据这些等级进行排序。级联模型在进行细粒度排序之前先进行粗略分类。这些混合方法在效率、准确性和排序质量之间取得了平衡。

深度学习在现代排名和分类中扮演什么角色？

深度学习彻底改变了这两个领域，尤其是在非结构化数据方面。BERT及其后续模型通过上下文表示革新了文本排序。ResNet和Vision Transformer则主导了图像分类。然而，对于具有有意义特征的结构化数据，梯度提升树由于推理速度更快、调优更容易且准确率相当，在实际生产环境中通常仍然优于神经网络。

推荐系统如何在排序和分类之间进行选择？

推荐系统的核心在于排序——用户看到的是有序列表，他们需要优先看到最佳商品。然而，分类通常出现在推荐系统的上游：预测用户是否会与某个商品互动，或者将商品粗略分类以生成候选商品。即使分类在早期阶段发挥作用，最终的展示层几乎总是会进行排序。

裁决

当用户满意度取决于优先呈现最佳选项时，例如搜索和推荐系统，应选择排名系统。当决策需要离散分类或下游系统需要明确标签时，应选择分类系统。许多成功的应用会将两者结合起来：分类用于初始筛选，排名用于最终呈现。