编辑推荐：
•本文详细介绍了在排序学习（LTR）背景下对顶级排名学习的调查。•本文清晰地展示了LTR、二分排名和顶级排名学习之间的关键联系和区别。•本文全面讨论了使用大语言模型（LLMs）的顶级排名学习方法，为未来的研究提供了方向。引言顶级排名学习[1]是一种专门的机器学习技术，专注于识别最
- •
本文详细介绍了在排序学习（LTR）背景下对顶级排名学习的调查。
- •
本文清晰地展示了LTR、二分排名和顶级排名学习之间的关键联系和区别。
- •
本文全面讨论了使用大语言模型（LLMs）的顶级排名学习方法，为未来的研究提供了方向。
引言
顶级排名学习[1]是一种专门的机器学习技术，专注于识别最可靠的“正面”样本。它属于排序学习（LTR）的范畴，是二分排名的一个特定变体，具有独特的目标。从LTR到二分排名，再到顶级排名学习，它们形成了一个层次结构，每个概念都是在前一个基础上发展而来的，如图1所示。在这个层次结构中，LTR位于最外层，是最通用的形式；二分排名作为二分类的特殊情况嵌套在LTR中；而顶级排名学习则通过用以排名最高的Pos@Top标准替换全局AUC目标而进一步专业化。
LTR是其他概念的总称。它利用机器学习对项目进行排序，常见于搜索引擎和推荐系统中[2]。其目标是根据偏好、相关性或其他排名标准对项目进行排序。LTR大致可以分为三种设计方法：逐点法（将问题视为单个项目的回归/分类）、成对法和列表法（优化整个列表的顺序）。在过去几十年中，由于其应用领域的不断扩大[3]，[4]，[5]，LTR引起了众多机器学习研究者的关注。
二分排名是LTR中的一个具体任务[6]，[7]。它处理二分类场景（正面样本与负面样本），并旨在学习一个函数，使正面样本的得分高于负面样本[8]，[9]。其标准目标是最大化曲线下面积（AUC）[10]，[11]，[12]，因此在提高排名准确性方面非常有效。近年来，这种技术得到了广泛的关注[3]，[13]，[14]，[15]。二分排名有几个有助于解决不平衡学习问题的特点。首先，通过最大化AUC，二分排名能够在所有样本中检测出正面样本，并为其分配更高的排名分数。其次，二分排名函数对不平衡数据具有鲁棒性[16]。因为它通常考虑所有正面和负面样本的对，所以正面和负面样本数量之间的差异变得不那么重要。这一特性意味着传统的二分排名方法在各种应用中非常有用，例如信息检索、签名验证和医学图像分析[17]，[18]，[19]，[20]，[21]，[22]。例如，Rakotomamonjy[23]证明RankSVM[3]因为能够最大化AUC而具有对类别不平衡的鲁棒性。Cruz等人[24]通过实验验证了这一优点。
顶级排名学习是二分排名的一个特化版本。它采用了相同的二分类设置，但将优化标准从最大化AUC改为最大化Pos@Top。具体来说，它强调排名列表中最高排名项目的准确性，满足那些只对这些项目感兴趣的用户的需求[13]，[25]，[26]，[27]，[28]。与最大化AUC相比，最大化Pos@Top通常更有优势，尤其是在医学图像诊断中，因为诊断结果有时依赖于医学专家手动检查图像。假设正面和负面样本分别是癌症组织和健康组织的图像。顶级排名学习方法可以通过优化Pos@Top在训练阶段学习出一个模型，从而获得更多的绝对最高排名。如果测试图像成为绝对最高样本之一（即其排名值高于最高排名的负面样本），医学专家可以跳过对该测试图像的手动检查，因为它明确显示了癌症组织。换句话说，顶级排名学习方法可以用作计算机辅助诊断技术，自动提供最可靠的癌症/明确正常的结果，医学专家在未来的手动诊断中可以忽略这些结果。因此，如果获得了更多的Pos@Top（即更多的绝对最高样本），医学专家的手动检查工作就可以大幅减少。值得注意的是，顶级排名学习继承了对不平衡数据的鲁棒性，这也为医学诊断提供了另一个优势。
在许多实际应用中，顶级排名结果的质量决定了系统的有效性和用户满意度。网页搜索用户很少会浏览结果的第一页之后的内容，研究表明，前几页的结果受到了大部分用户的关注。同样，在电子商务推荐系统中，排在前列的产品会产生不成比例的高转化率。医学诊断系统要求对主要诊断结果有高度的信心，因为最高排名的错误分类可能会导致严重的后果。这种在排名列表开头的关注和影响集中，需要超越传统准确度优化的专门学习方法。
除了卷积神经网络（CNNs）之外，图神经网络（GNNs）最近已成为处理涉及关系数据（如社交网络和知识图谱）的排名任务的强大工具，进一步扩展了神经排名架构的范围。
虽然现有的调查广泛涵盖了AUC优化和一般的LTR技术，但它们很少将顶级排名目标作为一个独立的优化目标来关注，也没有系统地追溯其通过经典核函数、深度CNNs和LLMs的演变过程。据我们所知，这是第一篇：（i）正式建立LTR、二分排名和顶级排名学习之间的概念层次结构；（ii）系统地回顾顶级排名目标与现代神经架构（包括图神经网络）的整合；（iii）连接判别性顶级排名学习和生成性顶级选择——这在之前的文献中被大大忽视；以及（iv）识别顶级排名学习和基础模型之间的开放挑战的调查。
本文的其余部分安排如下。第2节提供了顶级排名学习的一般描述，包括正式定义、优化挑战和度量变体。第3节概述了排名领域的深度学习革命，涵盖了通用神经LTR、深度网络中的顶级排名目标以及基于图神经网络的排名。第4节探讨了在大语言模型背景下的顶级排名学习，探讨了判别性排名损失和生成性截断策略之间的联系。第5节总结了未来的发展方向。
章节片段
排序学习
近几十年来，已经开发并应用了排序学习技术到信息检索中[2]，[3]，[4]，[5]，[29]。一般来说，这些方法应用机器学习技术来解决排名问题[2]。排序学习方法通常分为三类[2]，[30]：逐点法、成对法和列表法。逐点法，如子集回归[31]，将每个单独的实例视为学习样本。成对法，如
使用深度神经网络进行的一般排序学习
排序学习旨在优化数据表示的组合，以解决排名问题[55]。它已广泛应用于多个领域，包括信息检索和排名[42]，[56]，[57]，[58]，[59]，图像质量评分[60]，在线广告[61]，面部识别[62]，[63]，人员重新识别[64]，[65]，以及图像分析[66]，[67]，[68]，[69]。解决这个问题可以分解为几个关键组成部分，包括输入特征等
使用大语言模型的顶级排名学习
基于第2节介绍的一般顶级排名学习框架和第3节调查的深度学习发展，本节探讨了大语言模型（LLMs）如何重塑了排名和顶级选择。首先，我们为基于LLM的排名方法建立了一个分类框架，然后分析了顶级排名学习的核心原则在判别性微调和生成性截断策略中的体现。我们进一步讨论了概念和
结论与未来工作
在这项调查中，我们研究了顶级排名学习从其经典的二分排名形式发展到现代的神经网络、图神经网络和大语言模型实现的过程。从根本上说，顶级排名学习旨在最大化Pos@Top——即排名在最高排名负面样本之上的正面样本的比例——从而在医疗诊断等高风险应用中实现高度可靠的自动化决策。与最大化AUC不同，
CRediT作者贡献声明
Yan Zheng：撰写——原始草案和方法论。Guo Zhou：撰写——审阅和编辑，验证。Yongquan Zhou：撰写——审阅和编辑，形式分析。
利益冲突声明
作者声明他们没有已知的可能影响本文工作的竞争性财务利益或个人关系。
致谢
本研究得到了中国政法大学国家级青年社会科学的研究项目（项目编号25KYQN021）和中国政法大学本科教育教学改革项目（项目编号JG2026B003）的支持。
Yan Zheng于2022年从日本福冈 Kyushu大学信息科学与电气工程研究生院获得博士学位。她目前在中国政法大学信息管理学院担任讲师。她的研究兴趣包括机器学习、深度学习、模式识别、文档分析与识别、医学图像分析以及法律人工智能。她已发表多篇论文
Yan Zheng|Guo Zhou|Yongquan Zhou
