向善推荐系统特刊引言

《ACM Transactions on Recommender Systems》：Introduction to the Special Issue on Recommender Systems for Good

　　

摘要 在本特刊中，我们汇集了一系列投稿，这些投稿将“为了公益的推荐系统”（RS4Good）框定为推荐系统研究向更广泛的社会影响、责任、包容性和有益干预方向的重新定位。这里收集的文章有助于定义新兴的 RS4Good 议程，审视其风险和规范性约束，研究高风险和脆弱情境，并展示在医疗、教育、旅游和可持续性等领域的应用。综合来看，它们表明“为了公益的推荐系统”不仅由它们部署的领域定义，还由指导其发展的价值观、设计流程和评估标准所定义。

1 引言 推荐系统研究长期以来一直受到一组相对狭窄的技术和商业目标的驱动，包括预测性能、排名质量、用户参与度和转化率 [12]。虽然这些目标带来了显著的方法论进展，但它们也优先考虑了评估标准，使得更广泛的社会后果未被充分探索。随着推荐系统越来越多地塑造文化接触、公共话语、日常决策和长期机会，关于谁受益、谁受害以及系统是根据哪些价值观设计的这些问题已成为核心 [1]。

本特刊反映了一种日益增长的认识，即推荐系统研究必须超越狭窄的优化目标，转向更明确的社会关切。从这个意义上说，“为了公益的推荐系统”（RS4Good）不应仅仅被理解为现有技术在良性领域的应用。相反，正如本特刊中设定议程的投稿所论证的那样，RS4Good 意味着该领域更广泛的重新定位：一种强调有意义的影响、跨学科合作、以人为本和以利益相关者为中心的设计，以及认真对待长期结果和生活经验的评估形式 [4, 5]。这一转变也呼吁重新关注危害、问责、正义、包容性和可解释性。

本特刊收集的文章从几个互补的角度展示了这种重新定位。一些文章阐述了 RS4Good 的概念和方法论基础；另一些则审视了风险、规范性约束和治理挑战；还有一组研究了偏见、刻板印象、排斥和公共责任变得尤为突出的高风险情境；最后一组展示了在医疗、教育、旅游和可持续性等领域的应用。

2 界定领域：RS4Good 作为推荐系统研究的重新定位 第一组定义了什么是为了公益的推荐系统，以及该议程对该领域提出了什么要求。它们的共同前提是，RS4Good 不能简化为社会期望的应用领域。“善”的概念意味着推荐系统研究更广泛的重新定位，即重新思考系统目标、代表的利益相关者和评估方法。从这个意义上说，RS4Good 不仅关乎推荐系统部署在哪里，还关乎它们如何被构思、设计、评估和治理。

Jannach 等人 [5] 在整个领域的层面上阐述了这种重新定位。他们的文章调查了推荐系统可为社会利益做出贡献的用例，并认为推荐系统研究的进步不应再主要等同于狭窄基准任务上预测性能的逐步改进。相反，他们呼吁更加关注具有社会价值的应用场景、跨学科合作，以及包含人在环中并关注长期后果的评估设置。他们的贡献提供了一套概念词汇，用于理解 RS4Good 是从以性能为中心的研究向以影响为中心的研究的转变。

Ekstrand 等人 [4] 通过询问为了公益的系统最初应如何设计，补充了这一领域层面的议程。他们认为，旨在促进社会公益的推荐系统应与利益相关者共同设计，而不仅仅是为他们设计。这将讨论从社会期望的目标推向了设计政治：谁定义系统的目标，谁的兴趣被包含或排除，以及哪些形式的知识在设计过程中起作用。通过强调共同设计、参与和民主问责，这篇文章表明 RS4Good 不仅仅是一个具有更好意图的技术议程，也是对更具包容性和反思性的系统开发形式的方法论承诺。

这两篇文章共同确立了特刊的概念基础，通过围绕影响、责任和利益相关者参与来框定 RS4Good。

3 干预前的责任：风险、正义、问责和可解释性 第二组明确指出，社会有益的推荐不能仅由善意的意图来定义。以相关性、多样性、效率甚至社会利益的名义引入的系统可能仍然会重现危害，掩盖权力不对称，或在缺乏有意义问责的情况下运行。因此，只有在其设计和部署伴随对风险、规范性承诺、解释形式和审查机制的关注时，推荐系统才能算是“为了公益”。

Kathriarachchi 等人 [7] 通过广泛调查电子商务推荐系统中的危害以及提议的缓解策略，为这一讨论做出了贡献。他们的贡献很有价值，因为它表明社会公益的问题不仅限于明确公民或公共利益领域。即使在推荐系统最成熟和商业最成熟的应用领域之一，推荐系统也引发了影响消费者、企业和更广泛社会的担忧。通过整合这些风险和应对措施，分析表明 RS4Good 必须包含一种清醒的认识，即如果不审视这些风险，推荐系统可能会如何破坏福祉、自主性或公平待遇。

虽然 Kathriarachchi 等人调查了主要应用领域的危害和缓解措施，但 Laugwitz 和 Schaetz [10] 提供了更明确的规范性说明，解释了为什么仅靠好意图是不够的。他们对新闻推荐的设计正义视角将注意力从孤立的系统特性转移到设计过程中更广泛的权力、专业知识和结构性不平等问题上。在此过程中，作者认为社会利益的评估必须超越系统是否优化了期望指标。同样重要的是，谁的价值观塑造了问题定义，谁承担设计决策的风险，以及推荐过程是强化还是挑战现有的社会不对称。

Bekavac 等人 [2] 将对话从规范性框架转移到监督的实际问题上。他们关于大型在线平台 sock-puppet 审计的文章强调了在数据访问受限、平台行为不透明且系统性风险可能被大规模放大的环境中，评估个性化推荐系统的难度。这一贡献尤为重要，因为它将问责视为不仅仅是一个理想的后想措施，而是一个需要新方法、工具和公共审查形式的操作挑战。

最后，关于符合 ELSA 标准的可解释推荐系统的贡献 [6] 通过强调可解释性在使推荐系统与道德、法律和社会期望保持一致中的作用，为这一组增加了另一个关键元素。在本特刊中，可解释性最好被理解为不仅仅是一个技术特性，而是 RS4Good 更广泛责任基础设施的一部分。

综合来看，这些文章表明 RS4Good 不仅依赖于有益的目标，还依赖于使这些主张可信的条件：风险识别、规范性清晰度、可解释性和有意义的审查。

4 高风险和脆弱情境：暴露、包容和公共责任 第三组专注于推荐系统影响脆弱用户或中介对社会敏感信息访问的情境。在这种环境中，推荐不仅仅是便利或偏好匹配的问题。它以可能产生持久后果的方式塑造暴露、注意力、解释和参与。因此，当此类系统影响儿童、神经多样性用户或公民在充满偏见、两极分化和能见度不平等的新闻环境中导航时，推荐系统的社会利害关系变得尤为明显。

Ungruh 等人 [16] 提供了一个令人信服的例子，说明为什么表征危害的问题属于 RS4Good 的核心。通过调查可能触达儿童的推荐中的刻板印象存在，作者突出了推荐系统如何为特别脆弱的受众重现有问题的文化模式。这一贡献很重要，不仅因为它记录了刻板印象在多种推荐策略中的持久性，还因为它表明推荐系统中的危害可能通过系统塑造文化接触、规范化社会类别以及参与信念和期望形成的微妙方式而产生。

Khan 等人 [8] 同样突出了传统推荐系统设计往往无法很好地捕捉其需求的用户群体。他们关于 ADHD 用户的工作表明，推荐界面和个性化机制可以与认知差异相互作用，从而支持或破坏自主性、自我调节和日常功能。这一贡献将包容性的讨论从关于个性化的泛泛之词转移到更具体的阐述，即设计能够响应不同能力和脆弱性的推荐系统意味着什么。

该组中的另外两篇文章探索了新闻推荐领域的相关问题，在该领域中，推荐系统不仅个性化内容，还构建了对公共话语的访问。Ruan 等人 [13] 通过提出自动化重写策略来解决媒体偏见极化问题，旨在在保持推荐质量的同时减少偏见内容的极化效应。他们的文章将推荐不仅仅视为可用项目的排名，而是视为更广泛信息生态系统的一部分，其中设计选择影响哪种话语被放大或减弱。

关于双联枢轴的文章 [9] 从不同的角度为这一同样的关切做出了贡献。它不是专注于重写偏见内容，而是研究推荐轨迹的设计如何调节用户对下一项新闻推荐中语义距离的响应。在本特刊的语境下，这一贡献很有价值，因为它质疑了 RS4Good 中的一个核心张力：如何在不破坏用户接受度的情况下扩大接触面。

综合来看，这些文章表明 RS4Good 需要设计能够关注多样化和潜在脆弱用户群体需求。

5 建设性干预：为更好长期结果的推荐系统 最后一个主题集群强调了当推荐系统面向后果领域中的有意义支持时，其建设性潜力。这些文章超越了负面结果的缓解，考察推荐如何帮助用户和社区做出更好的决策，导航复杂环境，并随着时间推移追求具有社会价值的目标。将它们联系在一起的是将推荐视为一种指导形式，其价值在于改善长期结果，而不是最大化即时参与。

Solomon 等人 [14] 在医疗领域体现了这种建设性导向。他们关于推荐外科手术的工作展示了推荐系统如何在风险高且信任、证明和可解释性至关重要的环境中支持专业决策。该文章将推荐与大语言模型相结合，以丰富表示并生成解释，说明了技术复杂的系统如何仍然可以面向基于临床实践的支持功能。

Tolomei 等人 [15] 将类似的逻辑带到了教育领域。他们的文章关注顺序课程推荐，作为支持学生学术轨迹以及更广泛地支持其坚持和成功可能性的方式。这一贡献很相关，因为它突出显示了一个推荐可能影响长期生活机会而不是短期消费选择的领域。

该集群中剩余的两篇文章将建设性议程扩展到可持续性的挑战。Merinov 和 Ricci [11] 研究了推荐显著性如何可能影响游客行为和经验，特别关注鼓励人少且更可持续选择的可能性。他们的文章很重要，因为它将推荐不仅仅重塑为匹配现有偏好的机制，而是一种可以塑造行为的干预措施，这对个人体验和集体城市可持续性都很重要。

Belliato 等人 [3] 通过提出个性化可持续性目标分配框架，进一步探讨了这一主题。他们的文章展示了自适应推荐如何被用来鼓励随着时间推移参与面向可持续性的行动和任务。与旅游文章一样，这一贡献的重要性不仅在于其应用领域，还在于它将推荐呈现为促进与更广泛集体目标相一致的行为改变的机制。

综合来看，最后一个集群中的文章表明，RS4Good 还涉及主动设计推荐系统，以支持更好的决策、更公平的机会访问，以及随着时间推移更可持续的行动模式。

6 结论 本特刊收集的文章总体来看表明，“为了公益的推荐系统”不应被理解为一个狭窄的主题细分领域，而是推荐系统领域的更广泛重新定位。

正如开篇的文章所阐明的那样，这一重新定位始于将关注点从以性能为中心的优化，转向社会影响、利益相关者参与以及有意义的评估等问题。随后，它扩展为一个以责任为中心的议程，要求从风险、正义、问责制、审计和可解释性等视角来审视推荐系统。本专题进一步表明，在推荐系统塑造脆弱用户体验或中介获取具有社会后果的信息的语境中，这些关注点尤为紧迫。最后，这些论文表明，推荐系统也可以作为建设性的干预措施，应用于医疗、教育、新闻、旅游和可持续发展等领域。综上所述，这些成果既展示了新兴的 RS4Good 议程的广度，也体现了其连贯性。它们涵盖了不同的领域、技术方法和方法论传统，但汇聚于一个共同的认识：必须根据推荐系统所嵌入的社会环境来评估它们，而这些社会环境反过来也可能受到推荐系统的影响。本专题中的论文表明，不应将社会公益视为推荐系统研究的外部附加物，而应使其日益成为该领域核心词汇和实践的一部分。