自然语言处理中的价值冲突：一项系统性文献综述

《Big Data & Society》：Value conflicts in natural language processing: A systematic literature review

　　

摘要：尽管社会科学家普遍共识认为技术承载着价值观，但学术界对于自然语言处理（NLP）技术基于价值的含义所开展的反思性分析仍明显匮乏。为探究自然语言处理领域中嵌入的价值观与潜在危害，本研究基于成熟的价值框架开展系统性文献综述，聚焦于信息不足的设计决策如何延续算法偏见并导致歧视性后果。研究人员运用施瓦茨基本价值理论，对收录于美国计算机协会（ACM）与电气电子工程师学会（IEEE）数据库、发表于2010年至2023年间的60篇文章进行分析，识别出如激励与传统等代表性不足的价值维度，并检测到享乐主义与仁慈两个维度完全未被关注。学术界对享乐主义维度的忽视尤为令人意外，鉴于该维度与社交媒体服务的密切相关性，这一发现指向了在提升个人愉悦感与生活质量方面可能存在的疏忽。仁慈维度的缺失则表明公共应用领域尚有待探索。本研究强调了在自然语言处理研究中开展更全面的基于价值分析的必要性，以确保伦理且包容的技术发展。揭示这一研究空白应有助于促进研究人员、技术专家与政策制定者之间的跨学科对话，推动自然语言处理技术更好地与多样化的人类价值观保持一致。

**自然语言处理中的价值冲突：系统性文献综述的深度解读**

**一、研究背景与研究问题的提出**

当代自然语言处理（Natural Language Processing, NLP）技术的迅猛发展，从通用大模型到垂直领域的智能化应用，为各行各业带来了效率的提升与生产力的变革。然而，技术进步的同时也伴随着对算法偏见与社会负面效应的担忧。尽管社会科学界普遍认同技术并非价值中立，技术系统与设备中内嵌着特定的价值观，但现有学术研究对自然语言处理技术基于价值的含义缺乏系统性的反思性分析。Birhane等人在2022年的研究发现，在顶级机器学习研究论文中，仅有约15%明确处理了价值观与社会需求问题，多数研究对技术所承载的价值维度漠然置之。这种忽视可能导致技术设计过程中的盲点，使得算法系统延续或放大社会现有的偏见，甚至产生歧视性后果。

针对这一研究空白，本研究团队聚焦于自然语言处理这一机器学习的重要子领域，试图回答两个核心研究问题：其一，根据施瓦茨基本价值理论，自然语言处理研究中涉及或对价值敏感的主要主题是什么？其二，在自然语言处理文献中可以看到哪些基本的人类价值冲突？为回答这些问题，研究人员采用系统性文献综述方法，基于施瓦茨基本价值理论，对过去十余年间发表于权威学术数据库的文献进行了全面的检索、筛选与编码分析。

**二、研究设计与语料库构建**

本研究的语料库构建遵循PRISMA（Preferred Reporting Items for Systematic Reviews and Meta-Analyses）系统综述报告标准。研究人员选取美国计算机协会（Association for Computing Machinery, ACM）和电气电子工程师学会（Institute of Electrical and Electronics Engineers, IEEE）两大权威学术机构作为文献来源，这两大机构在自然语言处理与机器学习领域具有卓越的学术影响力。文献检索时间跨度为2010年至2023年中期，涵盖了移动设备兴起、云计算发展和自然语言处理技术创新等关键发展阶段。检索于2023年6月17日实施，初始检索获得约4600条结果，经过对ACM来源结果的关键词附加过滤，筛选出532条相关记录，再经过标题与摘要相关性初筛排除424条无关记录，剩余108篇文章进入全文仔细筛查阶段。基于相关性、出版类型及研究效度三个标准，最终确定60篇出版物作为分析样本，其中36篇来自IEEE，24篇来自ACM。大多数论文发表于近六年，作者的主要学术背景为计算机科学领域。

语料库的分析编码基于施瓦茨基本价值理论框架展开，该理论由社会心理学家Shalom H. Schwartz于2012年系统提出，是全球公认的描述性伦理学价值框架。该框架确定了十种跨越文化边界的普遍性价值维度：自我导向、顺从、激励、安全、成就、普世主义、权力、传统、享乐主义和仁慈。研究人员对这60篇文章逐一进行了显性或隐性编码，评估每篇文章中所涉及或暗示的价值维度、伦理挑战和潜在危害，并采用归纳式主题分析提炼出凝聚性的研究主题。样本的地域分布显示，约22%的第一作者隶属印度机构，20%隶属美国机构，英国和荷兰各占5%；从会议举办地来看，美国占45%，印度和中国分别占18%和12%。

**三、研究结果**

**主题分类与分布。** 通过归纳性主题分析，研究人员将语料库中的文献划分为三大主题：主题I为“不同领域的自然语言处理应用及其影响”（NLP Applications and Implications in Diverse Domains），占比55%；主题II为“编码价值观与负责任模型设计选择”（Encoded Values and Responsible Model Design Choices），占比27%；主题III为“治理、评估与利益相关者参与”（Governance, Assessment, and Stakeholder Involvement），占比18%。值得注意的是，主题II和主题III的文献数量随时间呈上升趋势，而主题I的论文占比则有所下降，这反映出NLP研究群体对负责任设计和社会治理问题的关注度日益增强。

**自我导向与顺从的价值张力。** 在自然语言处理应用（主题I）场景中，自我导向（强调独立思考与行动）与顺从（强调遵守社会规范与期望）的冲突表现得尤为突出。举例而言，在医学领域，NLP决策支持系统能够自动化分类磁共振成像（Magnetic Resonance Imaging, MRI）检查指征（Zhang等，2018），从而将医生从繁琐的日常分类任务中解放出来，支持他们在复杂临床工作中发挥专业判断力，这体现了对自我导向价值的支持。然而，此类自动化系统也可能同时削弱专业人士的自主判断——在法律领域，自动信息提取工具在提升效率的同时，也引发了对过度依赖自动化工具的担忧（Barrientos等，2022）。内容审核工具（Willem等，2021）则体现了另一种张力：在保障网络安全的顺从价值需求与保护言论自由的自我导向价值需求之间寻求平衡。在主题III中，Biermann等（2022）对人工智能辅助协作写作的研究显示，写作者对于人工智能在创作过程中越俎代庖持担忧态度，害怕失去对作品的掌控感和自主权，这同样映射了自我导向价值的核心地位。

**激励与安全的价值权衡。** 激励价值强调生活中的兴奋感、新颖性与挑战，在NLP技术应用中被理解为自动化技术简化任务后依然保留给人类的刺激与认知挑战。研究人员分析发现，虽然没有任何文献直接讨论激励价值，但自动化技术在医疗、法律、新闻等专业领域的应用（如Gollapalli等2023年在乳腺X线摄影筛查笔记中应用自动化数据提取），本质上将挑战性任务从具体操作层面转移到对高级工具的操作与输出结果的解读层面，从而降低了专业人员面临的激励性刺激。安全价值在语料库中体现于仇恨言论检测、犯罪活动识别、用户隐私保护等议题。Sandaruwan等（2019）为斯里兰卡开发僧伽罗语仇恨言论检测器，旨在促进社会稳定、防范线上伤害，直接指向安全价值。安全与激励的冲突，在Showkat和Baumer（2022）关于新闻和法律领域自动化系统的研究中有着清晰的呈现——专业人员在享受高效工具带来便利的同时，却可能面临沦为“任务系统奴隶”的风险，甚至产生被机器取代的深层次职业焦虑。

**成就与普世主义的价值冲突。** 成就价值聚焦于个人通过展现能力获得的社会认可，普世主义则强调对所有人福祉的理解、包容与保护。在NLP应用场景中，成就价值体现为技术对个人能力的增强——例如Kim等（2018）利用情感分析、长短期记忆（Long Short-Term Memory, LSTM）神经网络从电影剧本数据库中推断何种剧本可能取得商业成功，以降低制作方数百亿美元投资的风险。但这一追求商业成功的过程可能以牺牲故事叙述的多样性与文化多元性为代价。普世主义价值则体现于低资源语言的命名实体识别（Named Entity Recognition, NER）研究——Kaur和Khattar（2021）针对旁遮普语的扩展研究、面向巴西微型企业主的包容性对话界面（Candello等，2023）、以及Selbst等（2019）提出的避免机器学习公平性设计中五种“陷阱”的多元包容决策建议，都是普世主义价值的体现。

**权力与传统之间的话语。** 权力价值关注社会地位、声望以及对人与资源的控制；传统价值强调对习俗与文化理念的尊重、承诺与接纳。在金融科技领域，Patel等（2021）提出利用NLP和LSTM分析社交媒体新闻预测股市，此类技术应用可能在无意间强化现有金融权力精英集团的地位，加剧金融不平等。与此同时，NLP技术也为文化保护提供了契机——Winschiers-Theophilus等（2010）对南非本土知识体系的研究揭示，西方本体论和表达方式的偏见可能导致与非洲本土人民沟通的困难，术语细微差别、象征意义和元含义容易被误解或忽略。这提醒开发者，技术必须尊重文化细微差异，充分考虑地方需求与本土知识体系。

**未被充分代表与完全缺失的价值维度。** 在Schwartz理论的十种基本价值中，激励与传统在语料库中明显代表性不足；更值得注意的是，享乐主义和仁慈两个维度在所有分析文献中完全未被论及。享乐主义维度的缺失尤为令人诧异，因为个人愉悦感和娱乐活动是社交媒体服务的重要驱动力，而文本是这些平台上沟通交流的核心媒介。这一遮蔽可能意味着NLP技术在提升个人生活乐趣与生活质量方面的作用被研究界系统性忽视了。仁慈的缺席则暗示NLP应用在以人为本的社区服务、社会团结促进方面的潜力尚未被充分发掘。

**四、讨论与研究结论**

本研究发现NLP文献中价值维度的分布呈现出一种层级结构：与系统使用绩效密切相关的价值得到突出强调——自我导向、安全、成就和权力频繁出现，而关注人际关怀与快乐的普世性价值则被边缘化。研究人员推测，美国大型科技公司在NLP研究与发展领域的主导地位以及商业投资的回报率考量，可能解释了为何研究主要集中于具有明确商业或工业应用前景的领域，而面向享乐主义与仁慈价值的社会公益性应用难以获得充足的研究资源支持。同时，全球南北在研究重心上的分化——全球北方更关注监管与负责任设计，全球南方更侧重解决实际民生问题——也为理解价值偏好分布提供了结构性解释。

总而言之，本研究通过施瓦茨基本价值理论的系统性应用，揭示出自然语言处理研究中价值维度的结构性失衡。在伦理与包容性技术发展的要求下，NLP研究共同体需要更全面地审视技术内嵌的价值观，积极填补享乐主义与仁慈等价值维度的研究空白。唯有如此，自然语言处理技术方能真正与多元人类价值观对齐，在实现效率与效益的同时，照顾到个体幸福感与社会凝聚力的深层需求，避免技术发展走向单向度的绩效主义与工具理性。未来的研究应拓展至更多语言技术领域、引入多元价值分析框架、并加强跨学科的对话与合作，以构建更加全面地反映社会关怀的NLP研究生态。