生成式人工智能在暴力风险评估中的伦理审视：新兴技术与不可避免的伦理挑战

本综述深入探讨了生成式人工智能（Generative AI）在暴力风险评估领域应用的伦理问题，围绕自主性（Autonomy）、仁慈与不伤害（Beneficence and Non-maleficence）及正义（Justice）三大伦理原则展开分析。文章警示尽管AI技术能提升效率，但其存在的算法偏见（Bias）、决策透明度缺失及可能加剧种族差异（Racial Disparities）等问题需引起高度重视。作者建议从业者以审慎态度对待这一新兴技术，持续开展评估与研究。

　　

1 引言

随着人工智能（AI）技术的快速发展，生成式人工智能（Generative AI）作为能够创造新颖内容的AI形态，已在包括行为科学与法律交叉领域在内的多个行业引发广泛关注。本文针对其在暴力风险评估中的应用展开伦理分析，旨在填补Tortora（2024）提出的研究空白，系统探讨该技术带来的伦理挑战与机遇。

2 术语界定

本研究沿用Cockerill（2020）对AI的定义，即“能够执行某些原被认为专属于人类智能功能的计算机算法”。重点区分了判别式AI（Discriminative AI）与生成式AI（Generative AI）：前者专注于分类预测（如区分再犯与非再犯），后者则能生成复杂新内容（如根据文本提示生成风险评估报告）。同时借鉴Bonta和Andrews（2016）的风险评估工具代际划分框架，为后续分析提供理论基础。

3 先前研究中判别式AI的伦理讨论

系列研究揭示了判别式AI在风险评估中的伦理争议。Cockerill（2020）首倡AI技术可提升风险评估效能，但指出需关注数据隐私问题。Hogan等（2021）强调其与第二代工具类似的伦理缺陷，特别是可能加剧种族偏见的问题。Spivak和Shepherd（2021）则认为这些风险并非AI特有，传统方法同样存在。Ratajczak和Cockerill（2023）则持乐观态度，认为AI提升的预测准确性（如AUC值达0.74）使其应用成为“必然趋势”。

4 生成式AI的伦理分析

4.1 自主性（Autonomy）

生成式AI对评估对象知情同意的影响呈现双重性：一方面，若用于快速生成个案历史摘要，可增加当事人参与过程的机会；另一方面，若直接生成完整报告，其决策过程的不可解释性可能削弱当事人的理解与同意能力。解决方案在于发展可解释AI（Explainable AI），但技术实现仍面临挑战。

4.2 仁慈与不伤害（Beneficence and Non-maleficence）

技术应用可能产生两种有害反馈循环：正向循环中，预测触发的干预（如警方出动）可能反而引发暴力；负向循环中，成功干预可能被算法误判为预测失败。生成式AI特有的“幻觉”（Hallucination）现象更可能产生虚假内容，导致基于虚构案例或科学证据的错误决策，对当事人造成实质伤害。

4.3 正义（Justice）

4.3.1 有偏再犯变量与基础事实问题

再犯率作为模型训练的“基础事实”存在固有偏差：逮捕、起诉和定罪决策均存在种族差异（如Kochel等2011；Devine和Caughlin 2014），导致不同族群在数据中的代表性失真。

4.3.2 生成式AI与种族公平的关联

生成式AI的特殊风险在于：1）训练数据包含社会既有偏见（如媒体对不同肤色运动员的描述差异）；2）模型可能放大训练数据中的偏差（Gallegos等2024）；3）使用专业报告训练模型可能复制人类评估者的判断差异（如Orton等2021发现人工覆核加剧种族差异）。即使采用客观司法数据，也会反映现实存在的族群差异（如美国黑人监禁率是白人的四倍），使模型输出不可避免地带有社会结构性偏见的烙印。

5 讨论

生成式AI在暴力风险评估中的应用既带来效率提升的希望，也伴随严峻伦理挑战。与技术乐观主义观点不同，本文指出其预测效能（如AUC 0.74）并未显著超越传统第四代工具（如暴力风险量表VRS的AUC达0.77）。针对“技术必然性”论点，作者强调更需加强伦理审查而非降低标准。关于风险因素的选择，主张心理学意义明确的风险因素（如支持暴力的态度）比黑箱预测因子更易于解释和验证，尽管两者都可能出现族群差异，但前者可通过专业审查减少构造无关方差（Construct-Irrelevant Variance）。

6 结论

建议从业者以审慎态度采用生成式AI技术，持续开展实证研究以验证其应用效果：比较AI与人类专家的输出差异、统计幻觉出现频率、分析输出内容的群体差异，以及最终检验这些技术能否真正减少暴力发生（Rettenberger和Eher 2024）。强调不能因技术先进性而放松伦理要求，维护风险评估领域的专业标准与社会正义。