《Cambridge Forum on AI: Law and Governance》:Certainty and algorithmic accountability in the decision to go to war: Lessons from evidentiary approaches in international criminal law
编辑推荐:
在西方民主国家,战争决策的方式确保了决策者可被问责。特别是,官僚机构依赖于制作一系列文件(如会议记录)来确保问责。将人工智能(AI)引入决策过程意味着要找到确保AI也能对使用武力的决策负责的方法。但在此背景下出现了问责问题,因为AI不会产生与官僚问责相关的文件
在西方民主国家,战争决策的方式确保了决策者可被问责。特别是,官僚机构依赖于制作一系列文件(如会议记录)来确保问责。将人工智能(AI)引入决策过程意味着要找到确保AI也能对使用武力的决策负责的方法。但在此背景下出现了问责问题,因为AI不会产生与官僚问责相关的文件类型:这种文件能力的缺失正是战争决策背景下寻求可问责AI的核心问题。研究人员认为,寻求可问责AI本质上是通过文件解决认知不确定性(epistemic uncertainty)问题的尝试。研究人员认为,问责可以通过其他方式实现。研究人员以前南斯拉夫问题国际刑事法庭(ICTY)的新证据形式为例,表明无需绝对认知确定性,也无需通常与官僚问责相关的文件,即可解决认知不确定性并进行责任分配。
**论文解读:战争决策中的AI问责——来自国际刑事法的证据方法启示**
**研究背景与问题**
在西方民主国家,战争决策(decision to go to war)依赖于官僚机构制作的会议记录等文件,以确保决策者可被问责。然而,将人工智能(AI)引入这一过程后,AI系统因其“黑箱”特性(opaque and unpredictable)无法产生类似文件,导致问责缺口(accountability gap)。现有解决方案多强调可解释AI(xAI)和透明性(transparency),认为透明是问责的前提。但研究人员指出,透明性与问责的关系并非必然,而是社会历史建构的产物。国际刑法在认知不确定性(epistemic uncertainty)和缺乏透明性的环境下,通过证据规则成功实现了问责,为AI领域提供了替代模型。本研究旨在探讨如何在不依赖透明性和绝对确定性的情况下,实现AI在战争决策中的问责。
**研究内容与结论**
研究人员以前南斯拉夫问题国际刑事法庭(ICTY)为案例,分析其采纳法医DNA证据(forensic DNA evidence)和数字卫星图像(digital satellite imagery)两种新技术证据的过程。ICTY在缺乏明确先例和绝对确定性的条件下,通过确证(corroboration)、可争议性(contestability)和真实性(authentication)三个过程,建立了足够的认知确定性,从而分配责任。研究结论认为,将这些经验应用于AI问责,可推动一种“厚实的”(thick)、定性的方法,承认AI的社会技术复杂性,而非单纯追求技术透明。论文发表在《Cambridge Forum on AI: Law and Governance》。
**关键技术方法**
研究主要采用案例分析法,聚焦ICTY审理的Krsti?案、Popovi?案和Tolimir案等。关键技术方法包括:1)法医DNA证据的采纳,通过专家证词(expert testimony)和交叉质证(cross-examination)评估证据的证明力;2)卫星图像作为自证文件(self-authenticating document)的采纳,依据来源可信度(如美国政府卫星)而非技术内部细节。样本队列来源为ICTY审判记录,包括1993年至2017年间的案件。未涉及具体试剂或实验操作。
**研究结果**
**4.1 法医DNA证据(Forensic DNA evidence)**
通过Krsti?案,研究人员展示了法医DNA证据如何确证证人证言,帮助确定大规模处决的事实和犯罪意图。专家证词在交叉质证中受到挑战,但最终增强了DNA证据的可靠性。Popovi?案中,辩方对DNA匹配方法的质疑反而强化了检方证据的证明力,体现了可争议性在减少不确定性中的作用。
**4.2 卫星图像(Satellite imagery)**
Tolimir案中,美国提供的卫星图像显示大规模坟墓区域,但辩方因无法核实图像获取方法而质疑其真实性。法庭将图像视为自证文件,基于来源可信度(美国政府)而非技术透明性,允许其作为证据。这显示了真实性可通过权威来源而非详细方法验证来实现,与AI的“黑箱”问题相似。
**结论与讨论**
研究结论部分(5. Conclusion: Lessons for AI in resort-to-force decision-making)指出,ICTY的证据实践提供了三个关键教训:**确证**(corroboration)——通过多源信息减少认知不确定性;**可争议性**(contestability)——通过辩论评估证据与事实的关系,即使缺乏技术专家;**真实性**(authentication)——依据来源可信度而非内部方法透明来判断证据可靠性。这些教训适用于AI问责,尤其是战争决策场景,强调应采用“厚实的”定性方法,而非依赖算法分解的透明性模型。讨论部分进一步指出,私人行为者(如AI公司)可能限制可争议性,需关注训练数据的保管链(custodial chain)和AI模型的社会嵌入性。最终,研究人员翻译了研究结论:国际刑法表明,即使在复杂性和不透明性面前,问责仍可在不确定性下进行;发展“厚实”的xAI方法,可推动超越简单文档概念的问责实践。