以法治限制人工智能

《Cambridge Forum on AI: Law and Governance》：Limiting artificial intelligence (with the Rule of Law)

　　

人工智能（AI）正日益应用于公共行政之中，但其不透明性引发了对国家权力任意行使的担忧。本文认为，在监管框架之外，法治为限制国家部署AI提供了独立的基础。基于法治相关的广泛接受的理念——可预测性（决定必须事前引导行为）与程序清晰性（理由必须具有可知性和事后可争议性）——本文展示了这些标准如何约束政府对AI的使用。本文考察了为何黑箱系统会阻挠法律引导与可争议性，以及为何解释通常是最低限度充分的救济措施。一个福利待遇假设案例说明了不透明性与可解释性之间的利弊权衡。本文结论认为，法治限制为判断国家部署AI何时会违背基本承诺提供了独特且可操作化的基础，表明并非所有政府使用AI的行为都应被允许。

法治视野下的人工智能限制：Paul Burgess的法治进路评述

**研究背景与问题**
人工智能（AI）在公共行政中的广泛部署带来了效率提升的同时，也因其不透明性而引发了对国家权力任意行使的担忧。尽管欧盟AI法案等监管框架已尝试分类规制，但技术迭代与规则滞后的矛盾、行业自律的局限性使得单纯监管难以全面覆盖。现有监管多聚焦于开发者或用户，且不同司法辖区的规则差异造成适用张力。因此，亟需一种超越具体监管的、具有普遍适用性的限制路径。法治作为一项长期约束国家权力任意行使的政治-法律理念，其核心要求——可预测性与程序清晰性——为限制政府使用AI提供了独立的规范性基础。本文发表于《Cambridge Forum on AI: Law and Governance》，旨在论证法治限制的独特价值。

**研究目的与核心主张**
研究人员提出，在宣称遵循法治的国家中，法治本身会产生一种内在的政治-规范性限制：若某项AI使用方式违反法治，则国家不应部署该技术。这一主张并非将法治视为外部监管工具，而是基于国家自身的法治承诺形成间接约束。其核心结论是，并非所有政府使用AI的行为都应被允许，法治限制为判断这一边界提供了可操作化的标准。

**主要研究方法**
本文采用规范性分析方法，从法治的薄概念（thin conception）出发，提炼出“可预测性”与“程序清晰性”作为操作标准；通过构建福利待遇假设案例（welfare-benefits hypothetical）阐释标准的实践含义；借助“开发者/用户×公共/私人”分类框架明确论证焦点为公共部门用户；并结合与欧盟AI法案、美国行政命令等现有监管方案的比较分析，论证法治限制的补充性价值。

**研究结果**

**法治的概念与要求**
通过对法治概念的梳理，研究人员确认薄的/形式性法治观念是各派立场的最大公约数，其核心是限制公共权力的任意行使。这一观念要求规则必须能够事前引导个体行为（可预测性），且规则制定和适用过程需公开透明、可被质询（程序清晰性）。两项要求共同构成评估国家使用AI是否正当的基准。

**法治作为公共权力的限制**
法治虽大多未被载入宪法，且非可诉性概念，但国家公开承诺遵循法治后，偏离法治将导致政治合法性受损、公众信任下降及国际声誉成本。因此，法治通过“政治-规范性”机制产生实质性约束，而非依赖司法制裁。

**法治对人工智能的限制**
AI系统（尤其是基于机器学习的系统）的黑箱特性（black box）使得决策过程难以追踪，直接妨碍可预测性与程序清晰性的实现。这意味着，若国家使用AI的方式无法满足这两项要求，则构成对法治的违反。解释机制被识别为最低限度充分的救济措施。

**福利待遇假设案例**
通过假设AI系统精确决定福利待遇支付金额的场景，研究人员证明：即使AI输出结果与人类专家一致且准确，若系统无法清晰展示决策所依据的逻辑和理由，则仍不能满足法治要求。可预测性要求事前可理解，程序清晰性要求事后可争议，仅凭结果准确性不足以实现合法性。

**限制的限度**
法治限制自身存在边界。一方面，法治概念的争议性导致精确定位“足够解释”水平较为困难；另一方面，算法决策的不可解释性存在计算机科学层面的根本挑战。然而，明确的底线依然存在：无法提供任何解释的系统必然违反法治；而提供解释的系统还需接受“解释充分性”的进一步审查。

**法治限制的操作化**
研究人员指出，采购环节是实施法治限制的有效切入点。通过在招标规格与合同中嵌入可解释性、信息获取和审计权利等要求，可确保AI系统在部署前即满足可预测性与程序清晰性。采购因此成为将法治这一抽象原则转化为具体行政义务的桥梁，且无需修改宪法或依赖司法化机制。

**讨论与结论**
法治限制并非替代现有监管，而是一种补充路径。它适用于缺乏专门AI监管的辖区，并为现有监管框架提供规范性底层逻辑。研究人员强调，法治限制源自国家自身的承诺，通过政治问责机制产生效力，能够为“国家不应部署哪些AI”提供明确的非部署指引。
**研究结论**：文章结论认为，法治限制为判断国家部署AI何时违背基本承诺提供了独特且可操作化的基础，表明并非所有政府使用AI都应被允许。