《Frontiers in Artificial Intelligence》：The contractual vacuum: AI procurement and the erosion of good administration
编辑推荐：
摘要
人工智能即服务（AIaaS）在公共行政中的整合，从根本上将国家的证据与推理能力转移至专有软件基础设施之中。当公共机构部署这些第三方系统时，一种严峻的系统性风险随之产生：一种结构性的“契约真空”出现，即公共机关缺乏重建、解释或纠正算法行政行为所需之实践性数
摘要
人工智能即服务（AIaaS）在公共行政中的整合，从根本上将国家的证据与推理能力转移至专有软件基础设施之中。当公共机构部署这些第三方系统时，一种严峻的系统性风险随之产生：一种结构性的“契约真空”出现，即公共机关缺乏重建、解释或纠正算法行政行为所需之实践性数据遥测能力。本文评估了当代欧洲及普通法公共采购框架的教义局限，论证了传统商业采购默认条款在结构上稀释了不可让渡的良好行政义务。为弥合行政法与系统工程之间的结构性鸿沟，本研究通过嵌套式三层问责框架（Three-Layer Accountability Framework）引入计算法律设计（Computational Legal Design）方法论。该框架被界定为一种概念性技术架构，将核心公法规范转化为自动化工程约束。其在规范层面被提出作为一种模型级持续合规管道，利用传递性审计脚本（transitive audit scripts）、法律沙箱（legal sandboxes）以及程式化纠正成本模型（CCM）公式，以论证公法救济如何能够通过自动化系统遥测加以计算。
1 引言
公共权力必须对官员、受影响者及审查机构保持可理解性。AI即服务（AIaaS）在福利分诊、欺诈检测、移民筛查、税务、警务或优先排序等领域的采购，动摇了这一前提，因为公共权力的证据基础可能转移至超出公共完全控制范围的专有基础设施之中。问题不仅在于技术不透明，更在于削弱了使权力得以合理化、可审查及可纠正的法律架构。公共采购日益涉及云托管系统、可组合智能体架构、供应商控制的再训练、分包数据链及能够改变法律标准实际适用的更新管道。在机器对机器（M2M）及AI智能体经济中，行政认知可能分布于私人主体之间。国家所获得的不仅是软件，更是对持续维护的决策环境的访问权，行政能力由此被部分外部化。核心缺口在于契约层面。行政法仍要求理由、记录、公平、平等及审查，但若机关在外包后未能确保所需之证据、控制权及干预权，这些义务将沦为空洞。本文聚焦于采购契约本身作为结构性控制点，论证标准商业默认条款积极促成了传统公法救济无法触及的契约真空。通过霍姆斯式策略行动者视角，审计权、更新治理或保密语言中的每一处沉默都邀请策略性不透明。在可组合的M2M经济中，审计权必须是传递性的，使主供应商保证对最终行政产出具有实质性贡献的任何子智能体或第三方模型的逻辑链下游检查权。本文的核心论点是：AIaaS采购应被分析为行政能力的外包。该外包并不稀释公法的不可让渡核心；相反，这一转变支持以下论点：机关应就理由说明、可审计性与救济能力进行契约权利谈判，以确保公共权力保持可审查性。为应对此脆弱性，本研究主张一个不可减损的契约核心——涵盖理由说明、非歧视、透明度、有意义的人类监督、可追溯性及救济获取——通过事前程序验证、功能性责任及恢复性救济加以实施。所提出的三层问责框架作为规范性设计蓝图，测试行政正义原则如何映射至软件工程管道以模拟算法问责。第1层建立事前程序验证以在部署前测试算法理性。第2层界定功能性运营责任以确保使用期间的持续合法性。第3层规定程式化恢复性救济以修复行政失败。
2 方法论：计算法律设计
不同于仅聚焦司法解释的传统教义性法律分析，本研究应用计算法律设计（Computational Legal Design）方法论。它将契约框架的定性内容分析操作化，在系统起源点将公法规范转化为功能性、代码级技术架构约束。该方法建模采购条款如何作为技术治理规范发挥作用，探索其在七个控制维度上的理论转化：可解释性、非歧视、可追溯性、更新治理、人类监督、救济获取及退出连续性。为操作化这些维度，本研究开发了一个原创规范性蓝图而非描述历史商业采购默认条款。本文处理一个单一制度性问题：当行政能力通过AIaaS外包时，公法必须如何被转化为契约？宪法主义视角将AIaaS缔约视为国家倾听、分类、推理及行动能力的输出化。在德沃金意义上，法律秩序被解读为原则的综合结构，与霍姆斯策略行动者的法律现实主义叙述相平衡。模型条款与官方框架作为法律-制度数据，展示公共机关如何在购买时操作化义务。主要比较对象为欧盟委员会模型契约条款、英国AI采购指南及OECD公共采购建议。这些材料三角验证了权利本位、原则本位及跨国治理路径，以维护良好行政的宪法最低标准。限制私有化的教义机制因地域而异。在美国，由私人非授权原则管辖；英国及英联邦法院依赖禁止契约性束缚法定权力的规则。本研究将二者视为平行的教义路径，达致共享的规范结论。为确保可复制性，文献检索通过系统搜索官方中央政府采购存储库进行。语料库纳入边界限于2020年1月至2026年6月间发布或更新的英文文本。教义方法以作为宪法风向标的判例法为锚。欧盟法院（CJEU）及英国权威判例阐明了数据保护、透明度、有效解释、保密与外包交汇处对不透明、不可审查或侵犯权利行政的限制。
3 比较监管范式与合法性缺口
3.1 本体论转变：AIaaS作为外包的行政能力
描述性地，本研究将政府中AIaaS的整合概念化，并非被动工具，而是行政智能向专有服务环境的契约性迁移。规范性地，本文主张由于供应商维护模型并控制更新，这种数字迁移建立了严重的合法性缺口，要求公法保障被程式化地嵌入采购条款而非仅依赖传统事后程序救济。购买工具与外包能力之间的区别在于管辖权能力的区别。普通软件可将判断留在机关内部；而构建分诊、资格、调查、排序或怀疑的AI赋能服务则将实践认知转移到供应商架构中。这种转移加剧了数字主权问题。缺乏契约性权利重建决策状态的国家已让渡其部分管辖权能力。行政主权要求理解、再现、质疑及置换公共权力运作逻辑的能力。澳大利亚Pintarich案以异常力量具体化了这一教义悖论。联邦全席法院认为，无人类心智输入产生的计算机生成信函不构成相关法定目的的有效法律决定。该案揭示了自动化治理核心的法律真空：结果在教义上可能无效，但在生活中仍具强制性。Kerr法官在其有力异议中明确承认了这一教义断裂，主张行政“决定”必须以其对公民的客观外部法律效果来定义，要求人类心智过程触发司法审查忽视了现代批量自动化决策的现实，有效地制造了使算法治理免受公法审查的管辖权黑洞。AIaaS加剧了这一悖论，因为相关智能可能由外部持有。正式的人类批准并不能治愈结构性依赖，若国家无法指挥决策路径。新西兰上诉法院在Yorston案中拒绝了自动化生成定罪历史报告仅因软件中介而超出司法审查范围的主张，保留了行政权力的公共性质，即使交付机制是数字化的。普通法系中挑战契约不透明的教义路径差异显著。在英国和澳大利亚，通常通过越权或非法放弃权力进行。在美国联邦语境中，此类不透明更准确地作为行政程序法（APA）下“任意且反复无常”的程序违规进行诉讼。
3.2 传统行政法中的合法性缺口
第二个发现是传统行政法并非为分布于供应商、数据基础设施及更新管道中的决策而设计。它预设决策者拥有审查所需的记录、理由、披露能力及证据基础。外包AI通过将合法性的实况基质置于公共机构之外而破坏这种连贯性，同时将形式责任留在机关。荷兰SyRI诉讼暴露了第一处断裂。海牙地区法院认为算法福利欺诈框架违反了《欧洲人权公约》第8条，因其对私生活的干预缺乏充分透明度和可预见性。英国Bridges案从平等与制度责任角度揭示了类似的偏离。上诉法院认为部署自动面部识别是非法的，因警方未能采取合理步骤确保软件无不可接受的偏见，从而违反公共部门平等义务。该案的重要性在于绝对拒绝供应商保证可替代公共调查的观念。Loomis案提供了不同但互补的警告。威斯康星州最高法院允许在量刑中依赖专有COMPAS风险工具，但附有限制性告诫。该案更持久的法理意义在于揭示了系统性问题的结构：当个人受到专有保护屏蔽内部逻辑的行政框架实质性影响时，正当程序主张变得脆弱。合法性缺口源于供应商的信息优势、SaaS更新不稳定以及集成商、云提供商、数据经纪商与模型开发者之间的责任分散。公共问责仍属机关，但契约可能剥夺其解释、证明及纠正所需之证据。在Loper Bright案中，美国最高法院认为APA要求法院对法定权限问题行使独立判断。比较法教训大于美国行政法：若法院不得将法定含义的最终决定权让渡给机关，更不得允许该含义沉淀在由私人供应商提供运营逻辑的专有AI系统内部。
3.3 AI赋能政府中不可让渡的良好行政义务
第三个发现表明某些核心行政责任构成不可让渡的基线，公共机关难以轻易外包。第一锚点是《欧盟基本权利宪章》第41条，要求公正、公平、及时处理并保护被听取意见、文件访问及理由相关权利。第二锚点是数据保护法，特别是GDPR第22条及相关的访问权和自动化处理有意义信息权。第22条并非公共部门AI的完整法典，但它反映了立法判断：具有法律或类似重大影响的完全自动化决策需要特别控制。CK案中，法院认为数据主体必须能够接收关于自动化决策逻辑的有意义信息，足以使其理解和质疑，澄清商业秘密不能证明扣留所有此类信息是正当的。该裁决作为对全面保密制的宪法限制，削弱了专有保护可使面向公众的决策系统免于审查的主张。第三锚点是平等法与反歧视义务。Bridges案明确公共机构不能依赖供应商保证作为自身调查义务的替代。第四锚点是有意义的人类监督。欧盟AI法案将人类监督视为高风险AI系统的核心要求。相关公法问题不仅限于工作流程中某处存在人类审查者。监督必须在制度上有意义，涉及权威、能力、相关信息获取及暂停或偏离系统输出的能力。第五项义务是可追溯性。行政审查依赖于记录。在AI环境中，记录必须包括最终输出、相关模型版本、重建决策语境所需的数据或元数据、当时提供的解释以及后续更新引入的变化。第六项义务是救济获取。联合国工商业与人权指导原则（UNGPs）要求国家采取适当步骤确保受影响者获得有效救济。救济获取要求保留证据、识别责任主体、允许有意义调查并支持纠正行动的契约架构。
3.4 作为宪法工具的契约
为建立证据记录，本文提出模型API网关架构，输出包括结构化JSON元数据载荷，提供支持后续法律重建的技术可追溯性。该模式将抽象的公法坦诚义务具体化为不可变数据包。至少，载荷必须以机器可读形式记录这些版本化操作变量，以满足法定自动记录及公法披露要求。通过具体化抽象的公法坦诚义务为不可变数据包，该技术模式作为基础架构，使更广泛的契约作为宪法工具运作。该遥测本身并不将算法输出转化为法律上充分的理由，而是作为基线证据记录，捕获后续人类官员构建合法正当理由所需的技术来源。若这些义务不可让渡，公共契约在功能上即成为宪法工具。它分配信息、干预、文档、更新、审计访问、责任及退出的控制权，决定机关能否履行已约束其自身的义务。与普通商业缔约的对比最为清晰。商业契约通常关注可用性、服务水平、赔偿及价格。这些在公共AI采购中仍然相关，但不足够。一个完全可用的系统若无法提供理由、固化歧视、未经批准改变法律待遇或无法重建争议案件，仍可能是非法的。为使监督可执行，契约应定义机器可读治理接口、安全API及标准化JSON日志模式以查询决策参数。Schrems II案提供了类比：形式保障不足，权利在实践中流失时需要补充措施。
3.5 比较分析：欧盟、英国与OECD框架
本节分析欧盟、英国与OECD的不同路径。欧盟提供最精细的监管锚点。AI法案采用风险本位结构，对高风险AI系统施加具体义务，包括风险管理、数据治理、技术文档、记录保存、透明度、人类监督、准确性、鲁棒性及网络安全。AI法案本身并非采购法典，但对公共缔约直接相关。更新的欧盟AI采购模型契约条款在此监管基础上构建。其意义不仅在于内容，更在于存在本身——代表官方承认公共买家需要能将AI治理要求转化为采购实践的契约工具。2025年更新区分了高风险AI的完整版、非高风险AI的轻量版及使用和定制评论。完整版将问责固化为证据，要求供应商提供合规信息、配合审计和检查、暴露风险管理系统、允许员工接受访谈及访问相关地点。轻量版保留合规义务和信息提供义务，但省略了相当的检查、访谈、地点访问、报告发布及定期审计机制。比较分析揭示三种不同的契约失败模式：信息失败、控制失败及救济失败。
3.6 商业秘密、保密与证据危机
持续障碍是公法透明度与私法保密之间的张力。供应商可能援引商业秘密、知识产权、网络安全或保密来限制对代码、训练数据、模型逻辑或实施细节的访问。部分保密是合法的，但不能结构化地禁用理由说明、平等测试或审查。Loomis案再次具有指导性，因其暴露了专有系统实质性塑造公共决策时不透明的正当程序成本。CK案中，法院大幅限制了全面商业秘密抗辩，明确在自动化评估语境中获得有意义信息的权利不能通过援引保密作为全面障碍而被简化为空洞公式。证据问题比代码披露更广泛。法院和审查机构通常不需要完整源代码公开来评估合法性。它们需要的是决策特定解释材料、相关文档访问、模型状态信息保存以及必要时受控深度检查机制。更有前景的方法是分层访问结构：受影响个体的决策特定理由、机关更广泛的文档访问、独立专家和监督机构的安全审计权，以及诉讼或高级审查的托管或受保护披露机制。公共利益优先条款应规定商业秘密或保密主张不得针对机关、主管法院、监察机构或授权独立审计员提出，若访问对于调查合法性、歧视或权利影响是必要的。
3.7 持续合法性：作为监管变化的更新
持续验证管道应被规定为自动化CI/CD法律合规管道和法律沙箱机制。在任何模型、提示、检索语料库或决策规则更新部署前，供应商应在沙箱中测试候选版本，并针对固定的、数字版本化的、法律策划的基线历史行政争议边缘案例数据集运行自动化回归测试脚本数组。该自动化法律回归测试作为技术可追溯性和证据重建机制，而非实质合法性的最终判断者。AIaaS引入了传统行政法和采购法未完全吸收的挑战：合法性并非在授予时固定。持续更新的服务可能改变部署后的模型行为、变量权重、阈值敏感性或交互设计。技术更新必须被视为具有法律意义的事件。改变系统证据评估、重新校准风险分数、改变分诊层级或修改推荐向量的更新，对权利和利益的影响不亚于正式政策修订。为应对持续漂移，合法性必须成为架构性发布门：失败的法律回归测试触发自动化部署阻止，强制正式行政审查。持续合法性对记录保存也有影响。仅保存当前模型状态不足够。机关必须能够重建特定决策或建议生成时存在的模型状态。Johnson案表明机器的僵化不是行政不公平的辩护。
3.8 救济与执行架构
AI采购中的策略风险不仅是系统逻辑被遮蔽，更是合法行政所依赖的证据记录丢失或损坏。权利保护条款不足，除非与操作化救济架构配对。将公法义务转化为制度牵引力需要明确契约救济，包括UTL和公式化CCM赔偿。第一实践组件是全面审计访问。第二组件是可解释性和可追溯性，要求供应商生成并保存支持理由说明、内部审查和外部挑战的决策特定解释元数据。第三组件是公共利益优先和受控披露。第四组件涉及运营介入权。有效介入需要完整“模型环境”访问，包括软件栈、库和内部凭据，而非仅原始模型权重。第五组件是救济。UNGPs要求实用、可访问的救济。AI赋能行政契约应提供明确投诉渠道、保留证据路径并支持受影响者救济。
3.9 主权、终止与利益冲突
证据主权要求契约保护的退出机制，通过UTL操作化。标准软件协议常通过专有模式和基础设施依赖强制锁定。为防基础设施捕获，第2.2条规定计算中立过渡协议。终止触发时，供应商在法律和计算上被约束以模式验证的、平台无关的格式导出所有历史交易日志、版本化模式和决策状态元数据。行政主权还要求主动框架管理双重用途AI的公司政治经济。算法基础设施是多领域资产，用于国内民用分诊的相同底层模型可被微调用于外国军事部署、动能瞄准或监视情报。契约必须要求关于所有双重用途、国防或外国情报合同的公司透明度。
4 政策与实践综合
将第3节确立的结构性合法性缺口转化为可操作设计需要运营框架。三层问责框架总结了外包行政类别中的契约保障。AIaaS在法理上至关重要，因其将公共行政的运营约束转移到商业契约中，使采购成为宪法控制点。虽然问责任务具有普遍性，但区域执行方法不同。欧盟通过AI法案强制规定描述性、权利本位义务。英国追求监管者主导、原则本位框架。美国依赖严格的事后尊重司法审查和宪法正当程序保护。在第3层内，CCM应作为主动的、程式化的、类智能合约监控脚本而非仅追溯性损害赔偿条款实施。脚本持续检查运营事件日志和审计痕迹，自动计算受影响决策，通过预先约定的行政费率估算人工审查小时，并在检测到合格合法性失败时将数字行政损害赔偿附加到供应商账户。向M2M和AI智能体经济的转变改变了行政授权范式。公共功能日益通过实时优化决策的自主智能体群执行。这种“分布式行政机构”加剧了私有化风险，将行政认知的场所从单一模型转移到相互连接的私人行动者的传递链。审计痕迹和救济义务沿交付链向下流动，而合规证据和解释理由向上返回以保障公共机关和个人。第三层通过精细化CCM操作化恢复，该CCM是直接集成到采购契约中的程式化清算损害赔偿公式。由系统日志中记录的未经批准软件状态或未通知模型漂移自动触发，模型通过公式计算总可补救损害赔偿：D_total = (H_staff × R_overhead) + C_sandbox + F_penalty。其中D_total为总清算行政损害赔偿；H_staff为员工补救小时；R_overhead为标准化公共机构小时间接费率；C_sandbox为重置法律沙箱的固定计算成本；F_penalty为未经批准差异的预先约定契约基线罚款。通过证明国家在维护行政完整性方面拥有合法的非商业利益，该设计支持将CCM定性为成比例的清算损害赔偿机制而非不可执行的罚款。这些风险类别是启发式的，受“语境弹性”约束。医疗资源分配被归类为“中等影响”的，在决策涉及不可让渡的生命权或敏感生物识别“预言机”时升级为“高影响”。将公共权力迁移到专有基础设施中，在宪法要求与供应商商业盾牌之间制造摩擦。当代公共部门模板揭示官方框架明确设计用于抵消标准商业默认条款和责任限制。
