《Journal of Intelligence》：Implementing a Cognitively Grounded Artificial Moral Advisor: A Multi-LLM Multi-Agent Approach Based on the Cognitive–Reflective Equilibration Model
编辑推荐：
基于大语言模型(LLM)的人工智能日益参与具有伦理后果的人类决策，但完全自主的机器伦理仍不现实，这催生了支持而非替代人类伦理判断的架构。研究人员提出认知-反思平衡架构(Cognitive–Reflective Equilibration Architectur
基于大语言模型(LLM)的人工智能日益参与具有伦理后果的人类决策，但完全自主的机器伦理仍不现实，这催生了支持而非替代人类伦理判断的架构。研究人员提出认知-反思平衡架构(Cognitive–Reflective Equilibration Architecture, CREA)，一种以认知为基础的人工道德顾问，将认知-反思平衡模型(Cognitive–Reflective Equilibration Model, CREM)操作化；CREM借鉴Piaget与Rawls，由反思推理引导伦理判断从直觉认知走向竞争价值间更高级的平衡。CREA通过多LLM编排协调四个阶段对齐的推理智能体——认知、反思、平衡、评价——实现CREM的20步流程，其中辅助模型独立探索原则、生成反驳并为支持与反对考量打分，以外化反思审议。架构经实证评估：在四项建议质量指标上比较四种配置——单智能体、多智能体、多LLM、多LLM加知识与推理库增强——每配置500个匹配执行单元。所有比较均为系统内部：建议质量由CREA自身多LLM测量流水线而非人类伦理学家打分，故发现反映LLM自评下架构间的相对差异，而非规范有效性。在该范围内，将反思推理分布于多模型相对更简单配置提升了理由给出（可证成性）与规范对齐得分。CREA因而提供一种经验表征、可审计的顾问架构，其支撑人类伦理判断的潜力仍是待以用户为中心验证的假设，而非已演示结果。
研究背景与动机
人类伦理决策处于认知科学、道德心理学与哲学交汇处，受有限理性与认知偏差制约。近期实证显示LLM的道德判断会放大而非削弱人类偏差，且模型建议存在推理不透明与跨执行不稳定两方面缺陷。Myers和Everett指出透明度与可证成性是获取信任的决定条件，而现有模型生成建议恰缺这些属性。既有人工道德系统多依赖规则推理或后果计算，未能建模人类道德认知的动态与语境敏感性；单模型或单理论系统还面临确认偏差与非确定变异。研究人员将此称为认知接地问题(cognitive grounding problem)：现有系统推理过程与人类道德认知结构错位，致其建议难被审视、理解与接受。为回应此问题，研究人员将CREM操作化为CREA，一种多智能体多LLM系统，以支撑而非取代人类伦理判断。
期刊与定位
该文发表于《Journal of Intelligence》，定位为人工道德顾问(artificial moral advisor)范式下的架构研究，明确区别于自主人工道德主体(artificial moral agent)。
主要技术与方法（不超250字）
研究人员以LangGraph状态机实现六智能体（编排、认知、反思、平衡、评价、测量），将CREM的20步映射至四推理阶段；采用五模型LLM集成（GPT-4.1、Claude Haiku 4.5、Gemini 2.5 Flash、Grok-3、DeepSeek V3）在指定步骤并行独立生成后由主模型综合；构建三层伦理原则知识库(EPKB)与伦理推理库(ERB)做检索增强生成(RAG)；评估用同一五模型面板对500×4配置执行单元打四分维度（一致性、可证成性、程序效度、规范对齐指数NAI），以Friedman、配对t、Wilcoxon、线性混合效应与Cronbach’s α分析，困境集为20例（10社会+10 AI技术）固定复用。
研究结果
4.1 设计与实现（RQ1）：CREA以Flask+LangGraph+五LLM实现，温度0.0禁用扩展思考，六角色智能体对应CREM四阶段，三处分支点（步5、8、16）由状态机路由；EPKB动态爬取SEP/IEP缓存，ERB存满程执行记录并按相似度召回；多LLM在步3、11、12、13、18并行查询，测量智能体始终用全五模型打分防自评。
4.2 评估（RQ2、RQ3）：四配置各500匹配单元。描述统计显示Multi-LLM+KRB在一致性(M=4.806)、可证成性(M=4.832)、NAI(M=4.238)最高；程序效度反而Single-Agent最高(M=4.574)，Multi-Agent最低(M=3.975)。配对比较中，Single→Multi-Agent程序效度大降(Δ=-0.599, dz=-2.435)；Multi-Agent→Multi-LLM五指标全升(dz=0.168–0.424)；Multi-LLM→Multi-LLM+KRB在一致性、可证成性、程序效度、总均分微升(dz=0.112–0.157)，NAI无显著变。累计比Single-Agent，完整配置一致性、可证成性、NAI显著高，程序效度仍显著低(Δ=-0.474, dz=-1.936)，总均分无显著差异(Δ=-0.003, p=.859)。程序效度差距部分源于测量设计：Single-Agent按20步整段呈现，其余按单步孤立评分，使步骤间联结不可见。Cronbach’s α显示多LLM族程序效度内部一致性升至0.926；耗时与成本随架构单调增（单→KRB为56.1s→207.3s，约104→218 USD/500次），但执行侧调用数相近，测量流水线占支出64–76%。
讨论与结论翻译
研究人员讨论指出，CREA将CREM转为可执行多LLM多智能体架构，分布反思推理于独立模型在系统内部LLM自评下关联更高可证成性与规范对齐，但程序效度以单智能体整段执行为优，提示步骤间显式状态保真需专用控制机制。多智能体拆分本身不提分且伤程序效度，多LLM并行与KRB检索是质量增益主源；KRB增益偏小且含同困境自引用混淆。结论：CREA提供经验表征、可审计之顾问架构，其能否脚手架式支撑人类伦理判断仍为待用户中心验证之假设，非已演示产出；全部质量分数属LLM自评相对差，不等同规范有效性。
