当金融微调失败时：领域适应语言模型中数值幻觉的三级可检测性分析

《Neurocomputing》：When financial fine-tuning fails: A three-level detectability analysis of numerical hallucination in domain-adapted language models

　　

摘要 金融大型语言模型日益被部署用于报告摘要和披露，其中数值幻觉构成了显著的实际风险。尽管先前工作通常将此类幻觉归因于数值推理不足，但该假设尚未在受控微调设置下进行系统测试。在本文中，我们对三种模型变体在金融摘要中的数值幻觉进行了具有成本效益的受控研究：基础指令微调模型、领域语言适应模型 (FT-A) 和数值能力增强领域模型 (FT-A+B+C)。我们引入了一种三级可检测性分类法，区分显性幻觉（货币面值捏造）、隐蔽显式幻觉（专业惯例数值）和隐蔽隐式幻觉（无依据的定量声明）。我们的结果显示，领域微调在所有可检测性级别上都显著降低了数值克制。虽然基础模型维持接近零的幻觉率 (5.4%)，但 FT-A 表现出 82.5% 的显性幻觉，而 FT-A+B+C 达到 98%。与直觉相反，数值监督在所有级别上放大而非缓解了幻觉。我们确定模板注入——即无论输入内容如何插入记忆中的规范值——是微调模型中主要的幻觉机制。这些发现表明，金融摘要中的数值幻觉是由领域适应导致的数值克制退化驱动的，而不是由数值推理不足引起的。我们建议评估协议应评估所有可检测性级别上的幻觉，部署实践应包含基于事实感知生成或弃权的明确机制。

引言 大型语言模型 (LLM) 已展示出在各种自然语言处理任务中的卓越能力，导致其在包括金融、医疗和法律应用在内的专门领域被迅速采用[1], [2]。在金融背景下，LLM 日益被部署为专家系统的核心组件，用于文档摘要、风险评估、收益分析和投资决策支持。其吸引力显而易见：这些模型可以处理大量金融文本，并生成专业质量的摘要，否则这将需要大量的人力投入。

然而，LLM 生成内容在高风险金融应用中的可靠性仍然是一个关键问题。金融文件要求数值精确——被错误表述的收入数字、捏造的增长率或发明的现金流量表可能会误导投资决策，违反监管要求，并侵蚀利益相关者的信任。与创意写作或通用摘要不同，金融摘要在严格的事实约束下运行，即使是风格适当的输出也可能包含危险的捏造内容。

在金融语言模型的部署中，一个常见的假设是领域特定微调能在提高流利度的同时改善可靠性。在金融语料库上微调的模型表现出改进的术语使用、专业语调和结构一致性[3], [4], [5]。这一假设的延伸认为，数值能力增强训练——结合算术监督和数值推理任务——应通过提高模型的计算能力进一步减少数值错误。

本文通过系统的实证分析挑战了这两个假设。我们研究一个基本问题：领域微调是改善还是降低了金融摘要中的数值可靠性？

这个问题是由初步实验中观察到的一个表面悖论所驱动的。在金融数据上微调的模型产生的输出看起来比它们的基础对应物更具专业性和数值流利度。它们很容易以适当的格式生成收入数字、增长率和现金流量表。然而，更仔细的检查显示，这些数值表达中的许多是完全捏造的——源文本中任何地方都不存在的发明值。

我们假设这种悖论源于两种不同能力的混淆：
•数值能力：在明确要求时执行正确数值计算的能力
•数值规范：数值规范被操作定义为一个模型在输入不提供此类 grounding（基于事实/接地）时，倾向于避免生成绝对数值量的倾向。它直接测量为 S0 条件下 L1 幻觉率的补集：具有高数值规范的模型在呈现 S0 输入时产生不含捏造绝对值的响应。

领域微调可能会提高能力同时破坏规范，产生更流利且更频繁捏造数值内容的模型。我们将这种分歧称为克制差距。

为了测试这一假设，我们需要一个能够检测各种细微程度的数值幻觉的评估框架。现有的“严格”指标侧重于显性的格式违规（例如格式错误的货币表达式），但可能会遗漏专业格式化的捏造内容。因此，我们引入了一种三级可检测性分类法，使得能够系统地评估不同评估严格性下的幻觉。

本文做出了以下贡献：
1.方法论框架：我们提出了数值幻觉评估的三级可检测性分类法：
•L1（显性）：可通过模式匹配检测的货币面值捏造（例如，“13 亿 USD"）
•L2（隐蔽显式）：需要 grounding 验证的专业惯例数值（例如，"33 亿”，“增长 11%"）
•L3（隐蔽隐式）：需要语义理解的隐式定量声明（例如，“保持稳定的债务水平”）
这种分类法使得能够系统地评估不同评估严格性下的模型可靠性，并揭示现有评估协议中的盲点。

2.实证分析：通过对 240 个金融摘要样本（160 个合成，80 个真实世界 10-K 节选）在三种模型变体（基础，FT-A，FT-A+B+C）上的受控实验，我们证明：
•领域微调在所有可检测性级别上都显著降低了数值克制，而不仅仅是在更难检测的级别上
•基础模型维持接近零的幻觉（5.4% L1），而微调模型表现出灾难性的比率（82.5–90.8% L1）
•数值监督在所有级别上放大而非缓解了幻觉

3.机制识别：我们确定了模板注入——即无论输入内容如何插入记忆中的规范值——作为主要的幻觉机制。特定的捏造模板（例如，"33 亿 USD”，“运营现金流为 1011 百万 USD"）出现在多达 37–50% 的微调模型输出中，且输入无关，这表明领域适应诱导了强烈的叙事先验，覆盖了基于证据的生成。

4.实用指南：我们为金融专家系统提供了部署建议，包括：
•多级幻觉评估协议
•输入路由的 grounding 条件检测
•模板注入监控和过滤
•模型选择和部署的决策框架

我们的分析揭示了五个关键发现，挑战了关于金融语言模型可靠性的传统假设：
发现 1：微调在所有可检测性级别上都显著降低了数值克制。基础模型维持 5.4% L1（显性）幻觉，而 FT-A 表现出 82.5%，FT-A+B+C 达到 90.8%。这反驳了任何领域适应模型在严格评估下看起来安全的假设。
发现 2：数值监督放大了幻觉。尽管在受控评估下改善了算术能力，FT-A+B+C 在每个可检测性级别上都表现出比 FT-A 更高的幻觉率（L1 高 7.9 点，L2 高 11.6 点，L3 高 9.5 点）。
发现 3：弱数值 grounding（S0 条件）代表了灾难性的漏洞。在缺乏绝对数值值的输入下，微调模型表现出近乎普遍的 L1 幻觉（90–100%），而基础模型维持完全的克制（0.8%）。
发现 4：模板注入普遍存在，表明强烈依赖记忆的样板文本而非基于输入生成的生成。
发现 5：克制差距是核心问题。数值能力和数值规范是正交的能力；当前的微调实践优化了前者同时破坏了后者。

图 1 预览了我们的核心发现：领域微调在所有可检测性级别上都显著增加了幻觉。

章节片段
相关工作
本研究位于三个研究领域的交叉点：神经文本生成中的幻觉，语言模型中的数值推理和 grounding，以及金融语言应用的领域适应。虽然最近的大规模模型在多样化任务中展示了令人印象深刻的涌现能力[2]，但它们在具有严格事实要求的专门领域中的可靠性仍然令人担忧。

实验设置与方法
本节描述了我们研究中使用的模型变体、数据构建、微调程序和评估协议。我们的目标不是在单个基准上最大化性能，而是能够在不同微调策略和 grounding 条件下对数值幻觉行为进行受控比较。

实验结果
本节呈现了我们实验结果的渐进式分析，从受控数值能力评估到金融摘要中幻觉行为的详细调查。我们引入了一种三级可检测性分类法，揭示了微调如何系统地降低所有评估标准下的数值克制。

讨论
本研究对领域特定微调下的金融摘要中的数值幻觉提供了全面分析。我们的发现从根本上挑战了关于领域适应语言模型中数值幻觉的普遍假设，并揭示了评估方法论和部署实践的关键含义。

局限性与未来工作
本研究有几个局限性，指明了未来研究和实际系统设计的重要方向。

结论
本文对领域特定微调下的金融摘要中的数值幻觉进行了系统分析。通过跨基础、FT-A 和 FT-A+B+C 模型的受控比较，我们证明数值幻觉不能归因于数值推理能力不足——相反，它源于通过领域适应导致的数值克制退化。我们的核心发现从根本上挑战了普遍假设：
发现 1：微调

数据与代码可用性
本研究中用于数据生成、微调、推理和评估的所有代码均在以下位置公开可用：https://github.com/ironwire/mistral_tuning
由于许可限制，原始金融文件未重新分发；然而，所有合成数据生成脚本、评估协议和实验配置均已提供，以确保报告结果的可完全复现性。

CRediT 作者贡献声明
Xiaodong Li: 写作 – 初稿，软件，项目管理，方法论，概念化。Peiwei Liu: 写作 – 审阅与编辑，验证，调查，数据整理。

利益冲突声明
作者声明他们没有已知的竞争性财务利益或个人关系，这些利益或关系可能会出现在影响本论文报告工作的地方。

Xiaodong Li 获得了中国科学院软件研究所计算机应用技术博士学位。他在企业应用架构和大规模信息系统实施方面拥有丰富的行业经验。他目前隶属于广州应用科技学院计算机学院和北京中粮集团有限公司 IT 部门。他的早期研究专注于网络信息提取和

Xiaodong Li|Peiwei Liu
广州应用科技学院计算机学院，广州，511370，中国