用户可控的事后水印技术，用于大语言模型（LLM）生成的文本，且无需访问模型

《IEEE Access》：User-Controlled Post-Hoc Watermarking for LLM-Generated Text without Model Access

　　

摘要：

目前针对大语言模型（LLM）生成文本的水印技术通常在生成过程中嵌入水印，这些水印由LLM控制的秘密密钥生成。虽然这种方法可以验证LLM生成的内容，但可能会引发版权和作者身份的问题。例如，当用户依赖LLM进行校对、语法修正或翻译时，模型仍可能在其生成的文本中嵌入自己的水印。这可能会导致所有权争议，因为文本看起来更像是AI系统的成果而非人类作者的创作。为了解决这个问题，本文提出了一种改进的后期水印方法，该方法在文本生成完成后嵌入用户控制的水印。这种方法不需要访问LLM的内部架构。它使用用户的秘密密钥应用概率水印机制，并在整个文本中嵌入水印信号，而不仅仅是选择性地嵌入某些词项，这与之前的后期水印方法不同。在嵌入水印的过程中，该方法通过与LLM交互，在每次替换字符后重新生成文本的后缀。这样可以保持语法正确性和上下文连贯性，避免了基于同义词替换的方法中常见的文本质量下降问题（因为这些方法不会调整周围的文本）。本文使用基于BERT的掩码语言模型来确保每次替换在语义上与原始文本保持一致。实验结果表明，所提出的方法在保持较高相似度和可读性的同时，还能生成统计上可验证的水印信号。该方法为生成式AI中的作者身份验证和版权保护提供了实用的解决方案，且无需访问LLM的内部机制。