基于语义多样性束搜索的解码增强方法在语言生成模型中的应用与评估

本综述提出语义多样性束搜索（SDBS）算法，通过知识图谱语义评分、自适应阈值、分层采样及束宽归一化等创新，解决图像描述生成中语义多样性不足与准确性失衡的难题。实验证明SDBS在BARTScore++及LLM评估中均优于传统方法，为多模态AI生成任务提供了高效可靠的解码新方案。

　　

Highlight

我们开发了基于知识图谱相似度的语义多样性评分函数，以捕捉真正的语义变化而非表面词汇差异。

引入自适应阈值机制，避免对语义距离较远的词对进行不必要的多样性计算，从而在不影响性能的前提下提升计算效率。

提出分层top-k采样，将多样性计算聚焦于统计显著的词汇，在保持生成质量的同时降低计算开销。

应用束宽归一化，将束大小与组大小解耦，实现更灵活的超参数选择并提升可扩展性。

实施早停策略，在保持生成质量的同时显著降低计算复杂度，解决语义约束解码在实际部署中的实用性问题。

Conclusion

本研究提出的语义多样性束搜索（SDBS）从根本上重新定义了神经文本生成中的多样性挑战，其操作基于语义空间而非表面词汇空间。我们的研究结果表明，在解码过程中融入基于知识图谱的语义理解能够产生比现有方法更具意义多样性且更高质量的输出，挑战了多样性与准确性本质对立的传统假设。