KAAN-GNN-BERT：一种基于知识感知的三部分图集成Transformer模型，用于半监督词义消歧

《ACM Transactions on Asian and Low-Resource Language Information Processing》：KAAN-GNN-BERT: A Knowledge-Aware Tripartite Graph-Integrated Transformer for Semi-Supervised Word Sense Disambiguation

　　

摘要AI总结

要查看此由AI生成的总结，您需要拥有高级访问权限。

了解更多登录

摘要

摘要

在计算语言学中，词义消歧是极为重要的，尤其是对于那些具有复杂形态学特征的语言，比如乌尔都语。我们提出了KAAN-GNN-BERT，这是一种集成知识感知注意力网络、图神经网络以及BERT变换器架构的混合模型，适用于半监督学习场景。该模型在两个乌尔都语基准数据集上进行了测试：ULS-WSD和UAW-WSD。KAAN-GNN-BERT利用BERT提供的上下文嵌入来捕捉细微的语义差异，而图神经网络则通过连接前置上下文、后置上下文以及词义标识符的三部分图结构来引入结构化知识。这种结构化表示方式能够提供丰富的关系信息。KAAN机制将BERT的嵌入结果与基于图的知识相结合，使模型能够突出并整合最相关的信息。由于采用半监督学习方式，KAAN-GNN-BERT既能从有标签的数据中获取信息，也能从无标签数据中受益，从而提升了模型的泛化能力，并减少了类别不平衡问题。实验结果表明，KAAN-GNN-BERT的性能远远优于传统的监督学习方法以及现有的最先进模型。在ULS-WSD数据集上的F1分数为81.3%，在UAW-WSD数据集上的F1分数为79.4%，相比基准模型提升了30%以上。此外，图神经网络组件还支持社区检测功能，提升了模型的可解释性，有助于了解词义分组情况。这些研究结果充分体现了将基于变换器的架构与基于图的关系知识及注意力机制相结合的强大优势。因此，KAAN-GNN-BERT成为解决词义消歧问题的有力工具，即使在资源有限的语言环境中也能保持出色性能，为未来语义理解技术的发展奠定了基础。

AI总结

AI生成的总结（实验性内容）

此总结是由自动化工具生成的，并非由文章作者撰写或审核。它旨在帮助读者发现相关内容、评估文章的相关性，以及让相关领域的读者更好地理解这篇文章。它的作用是补充作者提供的摘要，后者仍是文章的核心总结内容。完整文章才是最具权威性的版本。点击此处了解更多。

点击此处，可以对这个总结的准确性、清晰度及实用性发表意见。您的反馈将有助于改进模型并生成更优质的总结版本。

要查看此由AI生成的通俗语言总结，您需要拥有高级访问权限。