RAHBAR：一种基于Roberta增强技术的混合biLSTM-biGRU架构，用于乌尔都语对话代理中的教育场景意图识别

《IEEE Aerospace and Electronic Systems Magazine》：RAHBAR: A RoBERTa-Augmented Hybrid biLSTM-biGRU Architecture for Intent Recognition in Education for Urdu Conversational Agent

　　

摘要：

近年来，对话式代理在教育系统中的应用受到了广泛关注，因为它们有望提高学生的参与度、减轻行政负担并改善信息获取的便利性。然而，由于大多数对话式代理主要擅长处理英语，为像乌尔都语这样的低资源语言创建智能对话式代理仍然是一个重大挑战。缺乏标注的数据集、预训练语言模型的稀缺性以及现有系统在大型数据集上的表现不佳，都使得满足这些语言的需求变得十分困难。本研究开发了一个专门针对乌尔都语的教育对话式代理，重点关注意图分类——这是理解乌尔都语查询的关键要素——以解决这些问题。本文介绍了乌尔都语意图分类数据集（UID），该数据集包含11,598条乌尔都语查询和268个手工标注的意图类别，这些数据来自真实用户，并通过官方大学资源进行了验证，以弥补高质量数据的不足。研究使用了多种基线模型（包括传统的机器学习模型和先进的深度学习模型）进行了多次测试，以评估意图检测的有效性。此外，还针对特定任务对不同的基于Transformer的多语言模型进行了微调。研究提出了一种名为RoBERTa-Augmented Hybrid biLSTM-biGRU Architecture for Intent Recognition in Urdu Student Query conversational agent（RAHBAR）的混合模型，该模型结合了微调后的RoBERTa乌尔都语模型、双LSTM、双GRU以及注意力机制和Transformer编码器，以增强上下文理解能力。所提出的模型性能超过了所有现有的最先进模型，准确率达到99%。此外，还引入了LIME技术来提高模型预测的可解释性。这项研究展示了一种可扩展、可解释且性能优异的对话式代理...

显示更多