《Technologies》:Bridging the AI Language Divide: A Systematic Review of NMT and LLMs in Low-Resource Translation
编辑推荐:
AI驱动语言技术的快速发展在不经意间扩大了高资源语言与边缘化语言之间的差距。尽管在高资源语言的AI驱动翻译方面取得了显著进展,但由于数据有限、缺乏基准以及评估挑战,低资源语言仍然不被充分代表。本研究对低资源语言的机器翻译进行了全面的系统综述,重点关注2017年
AI驱动语言技术的快速发展在不经意间扩大了高资源语言与边缘化语言之间的差距。尽管在高资源语言的AI驱动翻译方面取得了显著进展,但由于数据有限、缺乏基准以及评估挑战,低资源语言仍然不被充分代表。本研究对低资源语言的机器翻译进行了全面的系统综述,重点关注2017年至2025年间神经机器翻译(NMT)和大语言模型(LLMs)的进展。遵循系统综述和元分析首选报告项目(PRISMA)指南,从Scopus、Web of Science和Google Scholar数据库中的1696篇文章中筛选出63项研究。该综述确定了五种主要的方法论方法:数据增强、反向翻译、迁移学习、预训练和参数高效微调。研究结果表明,模型性能高度依赖于资源可用性:基于Transformer的NMT在中等数据设置中表现出色,而LLMs在极端低资源场景中展现出有前景的零样本和少样本能力。混合NMT–LLM方法成为一种特别有效的范式。该研究还强调了关键挑战,包括缺乏标准化基准、过度依赖不充分的评估指标(如双语评估替补(BLEU))、有限的人工评估以及显著的地理和语言代表性不足。此外,与偏见、文化表征和社区参与相关的伦理问题日益相关。这些发现有助于推动包容性和公平的AI驱动语言技术。
**1. 引言**
人工智能(AI)和自然语言处理(NLP)的快速发展使得机器翻译(MT)取得了显著进步,尤其是在神经机器翻译(NMT)和近期的大语言模型(LLMs)方面。这些方法在高资源语言(如英语、中文和法语)上达到了接近人类的表现。然而,这种进步并未均匀分布。由于缺乏语言数据和计算资源,以及缺乏用于基准测试的评估集,低资源和低资源语言之间存在显著差距。这影响了当代AI模型的使用以及语言技术的包容性和公平性。NMT是机器翻译中最普遍的方法,因为它可以利用深度学习模型(如Transformer)捕捉复杂的语言结构。然而,NMT系统依赖于大型平行数据集,而这些数据集在低资源语言中往往缺乏。为解决此问题,研究人员采用了多种方法,包括数据增强、迁移学习和多语言学习。例如,数据增强和反向翻译已被证明在低资源场景中能有效改善翻译性能。同样,迁移学习策略利用高资源语言的知识来提高低资源语言的性能。这些技术提供了一些改进,但可能无法匹配高资源语言系统的性能。将语言模型与NMT结合使用也提高了翻译的流畅性和连贯性。早期研究表明,使用语言模型组件可以带来翻译质量的显著提升。此外,多语言NMT模型支持跨多种语言对的翻译和语言之间的知识迁移。最近,多语言系统已出现,为数百种语言提供翻译,展示了当前方法的可扩展性,同时也揭示了数据覆盖和代表性方面的挑战。LLMs代表了机器翻译的范式转变。LLMs可以进行零样本和少样本翻译,消除了对平行语料库的需求。研究表明,多语言LLMs可以在语言和任务之间迁移知识,为低资源翻译开辟了新的可能性。此外,最近的研究调查了LLMs在数据增强、提示和跨语言迁移中的应用,进一步拓宽了其用途。但它们也带来了新的问题,如幻觉、偏见和文化误代表,这在低资源和文化敏感背景下尤其令人担忧。尽管研究日益增多,但文献仍然分散。许多现有工作检查特定技术,如数据增强、迁移学习或多语言建模,但未能提供将这些方法与基于LLM的新技术联系起来的整体视角。虽然最近的综述覆盖了低资源语言的NMT,但仍需要一种整体视角,将方法论创新、模型开发以及低资源机器翻译的实际挑战整合为连贯的理解。这使得研究人员和从业者难以全面了解最新技术和潜在研究机会。为填补这一空白,本研究对低资源语言的机器翻译进行了系统综述,特别是NMT和基于LLM的系统。该综述旨在提供该主题文献的系统概述,详述所涉及的技术、模型和挑战。因此,研究问题如下:
RQ1: 用于低资源语言的神经机器翻译和大语言模型的关键技术和方法是什么?
RQ2: 不同模型(如NMT、多语言模型和LLMs)在低资源翻译设置中表现如何?
RQ3: 将基于AI的翻译方法应用于低资源语言存在哪些挑战、局限性和研究空白?
本研究的动机源于这些快速发展的领域,呈现出从传统NMT方法向支持零样本和少样本翻译的基于LLM方法的明确趋势。此外,应对低资源语言的挑战对于促进数字包容、维持语言多样性以及实现公平访问AI系统至关重要。已有几项综述先前检查了低资源语言的NMT。例如,Ranathunga等人[5]提供了NMT技术的全面综述,但未涉及近年来突出出现的基于LLM的方法。Yazar等人[17]同样关注NMT方法,未整合参数高效微调或零样本/少样本LLM范式。本研究通过两方面扩展了这两项工作:(i) 覆盖至2025年,包括基于LLM和混合NMT-LLM方法;(ii) 提供跨资源制度的结构化比较性能分析。据我们所知,现有SLR均未将全部五种技术类别(数据增强、反向翻译、迁移学习、预训练和参数高效微调(PEFT))整合到一个统一的LLM评估框架中。本文其余部分组织如下:第2节概述研究方法,包括综述协议、搜索策略和筛选过程。第3节报告出版和主题趋势,并对纳入研究进行综合,包括技术、模型、资源和评估方法。第4节呈现对研究结果的讨论,第5节总结全文。
**2. 方法论**
本研究采用系统文献综述(SLR)方法,对低资源语言的机器翻译(特别是NMT和LLMs)工作进行提炼概述。为实现这一点,采用了包括文献计量分析和主题综合的混合方法。文献计量分析用于映射出版模式、关键词共现和高被引研究,而主题综合用于综合和解释纳入文献的研究结果。
**2.1. 透明度声明**
本综述严格遵循系统综述和元分析首选报告项目(PRISMA)指南进行。采用该框架以确保从初步识别到最终综合的所有研究阶段的透明度、可重复性和方法论严谨性。由于本研究属于自然语言处理和计算语言学领域(而非健康相关系统综述),因此未进行协议注册,该领域的前瞻性注册并非标准或强制性要求。为减少选择偏差并确保纳入文献的可靠性,筛选、资格评估和数据提取阶段由审查作者独立进行。在研究选择或质量评估阶段出现的任何差异均通过讨论和共识系统解决。
**2.2. 搜索策略**
于2026年1月10日至26日,在三个主要学术数据库(Web of Science (WoS)、Scopus和Google Scholar)中进行了系统文献搜索。搜索策略包含三个主要概念元素:(i) 语言设置,(ii) AI模型,(iii) 任务,以确保全面检索相关研究并聚焦于研究目标。搜索期限限制在2017-2025年。研究重点始于2017年,源于从循环模型向基于注意力的模型的转变,即以Transformer架构的引入为代表,这对神经机器翻译产生了重大影响。先前在编码器-解码器和基于注意力的NMT方面的工作奠定了相关基础,但未进行系统综述,因为本研究旨在探索现代翻译技术(包括基于Transformer和大语言模型(LLM)方法)的演变。搜索查询整合了低资源语言的描述符(如“low-resource language”、“indigenous language”以及Yoruba、Swahili和Tamil等语言示例)、高级AI模型(如“large language models”、“GPT”、“NMT”)和任务(如“machine translation”、“cross-lingual”和“text generation”),并使用布尔运算符(AND/OR)增强搜索结果。该搜索策略符合系统综述指南,分别包含通用和特定术语以提高召回率和特异性,同时确保相关性。之后,应用纳入和排除标准以缩小搜索结果。完整的布尔搜索字符串包含在附录B(表A2)中。
**2.3. 纳入与排除标准**
定义了纳入和排除标准以确保质量和相关性。纳入标准包括:关于机器翻译(MT)、NMT或LLM的研究;低资源或资源不足的语言;同行评审期刊或会议论文集;2017至2025年之间的出版物;以及英文出版物。如果研究不涉及翻译任务(如情感分析、文本分类)、缺乏实证验证或实验评估、关注点不明确,或在搜索数据库中存在重复,则予以排除。
**2.4. 研究选择与筛选过程**
采用PRISMA流程进行研究选择,包括以下阶段:识别、筛选、资格评估和纳入(见图1)。PRISMA清单可在补充材料中找到。最初识别到1696条记录,包括来自Web of Science(n=350)、Scopus(n=1248)和Google Scholar(n=98)的记录。由于Google Scholar检索结果数量庞大,仅按相关性排序的前100条记录被筛选。这一做法遵循系统文献综述的常见做法,以确保可行性同时保持广泛覆盖。排除719篇重复文献(基于DOI匹配、精确标题匹配和模糊匹配)后,筛选了977篇记录。筛选分三轮进行(标题、摘要和全文),将结果减少至126篇研究。在资格评估阶段,根据以下标准排除了63篇研究:缺乏对NMT/LLM的直接关注、与低资源语言相关性差、实验程序不充分以及贡献显著性低。最终共有63篇研究纳入系统综述。这一多阶段选择过程确保了广泛搜索和对选定研究的严格质量评估,符合系统综述的最佳实践。
**2.5. 数据提取与综合**
采用数据提取协议以确保研究的一致性和统一性。提取的数据包括:作者、年份和出版信息;模型类型(如NMT、多语言和LLMs);使用的技术(包括数据增强和迁移学习);语言对和数据资源;评估方法(如双语评估替补(BLEU)分数和人工评估);以及研究的关键发现和贡献。通过主题综合对数据进行综合,将研究按主题组织为四个主要方面:(i) 技术,包括数据增强、迁移学习和提示;(ii) 模型,涵盖NMT、多语言模型和大语言模型;(iii) 资源,如语料库、数据集和语言工具;(iv) 评估方法,包括自动指标和人工评估。还使用Biblioshiny(Bibliometrix 5.4.0 R包的Web界面)进行了文献计量分析,以探索出版趋势、关键词共现和研究的主题变化。
**2.6. 质量评估**
为确保综合研究结果的稳健性及其与研究核心目标的一致性,对所有63篇纳入研究进行了严格的质量评估。每项研究根据三个主要质量标准进行评估:(i) 方法论透明度,要求清晰记录模型架构、超参数设置和训练数据量;(ii) 评估严谨性,评估是否使用形态学上合适的指标(如字符n-gram F分数(chrF)、跨语言优化翻译评估指标(COMET))以及是否包含人工评估或统计显著性检验;(iii) 与真实低资源、少样本或零样本翻译场景的上下文相关性。在资格评估阶段,严格排除了那些表现出高方法偏差风险的研究,如缺乏可重复基线或实验验证的研究。每项纳入研究均根据表1中的三个标准独立评估,以评估方法稳健性并指导主题综合,而非在资格评估后排除研究。应用此框架,63篇纳入研究被分为三个层级。大多数研究(42篇)被归类为高质量,具有稳健的评估框架,例如使用多种指标、人工评估或统计显著性检验,并直接应用于真实低资源环境。12篇研究被归类为中等质量,通常表现出高主题相关性但依赖单一自动指标或省略了次要方法细节。最后,9篇研究被归类为低质量,因其独特的基线架构或稀有语言配对而被保留,但在严格标准应用下表现出显著的方法弱点,主要原因是仅依赖BLEU指标评估模拟(而非真实)低资源数据集,或缺乏详细的训练透明度。总体而言,整个语料库的方法论透明度令人满意,确保了综合研究结果可以被可靠地解释为有效证据。尽管整体透明度较高,但文献中的评估实践差异显著。虽然BLEU仍然是主导的评估指标,但形态学感知指标(如chrF或COMET)的整合主要局限于高质量层级。值得注意的是,使用多语言预训练模型和参数高效微调(PEFT)的研究应用了比专注于大语言模型(LLMs)的研究更全面的评估协议。被归类为低质量的研究因其独特的基线架构或稀有语言配对而被保留;然而,它们表现出显著的弱点——即仅依赖单一自动指标评估模拟低资源数据集,且缺乏统计显著性检验。这突显了整个领域持续存在的关键方法差距。此外,将偏差风险评估整合到评估过程中,以确保报告性能指标的可靠性。具体而言,对研究进行了评估指标偏差(过度依赖BLEU,尽管其对粘着语具有结构局限性)、数据集和领域偏差(缺乏跨领域评估或LLM预训练中潜在的测试集泄漏)以及出版偏差(仅报告正面性能增益的趋势)的审查。对于纳入研究,任何已识别的偏差均在主题综合中明确标记,以确保性能声明得到准确上下文化,直接指导综述中概述的关键研究差距和建议。
**3. 结果**
**3.1. 研究景观**
最终语料库包含63篇主要研究,发表于27个不同来源,并显示出研究数量的稳步增长,在2024年达到峰值(表2,图2)。会议论文在数据集中占主导地位(38篇),而期刊文章为24篇,这一趋势反映了自然语言处理(NLP)研究的快速迭代周期和创新驱动性质。尽管作者网络显示出团队内的高合作度,但国际合作仍然显著有限,仅为4.76%。在地理上,出版量高度集中于中国和印度,这得益于对当地语言多样性背景的深入参与。相反,具有深刻语言需求的地区,包括撒哈拉以南非洲、东南亚和澳大利亚,仍然严重代表性不足,突显了全球研究能力和基础设施的差异。尽管绝对产出较低,但来自美国和爱尔兰的出版物表现出不成比例的高引用影响,表明全球研究可见性和学术影响力的不对称性。总体而言,这些模式表明该领域正在顶级场所内进行机构整合,但受到作者身份和数据代表性的地理不平衡的限制。
**3.2. 关键词共现与主题演化分析**
关键词共现分析揭示了一个由三个分析上不同的层组成的知识结构,这些层映射了该领域的主要研究优先事项。核心研究层由高频术语定义,如“神经机器翻译”、“计算语言学”和“低资源语言”,反映了神经方法构成了该文献的既定基础。在该核心旁边,方法论层勾勒出一个主导的、以数据为中心的范式,专注于缓解数据稀缺。研究人员传统上依赖一个连贯的工具包,包括数据增强、反向翻译、迁移学习和预训练,以优化现有数据边界。然而,新兴主题标志着向以模型为中心的方向的关键转变。这一前沿的特点是越来越多的多语言LLMs整合,能够进行零样本和少样本翻译,以及PEFT方法,如低秩适应(LoRA)和瓶颈适配器。同时,新兴关注对抗性机器学习以提高模型鲁棒性和结构去偏,突显了该领域科学和伦理范围的拓宽,特别是在濒危语言的保护和振兴方面。这种从数据改进技术到模型适应策略的架构转变在图3中进行了说明。补充这些共现模式,关键词被分类为不同的驱动型、基础型、新兴型和利基型主题,以追踪该领域的总体发展。如图4所示,数据稀缺环境下的“神经机器翻译”作为主导的驱动型主题运行,具有高中心性和密度,表明存在足够的内部共识以产生密集、自我强化的研究网络。相反,带有“神经网络”、“BLEU或WER”等术语的性能集群作为横向基础型主题;指标如BLEU或WER以及质量估计框架支撑了语料库中几乎所有实证验证,使该主题在结构上不可或缺但在方法论上分散。专门的架构优化,包括“嵌入”、“增强技术”和“词嵌入”,占据着不同的利基型主题,关注低资源性能约束。同时,向“对抗性机器学习”、“多语言可扩展性”和“语言翻译”的渐进过渡在新兴主题象限中表示。总体而言,这一主题演化与2017-2025年综述期内的整体历史轨迹一致:从孤立的平行数据增强和父母-子迁移学习向广泛、多模态、可扩展和计算高效的大型预训练多语言系统的适应进行结构性迁移。需要注意的是,关键词共现分析识别的是研究主题之间的关联,而非因果关系。因此,观察到的主题应被解释为研究趋势的指示,而非因果发展的证据。
**3.3. 研究发现**
本综述对63篇纳入研究进行了主题综合。基于数据提取协议,分析沿着四个关键技术维度组织,以解决核心研究问题。首先,综述评估了应对数据稀缺的主要技术,考察了五种主要方法论,包括数据增强、反向翻译、迁移学习、预训练结构优化和PEFT。其次,追溯了模型架构和范式,跟踪了从基于短语和循环架构到基于Transformer系统和端到端LLMs的时序和结构经验转变。第三,分析了新兴的混合范式,重点关注将LLMs的上下文规模与NMT架构的精确监督相结合的高性能流水线。最后,综述交叉检查了该领域的语言、资源和评估概况,评估了类型学覆盖、训练语料库大小的差异以及自动指标选择和人工验证差距造成的持续结构约束。所有纳入研究在这些指定分析维度上的全面逐项映射在附录A(表A1)中提供。
**3.3.1. 数据稀缺的主要技术**
综述文献确定了五种主要方法论,系统部署以应对低资源机器翻译中的数据稀缺:数据增强、反向翻译、迁移学习、预训练结构优化和PEFT。这些方法论并非孤立使用,而是越来越多地组合在高性能流水线中,显示出不同程度的有效性,受目标语言的语言特征、形态复杂性和基线资源概况的影响。数据增强是最广泛采用的范式,出现在超过35篇纳入研究中,作为扩展训练数据集的手段,而无需承担生成原始人工平行文本的高计算和人力成本。Fadaee等人[28]在该领域建立了基础方法,通过将低频词合成替换到新上下文中,获得了高达2.9 BLEU的翻译质量提升。随着领域成熟,这些数据扩展哲学多样化以应对各种语言类型学。例如,Hailu等人[43]通过利用专门针对形态丰富语言的词嵌入替换,实现了+5.9 chrF的改进。同时,Li等人[8]使用受限采样伪平行文本生成实现了1.0-2.0 BLEU的稳定增益。在语料库级别报告的最大单次增益由Agyei等人[4]实现,他们利用联邦跨语言优化将英语-契维语翻译性能从2.16% BLEU基线提升至71.30% BLEU。除了这些生成策略,文献将数据质量控制定位为不可或缺的子主题。Imankulova等人[35]证明,包含未过滤的伪平行数据会引入噪声,积极降低下游模型性能。为解决此问题,Briakou等人[44]引入了BitextEdit,一个多任务编辑框架,自动精炼挖掘的双语文本,在五个不同的低资源语言对上实现了高达+8 BLEU的显著性能提升。反向翻译,即从目标语言单语数据合成源句的过程,是研究中另一个高度可靠且持续有效的策略。Feldman和Coto-Solano[25]证明了该方法在极端数据稀缺设置中的结构弹性,表明对于濒危的奇布查语布利布里语,迭代反向翻译在仅5923个句对时仍然可行,并在严格保持领域对齐时带来+1.0 BLEU的增加。研究缩放动态,Xu等人[15]确定,为最大化数据多样性而设计的各种反向翻译技术的策略组合,在立陶宛语和古吉拉特语翻译中从根本上优于简单体积缩放。这种对数据组成而非原始规模的强调,由Ramnath等人[23]通过HintedBT进一步推进,该技术将特定的质量和音译提示直接注入合成数据生成流水线。他们在高度挑战性的跨文字对(包括印地语、古吉拉特语和泰米尔语-英语)上实现了最先进性能。至关重要的是,这些研究表明,当与跨语言适应方法整合时,反向翻译达到其最佳性能上限,联合BT和迁移学习流水线系统地优于任何单独实施的方法。迁移学习和跨语言适应,根据纳入研究的评估,已从基本的父母-子参数初始化根本性地转向高度复杂的多阶段层次架构。Maimaiti等人[11]通过引入多轮迁移学习(MRTL)开创了这一演变,该技术依次利用来自多个高资源语言父母的知识,实现了比传统单父母迁移学习高出+5.63 BLEU的改进。扩展这一多阶段哲学,Luo等人[36]验证了一个三阶段层次进展,将知识从无关的高资源对通过语言学相关的中介对转移到最终目标语言,在维吾尔语-中文和土耳其语-英语线上优于标准迁移学习设置。当应用于土著语言环境时,迁移学习越来越依赖于大规模预训练模型。Chen和Abdul-Mageed[37]通过直接微调大型多语言模型而不使用任何外部数据增强,在十个南美土著语言对中的五个上建立了新的经验基准。类似地,Tars等人[38]克服了七个芬诺-乌戈尔语系的严重数据限制,这些语言完全不存在于初始预训练语料库中,通过大型多语言模型的跨语言转移实现了高度竞争的翻译质量。与数据驱动方法并行,研究强调基础架构选择和超参数调优显著影响低资源机器翻译的可行性。Araabi和Monz[29]证明,针对小规模训练集隔离和优化Transformer超参数配置,比默认设置高出多达7.3 BLEU点。至关重要的是,这一优化幅度匹配或超过许多突出数据增强研究所报告的性能增益,强烈暗示了报告的低资源翻译质量中相当一部分历史方差源于配置差异,而非真正的方法论创新。为解决大规模架构中固有的“未见语言”瓶颈,Liu等人[39]在mBART上部署了持续混合语言预训练(CPT),展示了对于完全排除在父模型初始训练阶段之外的语言的持续跨语言改进。此外,研究人员越来越成功地直接将语言学驱动的结构块整合到神经编码器中;诸如句法依存注意力[26]和预排序一致性块[40]等扩展,通过明确强制底层网络尊重目标语言句法规则,带来了适度但高度可靠的翻译增益(分别为+1.32和+1.46 BLEU)。PEFT是低资源翻译空间中增长最快的范式之一,介于大型开源模型和有限本地计算能力之间。Sel和Hanbay[41]证明,将LoRA与本地化瓶颈适配器相结合,使土耳其语-英语翻译系统在仅修改总模型权重的5%的情况下,达到了完全无约束参数微调性能的3%以内。在高风险区域背景下,Lankford等人[12]利用专门的PEFT微调(adaptMLLM)在mBART和mT5架构上实现了爱尔兰语-英语翻译的+40.5 BLEU增长,该结果通过多维度质量指标(MQM)人工评估进行了严格验证。对于复杂的非英语中心的亚洲翻译任务,Liang等人[42]通过将针对性的LoRA修改应用于多头注意力和前馈网络(FFN)层,在高度专业化的多语言机器翻译基线上报告了持续的1-3 COMET点增益。将PEFT方法论提升到对齐范式,Nair等人[24]将直接偏好优化(DPO)与创新的超几何伽马奖励信号相结合,在Dogri-英语翻译上实现了有竞争力的49.81 BLEU分数。至关重要的是,通过严格的近似随机化检验和重复测量方差分析验证其输出,他们证明了偏好对齐的PEFT框架可以在显著更少的训练数据下,轻松匹配或超过像IndicTrans2这样的大规模基线。这种数据稀缺技术的整合反映了一个成熟、多面的工具包,将领域从蛮力数据收集转向数据高效、结构优化的架构适应。
**3.3.2. 模型架构与范式**
这些研究记录了近十年的机器翻译研究中清晰的时序架构进展:从统计和循环神经网络,经过专门的基于Transformer的NMT,到大规模多语言预训练模型,最终到部署在零样本、少样本和参数高效微调配置中的LLMs。本质上,这种演变并不意味着新架构普遍使旧模型过时;相反,纳入研究的经验证据表明,架构有效性仍然深深依赖于目标语言的具体资源约束。统计机器翻译(SMT)和循环神经网络(RNN/LSTM)架构在极端数据稀缺情况下保持明显的竞争优势,而现代深度学习框架通常会崩溃。例如,Mrinalini等人[47]通过设计一个专门优化以利用泰米尔语自由词序特性的短语诱导混合SMT系统,在英语-泰米尔语翻译上实现了84.78 BLEU分数。突出这些数据稀疏基线的持续相关性,Saxena等人[48]部署了严格的统计显著性检验,在达罗毗荼语系、印度-雅利安语系和多个濒危语言家族中基准测试了10个无监督SMT框架。这一架构边界进一步由Chang等人[49]明确,他们确认当训练数据严重受限时,经典基于短语的机器翻译系统地优于标准Transformer NMT,尽管随着平行语料库规模扩大,Transformer架构迅速超越SMT。从2019年起,基于Transformer的NMT成为综述语料库中的主导范式。然而,一个关键发现是,标准Transformer的普通、开箱即用配置对于小训练数据集是系统性地次优的。Araabi和Monz[29]证明,需要仔细的超参数调整和自定义优化计划才能释放Transformer在低资源环境中的真正潜力。当适当调整时,Transformer模型在所有代表语言家族中产生了翻译质量的实质性改进。这些基线增益通过引入语言学驱动的结构扩展到网络中而得到持续增强;诸如句法依存注意力[26]和预排序一致性块[40]等工程修改,通过强制底层注意力机制捕获目标语言结构变化,提供了适度但数学上稳定的性能增益。大型多语言预训练模型(如mBART、mT5、XLM和OPUS-MT)的引入,通过将跨语言迁移学习确立为一种实用的低资源翻译策略,改变了该领域。通过让架构在自监督预训练期间同时暴露于数十种语言,这些模型允许数据稀缺语言继承高资源亲属的语义表示。尽管有这些增益,研究将严重领域敏感性确定为微调多语言系统中的持续瓶颈。Donald和Purkayastha[30]在英语-卡西语翻译任务中暴露了这一脆弱性,记录了翻译质量的灾难性崩溃,其中BLEU分数从领域内测试数据的39.63急剧下降到跨领域数据集时的仅5.33。为弥合这些词汇差距并处理完全未表征的目标系统,研究人员成功部署了专门的训练扩展;Liu等人[39]和Tars等人[38]分别通过实施持续预训练和跨语言迁移方法论,成功解决了“未见语言”限制,安全地引入了新方言而不破坏模型的核心多语言架构。LLMs代表了2023-2025年期间低资源翻译景观中的进一步范式转变。远远超出传统有监督架构的限制,多语言LLMs通过直接的自然语言提示实现零样本和少样本翻译。大致描绘这一新性能前沿,Zhu等人[33]发现,虽然GPT-4在40.91%的评估翻译方向上超过了高度专业化的多语言《不让任何语言掉队》(NLLB)模型,但在高度受限的低资源语言对上,它仍然持续落后于已建立的商业翻译引擎。此外,他们的分析为上下文学习建立了一个关键的操作指南:在数据稀缺环境中,系统地利用提示结构中的跨语言示例比依赖同语言上下文示例产生更高的翻译质量。为便于与其他基于LLM的翻译研究进行比较,表3总结了关键实验特征,包括模型类型、提示策略、语言覆盖、防止幻觉的努力以及评估方法。如表3所示,基于LLM的翻译研究中的报告实践高度多样化。尽管实验细节(如提示设计、预训练语言覆盖、污染风险、如何减少幻觉以及人工评估)以不同方式报告,但多语言预训练模型(如mBART、mT5、GPT-4、LLaMA和Mistral)的使用是一致的。很少有研究包括正式的人工评估或明确提及幻觉和污染的风险,这表明在基于LLM的机器翻译研究中需要进一步标准化结果报告。
**3.3.3. 混合NMT-LLM范式**
最近的研究中出现了一个重要的对端到端模型原始缩放的抗衡点,挑战了参数规模单独决定低资源翻译质量的普遍假设。并非将庞大的LLMs和高度本地化的神经机器翻译系统视为竞争范式,一个高度有效且创新的研究方向围绕混合NMT-LLM流水线巩固。在此混合框架内,LLMs的广泛上下文、世界知识和文本生成能力被用作高保真合成数据生成引擎,进而产生高质量的平行数据以微调紧凑、计算高效且高度精确的有监督NMT模型。这种协作流水线的实证优越性由Lu等人[56]通过其统一数据选择和评分优化(UDSSO)框架证明。他们的研究表明,一个使用LLM过滤数据微调的策略性策划的紧凑mBART模型,成功地在挑战性的中文-荷兰语翻译任务上超越了GPT-4o和DeepSeek-V3,直接验证了目标性的架构监督可以超越显著更大的模型。这一结构发现进一步由Ahmadnia等人[55]在英语-芬兰语翻译中得到确认,其中他们的混合NMT-LLM系统实现了比独立NMT基线高出36%的BLEU改进,以及比传统微调mBART架构高出+11%的增益。类似地,Chang等人[49]通过部署一个递归学习流水线,成功融合了基于短语的机器翻译与Transformer NMT,在少数民族语言翻译设置中实现了持续改进,从而验证了混合架构风格的长期效用。通过将LLMs的角色从不可预测的端到端翻译器转变为受控的数据生成资产,混合范式为通往公平的AI驱动语言技术提供了一条显著改进的、资源意识强的路径。
**3.3.4. 语言、资源与评估概况**
纳入研究涵盖超过40个语言对,跨越六大主要类型学家族:突厥语系、印度-雅利安语系、达罗毗荼语系、南岛语系、尼日尔-刚果语系和美洲土著语系。然而,中国少数民族语言对在研究数量上占据主导地位,反映了特定地区的大量机构投资。相反,非洲语言约占全球语言多样性的30%,但在纳入研究中占比不足15%。这种结构性代表性不足在澳大利亚土著语言中最为严重,在语料库中仅由一项研究代表。虽然统称为低资源语言,但这些语言远非同质。它们的语言类型学、形态学、书写系统、数字表征和社会语言背景差异显著。因此,对一个语言家族有效的技术可能不适用于其他家族。因此,研究间的比较是上下文依赖的,模型选择应考虑到目标语言的具体语言概况和资源情况。此外,训练语料库大小相差近两个数量级,从濒危语言(如布利布里语)的5923个句对到资源较好的目标语言的超过20万个句对。这种差异揭示了一个关键的交叉主题:技术有效性高度依赖于语言。文献表明,迁移学习和反向翻译的收益对于语言学相关的对显著更大,而LLM的少样本能力严重依赖于语言的互联网存在而非其口语足迹。因此,技术选择必须深入了解目标语言独特的形态、句法和资源现实,因为来自一个语言家族的研究结果不能假定为可推广。评估构成了当前文献中最方法论不一致的维度,使得在没有语料库大小匹配和标准化测试集的情况下,直接的跨研究比较在很大程度上无效。可比性持续受到标记化工具、BPE词汇大小和测试集组成不一致的损害,使得共享基准的缺失类似于高资源机器翻译的工作坊机器翻译(WMT)领域最重大的结构差距。表4总结了语料库中采用的主要指标。BLEU仍然是主导指标(在约85%的研究中使用),尽管其对于评估形态丰富语言的已知不足。chrF和COMET等形态学感知指标正在缓慢获得采用,但尚未标准化。人工评估的存在仍然罕见,这使得已报告的自动指标改进是否转化为目标社区的实际效用或流畅性变得不确定。这种方法论差距强调了建立标准化基准、采用更合适的评估指标以及包括正式人工评估的必要性,以确保低资源机器翻译研究的科学严谨性和社会相关性。
**4. 讨论**
**4.1. 跨资源制度的性能**
表5提供了跨各种资源条件的模型范式的结构化比较,综合了纳入研究的经验性能证据。这种综合得出了几个关键见解,这些见解在孤立评估个别研究时并不立即明显。首先,没有单一范式在所有资源设置中占据主导地位。即使在最小的数据规模下,统计机器翻译(SMT)方法仍然高度相关,因为它们不依赖基于梯度的优化在广泛的参数空间上。当训练数据以数百而非数千个示例来衡量时,这一数学属性成为明显的优势而非限制。其次,基于Transformer的NMT的超参数配置在低资源制度中比在高资源环境中更为关键。如Araabi和Monz[29]所示,最优配置可以比默认设置高出多达7.3 BLEU,这一性能差距实际上超过了语料库中其他地方报告的大多数基于增强的增益。这强烈暗示了观察到的跨低资源MT研究的性能变异可能源于配置差异而非实际的方法改进;标准化评估基准将有助于解开这些变量。第三,LLM范式创造了一个全新的性能景观,与所有先前方法不同。虽然它在数千个语言对上提供了适度的翻译质量而无需平行训练数据,但当与专用有监督系统直接比较时,其潜在性能对于大多数低资源语言仍然是次优的。这种二分法提出了一个新颖而有价值的研究问题:在哪些具体的语言和资源条件下,部署少样本LLM比使用数据增强支持的有监督NMT系统更合理?答案很大程度上取决于目标语言在LLM预训练数据中的覆盖程度,这一指标对于低资源语言很少被明确量化。Wang等人[51]部分解决了这一瓶颈,他们证明,结合类比推理和基于检索的增强,在16个低资源任务上系统地优于标准少样本LLM提示,表明检索机制可以成功缓解LLM内在的语言覆盖缺乏。
**4.2. 关键研究空白**
系统综合揭示了几个结构空白,这些空白持续限制了低资源机器翻译景观中的科学进展和实际影响。这些空白涵盖基础设施、方法论和伦理维度。
**4.2.1. 标准化与严谨性不足**
纵向进展最普遍的障碍是缺乏社区共享的、标准化的低资源语言对评估基准。虽然高资源翻译受益于WMT和国际口语翻译会议(IWSLT)共享任务的严格基础设施,确保统一的训练分割、标记化