《Information》:Navigating the Digitization Gap: An Indirect Evidence Synthesis of AI Methods for Low-Resource Chagatai Manuscripts
编辑推荐:
许多低资源语言的历史手写记录仍然难以通过现代数字系统访问。这限制了大规模保存和研究文化遗产的努力。察合台手稿在东部突厥传统中体现了这些挑战。几个世纪以来,它一直是中亚的主要书面语言,并支持了丰富的文学传统。大量察合台手稿至今仍存,但只有一小部分材料以数字形式存
许多低资源语言的历史手写记录仍然难以通过现代数字系统访问。这限制了大规模保存和研究文化遗产的努力。察合台手稿在东部突厥传统中体现了这些挑战。几个世纪以来,它一直是中亚的主要书面语言,并支持了丰富的文学传统。大量察合台手稿至今仍存,但只有一小部分材料以数字形式存在。由于专门关注察合台手写文本识别(Chagatai-HTR)的技术文献仍处于起步阶段,本综述综合了来自分类学上相关的波斯-阿拉伯(Perso-Arabic)文字系统的间接证据,以建立一个基础研究框架。本文按照PRISMA指南进行系统文献综述,研究低资源语言中手写文本识别(HTR)和文本修复的人工智能方法。分析2020年至2026年间发表的50项研究,该综述将研究趋势分类为手写文本识别(HTR)、光学字符识别(OCR)、文字分类、数据集开发和多模态视觉-语言系统。研究结果揭示了从传统的基于分割的CNN和RNN模型向Transformer架构和多模态方法的重大架构转变。然而,对于察合台语而言,主要障碍不是缺乏先进模型,而是基础研究基础设施的严重稀缺,包括专家验证的转录、标注标准和开放基准数据集。因此,本文提出了一个具体的发展路线图,侧重于系统数字化、专家标注、迁移学习和创建基线模型,以实现可重复的评估。
**1. 引言**
历史手稿保存了文化身份、语言发展和集体记忆,但数字化转型面临挑战。光学字符识别(OCR)对主要语言的印刷文本表现良好,但手写历史手稿的准确转录仍困难重重,尤其在低资源语言和文字中差距更大。察合台语是14至20世纪中亚使用的突厥文学语言,保存了大量历史、科学、宗教、行政和文学文本,但大部分遗产尚未进入现代计算分析。隆德大学的Gunnar Jarring收藏是晚期察合台和东部突厥手稿的重要典藏,面临严重墨迹渗透和正字法变异的数字化挑战。尽管深度学习取得进展,高资源语言与低资源历史语言之间仍存在显著差距,主要原因是数据稀缺。手写文本识别(HTR)比OCR更复杂,需处理手写的自然变异性。基于阿拉伯文字的手稿具有连笔、上下文相关和视觉密集的特点,增加了识别难度。历史手稿的物理退化(污渍、褪色、裂纹、墨迹渗透)进一步复杂化了任务。本文对低资源语言手写文本识别和修复的人工智能方法进行系统文献综述,主要贡献包括:提出HTR和手稿修复方法的全面分类法;分析低资源学习策略;总结评估指标;识别关键研究空白;提出战略研究路线图。研究通过四个研究问题(RQ1-RQ4)指导。
**2. 材料与方法**
本综述遵循PRISMA 2020框架,对2020年1月至2026年3月间发表的50篇同行评审文章和预印本进行分析。搜索策略采用分层布尔查询,覆盖IEEE Xplore、EBSCO、Google Scholar等主要数据库。筛选过程由两名评审者独立进行,数据提取采用标准化编码框架。纳入标准包括:关注历史文档分析和HTR的机器学习方法,针对低资源语言;排除高资源文字、商业应用和非机器学习研究。最终纳入50项研究,其中最大比例来自IEEE(15项),其次为Springer Nature(8项)和ACM/ACL(6项)。研究分布显示2023年后研究活动显著增加,2025年达到20篇。语言/文字分布中,阿拉伯和波斯-阿拉伯文字占14项,印度文字占12项,其他文字覆盖较少。
**3. 结果**
**3.1 证据综合与方法学可迁移性**
由于缺乏直接的察合台HTR文献,本研究实施间接证据综合框架,从分类学和书写学上相关的波斯-阿拉伯文字中获取代理证据。表4建立了正式的可迁移性矩阵,强调结构同构性,优先处理连续基线对齐和复杂连字结构的模型。通过选择在相关文字上经验成功的架构(如HATFormer、多尺度生成网络),确保未来察合台HTR管线对Jarring收藏中的随机噪声、严重退化和正字法漂移保持鲁棒性。
**3.2 术语与概念框架**
表5区分了修复与增强、识别与转录等关键过程。修复指恢复丢失或退化的视觉结构,增强指改善信号质量;识别指从图像到文本序列的映射,转录指记录文字内容。
**3.3 手写文本识别(HTR)**
HTR旨在将无约束的书写图像转化为机器可读序列。研究从手工特征提取转向端到端深度学习模型。3.3.1节“识别范式”指出正向统一端到端架构的转变,减少对分段的依赖,通过注意力机制维持全局上下文感知。3.3.2节“表示与学习趋势”强调基于注意力的表示学习,结合视觉嵌入与预训练语言知识,实现鲁棒性。3.3.3节“数据创建与预处理约束”指出二值化和噪声去除在提升清晰度的同时可能丢失笔画细节,需要平衡。3.3.4节“合成数据与泛化限制”显示合成数据有助于扩展训练分布,但无法有效泛化到真实手稿条件,存在域差距。3.3.5节“基准测试、指标与可比性”指出评估实践碎片化,CER和WER用于序列准确性,但缺乏标准化数据集导致可重复性差。3.3.6节“低资源与历史文字挑战”指出历史手稿受稀疏性、变异性和环境退化制约,依赖封闭词汇解码可能掩盖真实视觉理解。
**3.4 脚本/字符分类**
脚本和字符分类旨在识别文档类型和单个字形。在阿拉伯书写系统中,连字和位置变体增加了复杂性。3.4.1节“表示策略”表明转向复杂视觉特征抽象。3.4.2节“结构相似性与类可分性”指出结构相似性降低类可分性。3.4.3节“预处理约束”强调预处理可能去除关键曲线信息。3.4.4节“类内变异与类间相似性”指出分布偏移导致泛化差距。3.4.5节“评估指标与可重复性”中,F1-score比准确率更平衡,但可能掩盖结构混淆。3.4.6节“低资源与历史文字约束”中,数据稀缺和高变异性导致不稳定的判别。
**3.5 系统级与在线识别**
系统级和在线识别方法涵盖时空融合、序列感知、硬件部署和多模态集成。3.5.1节“时空融合”中,双通道编码器同时处理轨迹和形状。3.5.2节“序列感知识别”中,Transformer和Seq2Seq模型捕捉长程依赖。3.5.3节“硬件感知部署”强调量化压缩实现实时推理。3.5.4节“多模态集成”整合HTR与文档级处理。3.5.5节“批判分析与系统级限制”指出数据集和指标标准化缺失,计算成本高。
**3.6 学习范式与适应策略**
学习范式转向跨语言迁移和少样本适应。3.6.1节“监督与数据高效学习”中,数据增强缓解标签稀缺。3.6.2节“迁移学习与预训练”使用高资源拉丁语数据集预训练,但存在拉丁中心偏差。3.6.3节“自监督学习与测试时适应”通过测试时适应处理书写者风格偏移。3.6.4节“少样本与低资源适应”利用模型合并和任务算术。3.6.5节“域适应与跨语言迁移”中,多语言联合训练缓解数据稀疏。3.6.6节“视觉-语言集成”中,序列建模处理在线信号,图像编码器处理离线输入。3.6.7节“批判分析与适应限制”指出数据集不一致和拉丁中心预训练瓶颈。
**3.7 文本修复与增强**
文本修复旨在恢复退化的视觉结构。生成超分辨率模型如Real-ESRGAN可恢复高频细节。多尺度退化感知框架处理墨迹渗透等。HATFormer通过BlockProcessor标准化文本行高度,保留宽高比。ADOCRNet通过几何数据增强稳定识别。表10总结了相关方法。
**3.8 数据创建、数字化与基准测试**
数据创建涵盖结构化采集和历史手稿数字摄影。3.8.1节“数据集创建策略”中,结构化采样适用于活跃书写者,历史手稿需专家标注。3.8.2节“数字化与预处理协议”使用自适应阈值和图像切片。3.8.3节“合成数据生成”虽有用,但无法完全模拟真实退化。3.8.4节“基准测试与评估实践”中,检测任务使用mAP,识别任务使用CER/WER,字符分类使用Top-1 Accuracy,限制了可比性。3.8.5节“低资源数据基础设施挑战”强调统一基础设施的必要性。
**3.9 多模态学习在HTR和OCR中的应用**
多模态学习通过联合优化视觉和语言表征解决单模态系统的局限。3.9.1节“向多模态HTR/OCR系统过渡”展示了从模块化管线到统一视觉-语言框架的转变。3.9.2节“融合策略分类法”区分早期融合、中间融合、后期交互和混合结构融合。3.9.3节“视觉-语言表示学习”从CNN-RNN向Transformer编码器-解码器和视觉-语言模型发展。3.9.4节“语言模型的功能角色”包括增强、解码器集成和对齐驱动。3.9.5节“经验证据与性能约束”显示多模态提升依赖于稳定的跨模态对齐。3.9.6节“批判分析与对察合台的影响”指出语言先验可能压倒视觉证据,导致历史不准确,需视觉接地解码。
**4. 讨论**
证据表明,HTR任务家族向统一序列感知架构发展,修复任务家族由生成超分辨率框架定义。本研究综合的表13比较了不同模型族,CNN仍为稳定基线。多模态对齐在HTR/OCR、文档修复和脚本分类中发挥不同功能。察合台HTR不仅需要模型选择,更需要完整的研究基础设施,包括数字化语料、专家验证转录、标准标注和共享基准。适应方法(迁移学习、少样本学习等)需谨慎使用。最佳路径是分阶段混合范式:先创建语料库和基准,然后测试基线模型,再评估高级架构,最后集成修复和增强。本文提出了一个五阶段研究路线图:第一阶段:手稿库存与写本学数字化;第二阶段:古文字标注与草书转录标准;第三阶段:基于CTC损失的基线CNN和CNN-RNN基准测试;第四阶段:跨语言迁移与正字法漂移适应;第五阶段:开放基准与手稿敏感评估。
**5. 研究限制**
本综述受限于选定的数据库和搜索策略,排除了非英语地区学术(哈萨克语、乌兹别克语、俄语)可能导致出版偏见。时间范围(2020-2026)关注近期进展,忽略了早期贡献。缺乏察合台特定HTR文献导致依赖代理证据。约16%的语料为预印本,引入可变置信度。方法论差异限制了结果直接比较,许多研究使用私有数据集。本研究为系统文献综述和间接证据综合,主要贡献在于绘制研究景观和定义战略方向。
**6. 结论**
本研究系统综述了低资源和历史文字手写文本识别与修复的人工智能方法,聚焦察合台手稿识别未来发展。综述表明从模块化分割依赖管道向统一注意力驱动架构的转变,但CNN和CNN-RNN仍是低资源环境下的稳定基线。多模态系统可提升性能,但依赖可靠的视觉-语言对齐。察合台HTR的主要障碍是缺乏完整研究基础设施,而非专门模型。研究确定了语料库构建和基准设计为最优先事项,后续逐步测试基线模型、高级Transformer、多模态系统和修复方法,为数字化保存中亚知识遗产提供了现实路径。