用于机器翻译的几何集合方法

《IEEE Transactions on Big Data》：Geometric Ensembles for Machine Translation

　　

摘要：

摘要——我们提出了几何集成方法，这是一种用于集成神经机器翻译系统的框架，它完全在输出空间中运行：给定多个候选翻译结果（无需访问模型权重），我们利用离散的（组合）度量几何学来选择最优的整合假设。由此产生的集成模型属于黑盒结构，可并行处理，在我们测试的所有规模下都能在普通CPU上运行。与需要40 GiB内存的常规集成模型相比，它所需内存仅为其两到三个数量级，N 的数值为25。在四个机器翻译测试基准中，该框架的表现与常规集成模型相当甚至更优，而且这种几何视角还能为常规神经机器翻译集成模型的行为提供可解释的解释：在绝大多数测试案例中，它的输出结果是所有候选翻译结果的几何中心。