AAAI 2021 | 机器翻译最新进展解读

作者：李北，王子扬，肖桐

单位：东北大学

机器翻译一直是自然语言处理领域中备受关注的研究方向，从最早期基于规则的机器翻译到如今依托于神经网络端到端的学习语言之间的映射。

目前基于自注意力机制的Transformer模型成为了机器翻译任务的主流模型，在多个公开测试集上取得了最优的翻译性能。研究人员在此基础上根据不同的应用场景及实际需求进行求解，涌现了大量优秀的研究工作。一些技术不仅仅局限于机器翻译任务本身，同样被应用于语言建模，对话，问答，文本摘要等任务，甚至受到了图像、语音领域的广泛关注。

在 AAAI2021 上同样涌现了许多关于机器翻译任务的研究工作，几乎所有的工作都是基于Transformer模型展开讨论。这里对机器翻译在AAAI2021上的最新研究进展进行总结：

1. 引入语法信息

尽管依托于模型本身本文就能从海量数据中捕获到语言之间的映射关系，但研究人员一直在探索如何将句法、语义等先验知识有效地融入到模型中，并指导模型取得进一步的性能突破。传统的做法通常使用外部工具从训练样本中构造句法树等先验知识，之后在编码端、解码端分别融入先验知识。SyntAligner[1]采取一种自监督双语句法对齐方法，让模型在高维空间中对源语-目标语的句法结构进行精确对齐，从而最大限度地利用对齐后的句法结构之间的互信息提高翻译的性能。

2. 无监督机器翻译

无监督机器翻译同样是机器翻译中备受关注的研究热点。在现实世界中，除了部分富资源语言（如英语，汉语，德语，俄语，印地语等），更多的语言本身受众较小，缺乏海量的双语平行语料进行监督学习。因此，如何在这种资源匮乏，甚至零资源