公开(公告)号：CN113297841A

公开(公告)日：2021-08-24

申请号：CN202110566113.8

申请日：2021-05-24

Applicant: 哈尔滨工业大学

Inventor： 朱聪慧 ,  赵铁军 ,  刘哲宁 ,  曹海龙 ,  杨沐昀 ,  徐冰

IPC: G06F40/216 ,  G06F40/284 ,  G06F40/58 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种基于预训练双语词向量的神经机器翻译方法，将标注对齐的平行语料进行“源语言‑目标语言”拼接作为XLM模型的输入进行预训练；训练：取预训练得到的双语词向量矩阵初始化翻译模型；将源语言输入编码器，将源语言编码的向量表示及对应目标语言输入解码器输出预测序列，将其与相应的目标序列进行对比并计算损失值，输入优化器对翻译模型参数进行优化；预测：在某个时间步里，将源语言输入优化的编码器，编码器输出相应向量表示，将该向量表示以及上一时间步翻译的目标语言词输入解码器，解码器输出该时间步的目标词，将不同时间步翻译的目标词按时间顺序进行拼接，得到源语言翻译的结果。该方法提高了低资源语种的机器翻译效果。