公开(公告)号：CN116227506B

公开(公告)日：2023-07-21

申请号：CN202310506400.9

申请日：2023-05-08

Applicant: 湘江实验室

Inventor： 李芳芳 ,  陈晓红 ,  吴炜 ,  毛星亮 ,  崔玉峰 ,  钟善美

IPC: G06F40/58 ,  G06N3/0455 ,  G06N3/08

Abstract: 本申请涉及一种具有高效非线性注意力结构的机器翻译方法，该方法包括：获取翻译语料，并基于翻译语料构建词表，词表将源语言句子转换为数字索引；将目标端输入转换为第二数字索引；搭建翻译模型，翻译模型包括嵌入层、编码器、解码器以及反向嵌入层；嵌入层输出源端输入向量、目标端输入向量；编码器基于源端输入向量输出上下文向量；训练解码器；训练后的解码器基于上下文向量得到目标语言词语向量。在解码过程中筛选出与候选上文中词语预测概率总和最大的目标语言词语向量串，得到目标语言句子向量；目标语言句子向量经过反向嵌入层输出源语言句子对应的目标语言句子。该方法避免了多头运算带来的计算时间开销。

公开(公告)号：CN116227506A

公开(公告)日：2023-06-06

申请号：CN202310506400.9

申请日：2023-05-08

Applicant: 湘江实验室

Inventor： 李芳芳 ,  陈晓红 ,  吴炜 ,  毛星亮 ,  崔玉峰 ,  钟善美

IPC: G06F40/58 ,  G06N3/0455 ,  G06N3/08

Abstract: 本申请涉及一种具有高效非线性注意力结构的机器翻译方法，该方法包括：获取翻译语料，并基于翻译语料构建词表，词表将源语言句子转换为数字索引；将目标端输入转换为第二数字索引；搭建翻译模型，翻译模型包括嵌入层、编码器、解码器以及反向嵌入层；嵌入层输出源端输入向量、目标端输入向量；编码器基于源端输入向量输出上下文向量；训练编码器；训练后的解码器基于上下文向量得到目标语言词语向量。在解码过程中筛选出与候选上文中词语预测概率总和最大的目标语言词语向量串，得到目标语言句子向量；目标语言句子向量经过反向嵌入层输出源语言句子对应的目标语言句子。该方法避免了多头运算带来的计算时间开销。