公开(公告)号：CN111783418B

公开(公告)日：2024-04-05

申请号：CN202010517766.2

申请日：2020-06-09

Applicant: 北京北大软件工程股份有限公司

Inventor： 张世琨 ,  张通 ,  叶蔚 ,  张君福 ,  赵文 ,  胡文蕙

IPC: G06F40/205 ,  G06F40/247 ,  G06F40/30

Abstract: 本发明涉及一种中文词义表示学习方法及装置，包括获取训练语料，生成全局上下文矩阵；对HowNet知识库进行解析，生成词义‑词相似度矩阵；根据所述全局上下文矩阵和词义‑词相似度矩阵，计算生成全局词义上下文向量；对所述全局词义上下文向量进行词义软消歧；采用基于注意力拓展的跳字模型对词义软消歧后的词义向量进行训练，输出词义向量。本发明通过提出的上下文软消歧机制，能够捕捉词的真正词义，提高深度学习模型在下游任务的效果。

公开(公告)号：CN111783418A

公开(公告)日：2020-10-16

申请号：CN202010517766.2

申请日：2020-06-09

Applicant: 北京北大软件工程股份有限公司

Inventor： 张世琨 ,  张通 ,  叶蔚 ,  张君福 ,  赵文 ,  胡文蕙

IPC: G06F40/205 ,  G06F40/247 ,  G06F40/30

Abstract: 本发明涉及一种中文词义表示学习方法及装置，包括获取训练语料，生成全局上下文矩阵；对HowNet知识库进行解析，生成词义-词相似度矩阵；根据所述全局上下文矩阵和词义-词相似度矩阵，计算生成全局词义上下文向量；对所述全局词义上下文向量进行词义软消歧；采用基于注意力拓展的跳字模型对词义软消歧后的词义向量进行训练，输出词义向量。本发明通过提出的上下文软消歧机制，能够捕捉词的真正词义，提高深度学习模型在下游任务的效果。