-
公开(公告)号:CN118332111A
公开(公告)日:2024-07-12
申请号:CN202410354895.2
申请日:2024-03-27
Applicant: 东北大学
IPC: G06F16/35 , G06F16/33 , G06F18/25 , G06F18/24 , G06F40/279 , G06N3/0455 , G06N3/048 , G06N3/084
Abstract: 本发明设计一种距离感知和多步推理的文档级关系抽取方法;首先将文档输入基于Transformer的预训练语言模型,得到编码后的文本序列向量;利用注意力机制寻找文档中能够帮助关系抽取模型确定实体对关系的上下文信息向量;利用带有距离信息的提及聚合模块,将提及之间的距离信息融入注意力机制中,并为实体的各个提及计算出聚合权重,最后将提及的向量特征聚合为实体对向量特征;利用多步推理模块构建实体对图将实体对特征作为节点特征,利用图注意力神经网络让实体对能够感知并聚合其它实体对的特征信息以更新自身的特征,达到多步推理的效果,最后将图神经网络得到的节点特征和节点对应的实体特征融合,得到新的实体对特征;最后计算关系抽取的损失。