-
公开(公告)号:CN118132764A
公开(公告)日:2024-06-04
申请号:CN202410332412.9
申请日:2024-03-22
Applicant: 东北大学
IPC: G06F16/36 , G06F16/35 , G06F40/126 , G06N3/042 , G06N3/0464 , G06N3/0455 , G06N3/08 , G06N5/022
Abstract: 本发明设计一种基于图卷积网络和知识蒸馏的常识知识图谱补全方法,属于常识知识图谱补全领域;通过设计一种基于图卷积网络和知识蒸馏的常识知识图谱补全模型实现,所述模型具体为Teacher‑Student框架,分为老师模型和学生模型;其中针对教师模型设计并行模型结构,在不添加相似边的情况下输出更好的结果;对于学生模型,通过知识蒸馏将教师模型中的知识提取到学生模型中,并使用学生模型来优化教师模型的结果;使模型泛化效果更好,最终也得到了更优的指标。
-
公开(公告)号:CN118332111A
公开(公告)日:2024-07-12
申请号:CN202410354895.2
申请日:2024-03-27
Applicant: 东北大学
IPC: G06F16/35 , G06F16/33 , G06F18/25 , G06F18/24 , G06F40/279 , G06N3/0455 , G06N3/048 , G06N3/084
Abstract: 本发明设计一种距离感知和多步推理的文档级关系抽取方法;首先将文档输入基于Transformer的预训练语言模型,得到编码后的文本序列向量;利用注意力机制寻找文档中能够帮助关系抽取模型确定实体对关系的上下文信息向量;利用带有距离信息的提及聚合模块,将提及之间的距离信息融入注意力机制中,并为实体的各个提及计算出聚合权重,最后将提及的向量特征聚合为实体对向量特征;利用多步推理模块构建实体对图将实体对特征作为节点特征,利用图注意力神经网络让实体对能够感知并聚合其它实体对的特征信息以更新自身的特征,达到多步推理的效果,最后将图神经网络得到的节点特征和节点对应的实体特征融合,得到新的实体对特征;最后计算关系抽取的损失。
-
公开(公告)号:CN119808929A
公开(公告)日:2025-04-11
申请号:CN202510292957.6
申请日:2025-03-13
Applicant: 东北大学
Abstract: 本发明提供一种基于拓扑关系的空间知识图谱补全方法,涉及空间知识图谱技术领域,本方法通过计算空间实体之间的拓扑关系;将拓扑关系构建为拓扑关系知识图谱;以关系预测任务作为空间实体嵌入学习的下游任务,学习空间实体的拓扑关系嵌入,构建拓扑关系预测模型;使用拓扑关系知识图谱训练拓扑关系预测模型,并对拓扑关系预测模型进行训练;构建空间知识图谱补全模型,融合空间实体的拓扑关系嵌入和空间知识图谱结构嵌入;对空间知识图谱补全模型进行训练;在空间知识图谱中训练补全模型,通过计算三元组的置信度,取置信度最高的三元组作为补充知识。
-
公开(公告)号:CN118153679A
公开(公告)日:2024-06-07
申请号:CN202410326798.2
申请日:2024-03-21
Applicant: 东北大学
IPC: G06N5/022 , G06N3/042 , G06N3/0499 , G06N3/0895 , G06N3/084
Abstract: 本发明设计一种基于多跳注意力机制的半监督实体对齐方法,首先对知识图谱数据进行预处理,并划分得到训练集和测试集;对经处理的知识图谱数据中的实体名和关系信息进行特征提取并构建特征向量;构造实体对齐模型,模型输入为特征向量,输出经过训练优化的实体向量,使得具有相同含义的实体表示在向量空间中距离更接近,即通过空间距离计算得到对齐的实体;本发明采用了注意力扩散机制的多跳注意力网络,能捕获多跳邻居节点的信息,使得实体对齐模型能够聚焦于对当前任务最重要的信息;对于标签数据的依赖问题,采用延迟接受算法和基于频次的采样方式将伪对齐对标记为训练数据,以半监督的方式训练得到一个端到端的实体对齐模型。
-
-
-