公开(公告)号：CN119089992A

公开(公告)日：2024-12-06

申请号：CN202411113918.7

申请日：2024-08-14

Applicant: 福州大学

Inventor： 汪璟玢 ,  黄皓 ,  张思锐

IPC: G06N5/022 ,  G06F16/36 ,  G06F18/25 ,  G06N3/0455 ,  G06N5/04 ,  G06F40/30

Abstract: 本发明提出基于模态层次融合的多模态知识图谱补全方法，使用多模态知识图谱补全模型MHF来引入视觉特征和文本特征，模型包括：独立学习层：从多个模态分割的数据集的知识图谱独立学习结构嵌入#imgabs0#、视觉嵌入#imgabs1#、文本嵌入#imgabs2#，同时采用缩放因子调整外部特征的规模；模态融合层：将结构特征分别与视觉特征和文本特征融合，得到两种融合嵌入，纳入最终的损失计算；语义约束层：通过因子交互正则化器对前述五种嵌入进一步处理，处理过程产生的额外的五个正则化损失项，计算在最终损失中；本发明通过整合结构数据与外部数据，从而更合理地应用视觉数据和文本数据，有效地提高了模型的表达能力，为知识图谱中实体的全面性和准确性表示提供了新的思路。