基于多视角注意力机制的深度文本排序方法

    公开(公告)号:CN112115253B

    公开(公告)日:2023-02-03

    申请号:CN202010824405.2

    申请日:2020-08-17

    Abstract: 本发明涉及一种基于多视角注意力机制的深度文本排序架构,其中,包括:输入层,用于输入网络模型中的数据;编码层使用双向长短期记忆网络分别编码查询和文本中单词的上下文特征,在双向长短期记忆网络中包括前向LSTM和后向LSTM;内部交互层,用来建模文本中不同单词的重要程度,对重要程度不同的单词给予不同的权重,采用自注意力机制建模查询与文本各自内部的重要语义信息;外部交互层,用来建模查询与文本之间的交互相关性,采用双向注意力机制来捕获查询与文本交互过程中的匹配模式;输出层,将外部交互层的输出作为输入,输出查询与文本的相关性分数作为排序依据。

    基于协同关系的知识图谱上下文嵌入方法

    公开(公告)号:CN112836511A

    公开(公告)日:2021-05-25

    申请号:CN202110109242.4

    申请日:2021-01-27

    Abstract: 本发明涉及一种基于协同关系的知识图谱上下文嵌入方法,属于自然语言处理技术领域。本发明通过挖掘实体间的协同关系,将显性关系和隐性关系结合起来。在每个单独的三元组中,显式关系表示头实体和尾实体之间的已知关系,而隐式关系表示在KG中没有给出的两个实体之间的隐式交互。更具体地说,CKGE扩展了现有的KGE模型,探索了隐含实体交互中包含的潜在关系。通过传递实体的邻域信息来计算潜在关系的表示。潜在关系的包含导致学习关系表示在不同的实体上下文中变化,甚至当图包含循环关系时也是如此。这个方法的提出能够改善关系和实体的表示性能。

Patent Agency Ranking