一种基于注意力机制的片段抽取式机器阅读理解方法

    公开(公告)号:CN116451699A

    公开(公告)日:2023-07-18

    申请号:CN202210007197.6

    申请日:2022-01-05

    Inventor: 梁燕 张文普

    Abstract: 本发明涉及一种基于注意力机制的片段抽取式机器阅读理解方法,对给定的文档和问题用词嵌入、字符嵌入和ELMO嵌入编码成特征向量后,为了过滤掉那些与问题相关度低的冗余信息,计算文档和问题词的相似度,调整文档和问题的相关权重,将带有权重信息的文档和问题特征向量使用双向循环神经网络获取更深层的上下文信息;通过交互注意力机制融合问题和文档的信息,突出关键信息的权重;通过自注意力机制学习序列内部词与词之间的依赖关系,获取自身序列中的关键信息;为了融合获得的各注意力向量信息,使用双向的神经网络对向量进行建模;最后,对答案的起止位置进行预测。通过实验证明,本发明可以有效地提高答案预测的准确率,进而说明了本发明的有效性和创新性。

Patent Agency Ranking