公开(公告)号：CN111460176A

公开(公告)日：2020-07-28

申请号：CN202010393230.4

申请日：2020-05-11

Applicant: 南京大学

Inventor： 李武军 ,  江悦

IPC: G06F16/383 ,  G06F16/33 ,  G06F40/126 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种基于哈希学习的多文档机器阅读理解方法，可以达到在线多文档阅读理解场景下预测准确率高、内存开销低的效果。该方法训练一个基于哈希学习的多文档阅读理解模型，机器在线预测时首先使用预训练自注意力模型提取问题和文档的文本特征信息，接着计算文档对应的二值矩阵表示，使用动态指针解码器预测各文档的答案及其概率，此外还预测各文档含有正确答案的概率，综合这两种概率对所有答案进行排序，选取最前面的答案输出。多文档动态指针解码器在每篇文档预测答案时考虑了其他文档的语义信息，提高了模型准确度。模型预测时将所有文档的二值矩阵表示存储在内存中，减少了存储开销。

公开(公告)号：CN111460176B

公开(公告)日：2023-11-07

申请号：CN202010393230.4

申请日：2020-05-11

Applicant: 南京大学

Inventor： 李武军 ,  江悦

IPC: G06F16/383 ,  G06F16/33 ,  G06F40/126 ,  G06N3/0442 ,  G06N3/08

Abstract: 本发明公开了一种基于哈希学习的多文档机器阅读理解方法，可以达到在线多文档阅读理解场景下预测准确率高、内存开销低的效果。该方法训练一个基于哈希学习的多文档阅读理解模型，机器在线预测时首先使用预训练自注意力模型提取问题和文档的文本特征信息，接着计算文档对应的二值矩阵表示，使用动态指针解码器预测各文档的答案及其概率，此外还预测各文档含有正确答案的概率，综合这两种概率对所有答案进行排序，选取最前面的答案输出。多文档动态指针解码器在每篇文档预测答案时考虑了其他文档的语义信息，提高了模型准确度。模型预测时将所有文档的二值矩阵表示存储在内存中，减少了存储开销。