-
公开(公告)号：CN112800190B
公开(公告)日：2022-06-10
申请号：CN202011249692.5
申请日：2020-11-11
Applicant: 重庆邮电大学
IPC: G06F16/332 , G06F16/35 , G06F40/211 , G06F40/279 , G06K9/62 , G06N3/04 , G06N3/08
Abstract: 本发明涉及智能问答技术领域，具体涉及一种基于Bert模型的意图识别与槽值填充联合预测方法，该方法包括：输入目标文本，得到目标文本的词向量、段向量和位置向量，将词向量、段向量和位置向量拼接作为Bert模型的输入向量，输入训练好的Bert模型中，训练好的Bert模型输出意图表示向量和槽值序列表示向量，将意图表示向量和槽值序列表示向量在Gate层通过权重计算，计算出联合作用因子，将联合作用因子作用于槽值序列表示向量，最终输出预测的意图分类和槽值序列。本发明在Bert层上使用Gate机制，充分利用意图识别和槽值填充的内在联系，降低任务错误预测率。
-
公开(公告)号：CN112328767B
公开(公告)日：2022-10-14
申请号：CN202011255769.X
申请日：2020-11-11
Applicant: 重庆邮电大学
IPC: G06F16/332 , G06F16/33 , G06F40/211 , G06F40/289 , G06K9/62 , G06N3/04 , G06N3/08
Abstract: 本发明属于自然语言处理技术与自动问答系统领域，具体涉及一种基于BERT模型和比较聚合框架的问答匹配方法，该方法包括：实时获取数据，对数据进行预处理；将预处理后的数据输入到训练好的比较聚合问答匹配模型中，得到问题与答案的匹配得分，根据得分输出最佳答案；所述比较聚合问答匹配模型包括BERT模型、Transformer编码器以及比较聚合框架；本发明利用BERT模型获得上下文相关的词嵌入，解决了以往方法中问题句与答案句交互不充分的问题。再单独使用Transformer模型的编码器进一步对用于比较的词向量进行注意力权重分配，使得比较层能够充分探究问题序列和答案序列间复杂的语义匹配关系。
-
公开(公告)号：CN112800190A
公开(公告)日：2021-05-14
申请号：CN202011249692.5
申请日：2020-11-11
Applicant: 重庆邮电大学
IPC: G06F16/332 , G06F16/35 , G06F40/211 , G06F40/279 , G06K9/62 , G06N3/04 , G06N3/08
Abstract: 本发明涉及智能问答技术领域，具体涉及一种基于Bert模型的意图识别与槽值填充联合预测方法，该方法包括：输入目标文本，得到目标文本的词向量、段向量和位置向量，将词向量、段向量和位置向量拼接作为Bert模型的输入向量，输入训练好的Bert模型中，训练好的Bert模型输出意图表示向量和槽值序列表示向量，将意图表示向量和槽值序列表示向量在Gate层通过权重计算，计算出联合作用因子，将联合作用因子作用于槽值序列表示向量，最终输出预测的意图分类和槽值序列。本发明在Bert层上使用Gate机制，充分利用意图识别和槽值填充的内在联系，降低任务错误预测率。
-
公开(公告)号：CN112328767A
公开(公告)日：2021-02-05
申请号：CN202011255769.X
申请日：2020-11-11
Applicant: 重庆邮电大学
IPC: G06F16/332 , G06F16/33 , G06F40/211 , G06F40/289 , G06K9/62 , G06N3/04 , G06N3/08
Abstract: 本发明属于自然语言处理技术与自动问答系统领域，具体涉及一种基于BERT模型和比较聚合框架的问答匹配方法，该方法包括：实时获取数据，对数据进行预处理；将预处理后的数据输入到训练好的比较聚合问答匹配模型中，得到问题与答案的匹配得分，根据得分输出最佳答案；所述比较聚合问答匹配模型包括BERT模型、Transformer编码器以及比较聚合框架；本发明利用BERT模型获得上下文相关的词嵌入，解决了以往方法中问题句与答案句交互不充分的问题。再单独使用Transformer模型的编码器进一步对用于比较的词向量进行注意力权重分配，使得比较层能够充分探究问题序列和答案序列间复杂的语义匹配关系。
-
-
-
Search Results
4
records
(took 0.02 seconds)
