通用结合记忆存储和神经网络的多轮对话管理方法及装置

    公开(公告)号:CN111414460B

    公开(公告)日:2024-01-19

    申请号:CN201910108740.X

    申请日:2019-02-03

    Abstract: 本发明公开了一种通用结合记忆存储和神经网络的多轮对话管理方法及装置,其中,方法包括:接收用户请求,并根据用户请求解析输入信息;获取用户的当前对话状态,并根据当前对话状态和历史对话状态更新对话理解数据;根据对话理解数据通过神经网络模型预测对话动作;获取查询动作,并将查询动作和对话动作的置信度进行比较,以取置信度高的动作作为机器响应动作。该方法通过对话管理结合记忆存储和深度学习,提高系统稳定性,对话管理模型可通过深度强化学习改进,提高模型准确度,对话管理通用且模型可灵活扩展更换,从而可以有效提高对话管理的准确度和稳定性,并使对话管理具有模型兼容性,具有更好的通用性。

    高阶邻域混合的网络表示学习方法及装置

    公开(公告)号:CN110991483A

    公开(公告)日:2020-04-10

    申请号:CN201911060508.X

    申请日:2019-11-01

    Abstract: 本发明公开了一种高阶邻域混合的网络表示学习方法及装置,在原始图卷积层的基础上加入自注意力机制和级联聚集层,其中,方法包括以下步骤:运用自注意力机制将图的拉普拉斯矩阵变换成节点对图注意力矩阵,且训练权重参数学习不同的注意力系数;通过级联聚集层汇聚不同距离信息流,并将上一阶的输出用作下一阶的输入,以控制计算复杂度;确定嵌入向量输出到下游机器学习任务,或者输出分类结果。该方法可以实现真正意义上的端到端训练,有效地提高模型的训练速度,且提出的网络高低阶信息混合学习的思想具有领域可扩展性,简单易实现。

    远程监督关系抽取方法及装置

    公开(公告)号:CN110209836B

    公开(公告)日:2022-04-26

    申请号:CN201910411697.4

    申请日:2019-05-17

    Abstract: 本发明公开了一种远程监督关系抽取方法及装置,其中,方法包括以下步骤:通过bootstrapping算法生成实体识别训练数据集,通过crf++工具对句子的实体进行识别;通过远程监督方法生成实体关系抽取训练数据集,通过关系知识库和自然语言语料生成实体关系抽取数据集;通过基于循环分段卷积神经网络和sentence embedding模块对句子的实体进行实体关系抽取。该方法可以通过自然语料自动标注训练数据,完成实体识别以及实体关系抽取。

    完全并行化具有领域扩展性的端到端多轮对话系统及方法

    公开(公告)号:CN110196928B

    公开(公告)日:2021-03-30

    申请号:CN201910411706.X

    申请日:2019-05-17

    Abstract: 本发明公开了一种完全并行化具有领域扩展性的端到端多轮对话系统及方法,其中,系统包括:输入嵌入层,用于在用户输入信息输入至输入嵌入层后,生成向量表示形式的输入信息;编码器,用于对输入信息进行编码,得到用户输入的抽象表示;对话状态解码器,用于根据抽象表示得到对话状态表示;数据库,用于根据对话状态表示查询得到查询结果;机器响应解码器,用于在查询结果和对话状态共同输入至机器响应解码器后,生成机器回答。该系统实现了各模块之间的一体化,可以实现真正意义上的端到端训练,且在提升了模型的训练速度的同时简化了模型的结构,并具有领域可扩展性,简单易实现。

    双向的意图槽值交叉相关的任务型对话理解系统及方法

    公开(公告)号:CN109858030A

    公开(公告)日:2019-06-07

    申请号:CN201910110030.0

    申请日:2019-02-11

    Abstract: 本发明公开了一种双向的意图槽值交叉相关的任务型对话理解系统及方法,其中,系统包括:文本输入模块、词向量模块、对话语义理解编码器模块、对话语义理解译码器模块、SF-ID网络模块、Softmax分类模块和对话理解信息模块,其中,对话语义理解编码器模块用于语义解析,对话语义理解译码器模块用于提取意图和槽值的特征向量;SF-ID网络模块用于通过意图和槽值相互作用的机制对特征向量进行深层特征的提取;Softmax分类模块用于获取意图识别和槽值填充的初步结果;对话理解信息模块用于输出意图识别和槽值提取的输出结果。该系统可以使得自然语义理解的性能得到了大幅度的提升,简单易实现。

    通用可配置、兼容多模型、领域可迁移的多轮对话系统

    公开(公告)号:CN111414195B

    公开(公告)日:2022-03-25

    申请号:CN201910108762.6

    申请日:2019-02-03

    Abstract: 本发明公开了一种通用可配置、兼容多模型、领域可迁移的多轮对话系统,包括:可配置模块用于根据当前所在领域的专业知识进行自定义的配置;对话理解模块用于通过对话理解对用户语句进行语义编码,并且通过替换兼容的对话理解模型进行意图识别和槽值对的联合提取;对话状态跟踪模块用于获取当前多轮历史的对话状态信息;策略学习模块,用于通过对话策略模型进行动作决策;对话生成模块用于根据相应的动作进行对话生成;在线训练模块用于作为用户模拟器提供给开发人员,并进行模型的在线迭代更新和生成可用的数据。该系统整体架构模块通用,适应不同应用场景,各字段参数通用可配置,可随意接受语料,对话理解、对话策略模型可灵活扩展更换。

    自定义的数据库交互的对话生成方法及系统

    公开(公告)号:CN110096516B

    公开(公告)日:2022-01-28

    申请号:CN201910225496.5

    申请日:2019-03-25

    Abstract: 本发明公开了一种自定义的数据库交互的对话生成方法及系统,方法包括:获取上一对话轮次的动作,若动作为接收操作动作,接收用户输入文本,通过自然语言理解模块提取用户输入文本的意图和实体来更新对话状态生成当前对话信息;将更新的对话状态转换为二进制的向量,并同步更新到历史对话信息中,根据当前对话信息和历史对话信息生成执行动作;若执行动作不为接收操作动作,判断执行动作是否需要对数据库进行检索;如果需要,将用户期望作为检索条件对数据库进行检索,将检索结果融合预设模板生成对用户的回复动作;如果不需要,则直接从预定义的模板中任选一个生成对用户的回复动作。该方法用户对数据库查询结果进行自主选择,提升了用户体验。

    双向的意图槽值交叉相关的任务型对话理解系统及方法

    公开(公告)号:CN109858030B

    公开(公告)日:2020-11-06

    申请号:CN201910110030.0

    申请日:2019-02-11

    Abstract: 本发明公开了一种双向的意图槽值交叉相关的任务型对话理解系统及方法,其中,系统包括:文本输入模块、词向量模块、对话语义理解编码器模块、对话语义理解译码器模块、SF‑ID网络模块、Softmax分类模块和对话理解信息模块,其中,对话语义理解编码器模块用于语义解析,对话语义理解译码器模块用于提取意图和槽值的特征向量;SF‑ID网络模块用于通过意图和槽值相互作用的机制对特征向量进行深层特征的提取;Softmax分类模块用于获取意图识别和槽值填充的初步结果;对话理解信息模块用于输出意图识别和槽值提取的输出结果。该系统可以使得自然语义理解的性能得到了大幅度的提升,简单易实现。

    基于翻译模型的协同迭代联合实体对齐方法及装置

    公开(公告)号:CN110188206A

    公开(公告)日:2019-08-30

    申请号:CN201910380017.7

    申请日:2019-05-08

    Abstract: 本发明公开了一种基于翻译模型的协同迭代联合实体对齐方法及装置,该方法包括:通过数据预处理模块处理多个知识图谱,统计多个知识图谱中的实体、关系、属性、属性值、关系三元组和属性三元组各个数据,根据预设的频率选择方法生成实体对齐种子集;通过关系三元组联合嵌入模块生成关系三元组联合嵌入空间;通过属性三元组联合嵌入模块生成属性三元组联合嵌入空间;通过协同迭代训练模块选取语义距离最小的一对实体组成实体对,将满足预设距离阈值的实体对添加到实体对齐种子集对实体对齐种子集进行更新;迭代直至不存在满足预设距离阈值的实体对。该方法可以解决多个知识图谱共同融合的问题和结构异质的知识图谱、跨语言知识图谱实体对齐问题。

    基于用户交互的多轮对话在线训练方法及系统

    公开(公告)号:CN110059170A

    公开(公告)日:2019-07-26

    申请号:CN201910218450.0

    申请日:2019-03-21

    Abstract: 本发明公开了一种基于用户交互的多轮对话在线训练方法及系统,其中,该方法包括:获取当前对话轮次,并判断对话轮次是否大于预设阈值;若对话轮次大于预设阈值,则获取当前动作;若当前动作为接收操作动作时,则通过自然语言理解模块对当前动作进行意图和实体识别;若意图和实体的识别结果任一存在错误,则接收用户定义正确的意图和实体;根据用户定义正确的意图和实体对自然语言理解模块进行实时在线训练。该方法通过与用户在线交互,实时对模块进行训练,解决任务型多轮对话系统中文对话数据集匮乏且质量不高的问题,可适用于不同的对话场景。

Patent Agency Ranking