-
公开(公告)号：CN111611347A
公开(公告)日：2020-09-01
申请号：CN202010443243.8
申请日：2020-05-22
Applicant: 上海乐言信息科技有限公司 , 南京大学
IPC: G06F16/33 , G06F16/332 , G06F40/284
Abstract: 本发明公开了一种任务型对话系统的对话状态跟踪、训练方法及系统，提高了多领域复杂场景中的对话状态跟踪准确率。其技术方案为：对话历史进行预处理，获得以词为单位的对话历史文本的向量化表示；对向量化的对话历史文本，使用双向长短期记忆网络作为编码器进行编码；初始化解码器，解码出目标槽位信息；关注对话历史中的目标槽位信息，通过注意力机制计算对话历史中每个词对于目标槽位的重要程度；判断输入的对话历史中是否提及目标槽位，若提及目标槽位则进行下一步的处理，否则方法结束；从对话历史的向量化表示、对话历史的原始输入以及历史对话状态中分别寻找目标槽位取值，最后据此得到目标槽位的最终取值。
-
公开(公告)号：CN113961698B
公开(公告)日：2025-03-18
申请号：CN202010681562.2
申请日：2020-07-15
Applicant: 上海乐言信息科技有限公司 , 上海科技大学
IPC: G06F16/35 , G06F16/334 , G06F18/241 , G06N3/044 , G06N3/08
Abstract: 本发明公开了一种基于神经网络模型的意图分类方法，包括：获取意图分类任务数据；针对意图分类数据集撰写正则表达式规则以及对应的逻辑甄选操作；将正则表达式转换为有限状态自动机；将有限状态自动机转换为三维张量；利用张量分解方法分解三维张量，得到三个矩阵初始化TFRNN的参数；初始化逻辑甄选层的参数，将逻辑甄选层和TFRNN构成意图分类模型；将意图分类任务数据输入意图分类模型进行训练，输出意图分类结果。该方法将正则表达式转化为其对应的循环神经网络形式，将这个神经网络正确地初始化，使得在未训练的时候运行神经网络等价于直接运行正则表达式。循环神经网络经过训练后具备非常强的可解释性。
-
公开(公告)号：CN113961664A
公开(公告)日：2022-01-21
申请号：CN202010680740.X
申请日：2020-07-15
Applicant: 上海乐言信息科技有限公司 , 上海科技大学
IPC: G06F16/33 , G06F16/35 , G06F40/289 , G06K9/62
Abstract: 本发明公开了基于深度学习的数值词处理系统，包括：原型词确定模块从语料中找到具有代表性的原型词集合；训练模块包括判断单元、差值单元和数值词训练单元；判断单元判断原型词集合中的词是否为数值词；差值单元用于从原型词集合中采用差值方法来表示任意数值词的词向量；所述数值词训练单元将该数值词利用原型词集合以及插值函数进行插值，得到数值词表示；将得到的数值词表示输入SkipGram训练模块进行训练，训练得到原型数值词词向量。通过在语料中找到具有代表性的原型词集合，利用差值方法从有限的原型词表示任意的数值词，将数值词输入SkipGram训练模块训练，输出高质量的原型数值词词向量。
-
公开(公告)号：CN109933661B
公开(公告)日：2020-12-18
申请号：CN201910266295.X
申请日：2019-04-03
Applicant: 上海乐言信息科技有限公司
IPC: G06F16/332
Abstract: 本发明公开了一种基于深度生成模型的半监督问答对归纳方法和系统，该方法包括以下步骤：通过候选问答对生成方法从输入的对话数据中整理出候选问答对；通过采用基于深度生成模型的问答对评价方法对所述候选问答对打分；根据所述候选问答对打分结果利用问答对筛选方法得到高质量问答对；通过半监督学习方式对所述深度生成模型进行预先训练后再应用到所述问答对评价方法中。通过以上方式能够进行自动化的问答对归纳，极大减少了人工参与并获取高质量的问答对。
-
公开(公告)号：CN111914061A
公开(公告)日：2020-11-10
申请号：CN202010669244.4
申请日：2020-07-13
Applicant: 上海乐言信息科技有限公司
Abstract: 本发明公开了一种文本分类主动学习的基于半径的不确定度采样方法和系统，应用于多类别短文本，优化减弱场景中噪声对结果的不良影响，并且方法的普适性较高，能够适用于任何存在隐藏层的深度模型。其技术方案为：通过文本分类器对每个标注数据的数据点的信息熵进行评分，并给出该标注数据的预测类别；文本分类器对未标注数据给出对应的预测类别；分别计算每个预测类别的半径；将标注数据的信息熵评分、标注数据的预测类别、未标注数据的预测类别的半径组合在一起，得到综合评分。
-
Patent Agency Ranking
公开(公告)号：CN109086268A
公开(公告)日：2018-12-25
申请号：CN201810770956.8
申请日：2018-07-13
Applicant: 上海乐言信息科技有限公司
Abstract: 本发明公开了一众基于迁移学习的领域文法学习系统和方法，将学习到的通用文法在多个子领域之间迁移，增强在多个子领域中对用户自言语言理解模型的性能。其技术方案为：用户查询模块，为系统提供输入，包括来自不同领域的用户查询语句和领域相关的词典；领域聚类转化模块，将多个领域相关的用户查询转化为领域无关或弱相关的查询，提取出公共部分，从而用来训练领域无关或弱相关的通用的文法模型用来共享通用的文法知识；文法模型模块，通过共享领域无关的文法知识，利用多领域的数据缓解切入新领域时由于标注数据少导致的模型性能不好的问题，并通过学习领域无关的文法模型，使得在一个领域学习到的模型更好的迁移到新的领域。
-
公开(公告)号：CN111914062A
公开(公告)日：2020-11-10
申请号：CN202010670132.0
申请日：2020-07-13
Applicant: 上海乐言信息科技有限公司
IPC: G06F16/33 , G06F16/332 , G06F16/35 , G06F40/289 , G06K9/62 , G06N3/04 , G06N3/08
Abstract: 本发明公开了基于关键词的长文本问答对生成系统，实现根据文本及关键词生成与关键词相关且有意义的问答对。其技术方案为：系统包括生成模块和评估模块，生成模块针对段落及关键词生成与关键词相关的问答对，评估模块通过自动评估方式评价问答对质量。生成模块基于三阶段生成模型生成问答对：依次串联的段落检索单元、答案范围提取单元以及问题生成单元。其中段落检索单元用于基于信息检索模型，根据关键词从文本中检索出候选问答对在长文本中所处的候选段落；答案范围提取单元用于从候选段落中提取出可能存在的答案范围；问题生成单元根据候选段落和答案范围中的其中一个答案，生成问题并和答案组成与关键词相关的问答对。
-
公开(公告)号：CN109933661A
公开(公告)日：2019-06-25
申请号：CN201910266295.X
申请日：2019-04-03
Applicant: 上海乐言信息科技有限公司
IPC: G06F16/332
Abstract: 本发明公开了一种基于深度生成模型的半监督问答对归纳方法和系统，该方法包括以下步骤：通过候选问答对生成方法从输入的对话数据中整理出候选问答对；通过采用基于深度生成模型的问答对评价方法对所述候选问答对打分；根据所述候选问答对打分结果利用问答对筛选方法得到高质量问答对；通过半监督学习方式对所述深度生成模型进行预先训练后再应用到所述问答对评价方法中。通过以上方式能够进行自动化的问答对归纳，极大减少了人工参与并获取高质量的问答对。
-
公开(公告)号：CN113961698A
公开(公告)日：2022-01-21
申请号：CN202010681562.2
申请日：2020-07-15
Applicant: 上海乐言信息科技有限公司 , 上海科技大学
Abstract: 本发明公开了一种基于神经网络模型的意图分类方法，包括：获取意图分类任务数据；针对意图分类数据集撰写正则表达式规则以及对应的逻辑甄选操作；将正则表达式转换为有限状态自动机；将有限状态自动机转换为三维张量；利用张量分解方法分解三维张量，得到三个矩阵初始化TFRNN的参数；初始化逻辑甄选层的参数，将逻辑甄选层和TFRNN构成意图分类模型；将意图分类任务数据输入意图分类模型进行训练，输出意图分类结果。该方法将正则表达式转化为其对应的循环神经网络形式，将这个神经网络正确地初始化，使得在未训练的时候运行神经网络等价于直接运行正则表达式。循环神经网络经过训练后具备非常强的可解释性。
-
公开(公告)号：CN111581470A
公开(公告)日：2020-08-25
申请号：CN202010415082.1
申请日：2020-05-15
Applicant: 上海乐言信息科技有限公司
IPC: G06F16/906 , G06K9/62 , G06N3/04 , G06N3/08
Abstract: 本发明公开了一种用于对话系统情景匹配的多模态融合学习分析方法和系统，能够提高场景匹配率，提升用户体验，更加智能理解用户需求。其技术方案为：本发明处理和理解多源模态信息，分别对图像信息、音频信息和文本信息进行特征抽取得到各自特征的向量化表达，再将这些向量化表达通过注意力机制对不同模态的动态权重进行学习调整，同时对场景定义也进行特征抽取以得到其向量化表达，再将注意力机制加权后的输出向量和场景定义特征抽取后的输出向量，通过全连接层将这两个向量进行进一步的映射以进行转换，实现最终的分类决策动作。
-
-
-
-
-
-
-
-
-
Search Results
11
records
(took 0.026 seconds)
