公开(公告)号：CN111079574B

公开(公告)日：2022-08-02

申请号：CN201911202734.7

申请日：2019-11-29

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 蒋亮 ,  温祖杰 ,  梁忠平 ,  张家兴

IPC: G06V40/10 ,  G06V10/82 ,  G06N3/04 ,  G06N3/08

Abstract: 本说明书实施例公开了一种训练神经网络的方法及系统。所述方法包括：将训练数据输入N层神经网络，第K层神经网络输出第一概率分布，第N层神经网络输出第二概率分布；其中，N大于K，N和K为大于0的整数；根据所述第一概率分布与所述第二概率分布，确定第一反馈信号；根据所述第一反馈信号调节1～K层神经网络的参数，使得所述1～K层神经网络学习所述第N层神经网络输出的第二概率分布，得到训练好的K层神经网络。

公开(公告)号：CN111538822A

公开(公告)日：2020-08-14

申请号：CN202010330706.X

申请日：2020-04-24

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 蒋亮 ,  温祖杰 ,  张家兴

IPC: G06F16/332 ,  G06Q30/00 ,  G06N20/00

Abstract: 本说明书实施例提供一种智能客户服务机器人训练数据的生成方法和系统。该方法包括获取若干个样本数据，所述样本数据包括若干个具有顺序的样本片段，所述样本片段来自智能客户服务机器人或用户；获取与所述样本数据相关的多个候选资料片段；在所述样本数据中获取第一片段，所述第一片段与所述候选资料片段相似度满足第一预设条件，且来自所述智能客户服务机器人；基于所述第一片段，在所述样本数据中获取第二片段，所述第二片段与所述第一片段关联度满足第二预设条件，且来自所述用户；基于所述第二片段和所述候选资料片段生成训练数据。

公开(公告)号：CN111221945B

公开(公告)日：2020-08-04

申请号：CN202010329631.3

申请日：2020-04-24

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 蒋亮 ,  温祖杰 ,  张家兴

IPC: G06F16/33

Abstract: 本说明书实施例提供一种基于用户问句生成标准问题的方法和装置，方法包括：获取目标用户与人工客服的第一多轮对话，所述第一多轮对话包括第一数目轮的用户问句和客服答案；提取所述第一多轮对话中第一数目轮的用户问句；对所述第一数目轮的用户问句至少进行拼接处理，得到第一输入文本；将所述第一输入文本输入预先训练的文本生成模型，得到所述第一多轮对话对应的标准问题。能够提高标准问题的生产效率，相应提升标准问题的覆盖率。

公开(公告)号：CN111368997A

公开(公告)日：2020-07-03

申请号：CN202010143596.6

申请日：2020-03-04

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 蒋亮 ,  温祖杰 ,  张家兴

IPC: G06N3/08 ,  G06N3/04 ,  G06F17/18

Abstract: 本说明书实施例提供一种神经网络模型的训练方法及装置，在训练方法中，基于在上一周期训练后的神经网络模型，分别确定在当前周期待训练的第一模型，以及用于辅助训练第一模型的第二模型。从样本集合中选取当前标定样本，并基于其执行以下步骤：将当前标定样本输入第一模型，得到第一概率分布。基于第一概率分布，确定当前标定样本的预测标签。将当前标定样本输入第二模型，得到第二概率分布。基于标定标签和预测标签，确定第一预测损失。基于第一概率分布和第二概率分布，确定第二预测损失。结合第一预测损失和第二预测损失，调整第一模型的参数。在全部样本选取完之后，将最后一次调整参数后的第一模型作为在当前周期训练后的神经网络模型。

公开(公告)号：CN111241851A

公开(公告)日：2020-06-05

申请号：CN202010329730.1

申请日：2020-04-24

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 成幸毅 ,  徐威迪 ,  陈昆龙 ,  黄伟鹏 ,  蒋亮 ,  温祖杰 ,  王太峰 ,  褚崴

IPC: G06F40/30 ,  G06F40/289 ,  G06K9/62

Abstract: 本说明书提供一种语义相似度确定方法、装置及处理设备，预先建立的语义相似度模型从两个不同的角度处理句子对，既考虑了文本句子的维度，又结合了文本单词级交叉矩阵的角度。在需要对待处理文本进行语义相似度的计算时，可以直接利用建立好的语义相似度模型中的语句语义确定子模型对待处理文本分别进行语义编码，将待处理文本分别转换为向量表示，基于转换后的向量对待处理文本进行相似度计算。在确保语义相似度计算效率的基础上，提高了语义相似度计算的准确性。

公开(公告)号：CN111222344A

公开(公告)日：2020-06-02

申请号：CN202010006329.4

申请日：2020-01-03

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 梁忠平 ,  蒋亮 ,  温祖杰 ,  张家兴

IPC: G06F40/30 ,  G06N3/04 ,  G06N3/08

Abstract: 本说明书实施例提供训练神经网络的方法、装置及电子设备，其中一个方法包括：获取经情感标注的语料文本，其中，所述语料文本的情感极性被标注，以及所述语料文本中作为判断情感极性的依据的依据文本片段被标注；向基于注意力的神经网络输入语料文本；以及通过监督所述依据文本片段是否作为判断语料文本的依据而训练所述神经网络。