-
公开(公告)号:CN114707644B
公开(公告)日:2024-09-06
申请号:CN202210440602.3
申请日:2022-04-25
Applicant: 支付宝(杭州)信息技术有限公司 , 北京邮电大学
IPC: G06N3/042 , G06F18/214 , G06F18/2415 , G06F16/28 , G06N3/08
Abstract: 本说明书实施例提供一种图神经网络的训练方法,涉及基于用户关系图谱对图神经网络进行多轮次迭代更新,其中任一轮次包括:利用当前图神经网络对所述用户关系图谱进行处理,得到与该用户关系图谱中多个用户节点对应的多个分类预测向量;基于所述多个分类预测向量,为所述多个用户节点中第一数量的未标注节点分配对应的伪分类标签;针对所述第一数量的未标注节点中的各个未标注节点,确定利用其训练所述当前图神经网络而产生的信息增益;根据与所述多个用户节点中各个标注节点对应的分类预测向量和真实分类标签,以及与所述各个未标注节点对应的分类预测向量、伪分类标签和信息增益,更新所述当前图神经网络中的模型参数。
-
公开(公告)号:CN118132680B
公开(公告)日:2024-09-03
申请号:CN202410545207.0
申请日:2024-04-30
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/33 , G06F16/31 , G06F16/36 , G06F40/247 , G06F40/284 , G16H50/70 , G06N5/022
Abstract: 本说明书实施例提供一种基于医疗知识库的查询处理方法和装置,其中,医疗知识库包括知识图谱,知识图谱中的节点包括标准词节点和词条节点,各词条节点具有对应子图作为其词条索引。方法包括:从查询请求中提取若干医学术语;基于若干医学术语,查询知识图谱,获得关联词查询结果和词条查询结果,关联词查询结果至少包括查询到的标准词节点,词条查询结果包括若干备选词条节点;根据关联词查询结果,确定查询请求与若干备选词条节点各自对应的子图的相关性得分;根据相关性得分,确定出目标词条,将对应的词条内容归入查询处理结果。能够提升查询到的词条的准确率。
-
公开(公告)号:CN118095450B
公开(公告)日:2024-08-13
申请号:CN202410521286.1
申请日:2024-04-26
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N5/045 , G06N5/046 , G06N5/02 , G06F40/295 , G06F16/36
Abstract: 本说明书提供了一种基于知识图谱的医疗LLM模型推理方法及相关设备。知识图谱包含多个节点和连接节点的边,节点代表实体,边代表实体之间的关系。该方法包括:获取用户输入的目标文本,确定目标文本中是否包含与知识图谱中的节点对应的实体;如果是,则在知识图谱中查找出与所述实体相关的子图;获取保存的用户在所述目标文本之前输入的历史文本,并基于历史文本中包含的用户信息,对子图中包含的属性与所述用户信息不匹配的边进行裁剪,得到目标子图;根据目标子图和目标文本构建提示词,并将所述提示词输入至第一LLM模型中,由所述第一LLM模型基于所述提示词执行逻辑推理,并输出与所述目标文本对应的推理结果。
-
公开(公告)号:CN118469037A
公开(公告)日:2024-08-09
申请号:CN202410595062.5
申请日:2024-05-14
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书提供一种文本生成模型的强化学习训练方法、文本生成方法及系统,该方法包括:基于多个输入文本中的每个输入文本,在预训练语言模型的基础上得到多个生成文本;基于预先构建的知识图谱对多个生成文本进行打分,得到多个反馈分数;基于多个反馈分数,从多个生成文本中选择文本进行组合,得到每个输入文本对应的至少一个正负样本对,至少一个正负样本对中的每个正负样本对包括一个作为正样本的生成文本和一个作为负样本的生成文本,且作为正样本的生成文本的反馈分数高于作为负样本的生成文本的反馈分数;以及基于多个输入文本和每个输入文本对应的至少一个正负样本对,对预训练语言模型进行强化学习训练,得到文本生成模型。
-
公开(公告)号:CN118350448A
公开(公告)日:2024-07-16
申请号:CN202410568375.1
申请日:2024-05-08
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N3/096 , G06N3/094 , G06N3/0455 , G06F18/2321 , G06F18/2415 , G06F16/9535
Abstract: 本说明书实施例提供了目标模型的训练方法及装置,目标模型包括编码器和聚类网络,聚类网络中包括多个类簇的参数化的聚类原型。该方法包括:利用编码器,确定多个用户各自的编码结果,编码结果包括基于用户的原始行为序列得到的原始编码;利用聚类网络,基于各聚类原型和各原始编码确定各用户各自的聚类结果;基于各用户的编码结果与所归属的类簇的聚类原型之间的元素分布差异,确定自蒸馏损失;其中,该类簇基于聚类结果确定;基于训练损失,更新编码器的参数,训练损失包括自蒸馏损失。
-
公开(公告)号:CN118155015A
公开(公告)日:2024-06-07
申请号:CN202410301845.8
申请日:2024-03-15
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06V10/774 , G06V10/764 , G06N3/0464 , G06N3/0475 , G06N3/08 , G06F17/18 , G06Q10/04
Abstract: 本说明书的实施例提供了一种用于提升泛化性的模型训练方法和装置。在该用于提升泛化性的模型训练方法中,利用当前预测模型根据作为当前训练样本集的各个训练样本中的特征数据得到对应的预测结果;基于各个训练样本中的标签数据和对应的预测结果之间的差异确定训练样本预测损失值;再利用当前训练样本集中的各个训练样本所属的领域对应的当前领域重加权权重对各个训练样本预测损失值进行综合,得到当前训练样本集对应的预测损失值,进而确定当前总损失值;在不满足训练结束条件的情况下根据当前总损失值对当前预测模型的参数和当前领域重加权权重进行调整。
-
公开(公告)号:CN117649024A
公开(公告)日:2024-03-05
申请号:CN202311674491.3
申请日:2023-12-06
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06Q10/04 , G06N3/0985
Abstract: 本说明书实施例提供对象链接关系预测模型训练和链接关系预测方法及装置。在进行模型训练时,基于对象关系图构建待训练的第一对象链接关系预测模型的训练样本集;并且经由第二对象链接关系预测模型,基于链接关系预测结果从训练样本集中确定出难分训练样本集。随后,使用难分训练样本集来训练第一对象链接关系预测模型,其中,第二对象链接关系预测模型具有与第一对象链接关系模型相同的模型结构,并且在模型训练过程中模型参数保持不变。
-
公开(公告)号:CN117408745A
公开(公告)日:2024-01-16
申请号:CN202311370240.6
申请日:2023-10-20
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06Q30/0211 , G06N5/04 , G06F18/214 , G06F18/25
Abstract: 本说明书的实施例提供了一种基于因果效应估计的增益预测方法和装置。在该基于因果效应估计的增益预测方法中,对所获取的待预测样本的初始特征表示和对应的关联样本的初始特征表示分别进行解耦,得到对应的调整变量特征表示和混淆变量特征表示;再根据所得到的关联样本对应的调整变量特征表示和混淆变量特征表示进行聚合,得到对应的、融合有关联样本的对应信息的聚合调整变量特征表示和聚合混淆变量特征表示;进而基于待预测样本的混淆变量特征表示以及对应的聚合调整变量特征表示和聚合混淆变量特征表示的融合确定对应的聚合预测特征表示;并据此确定待预测样本对应的增益大小。
-
公开(公告)号:CN117216575A
公开(公告)日:2023-12-12
申请号:CN202311393266.2
申请日:2023-10-25
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F18/214 , G06N5/02 , G06F16/9535 , G06F16/901
Abstract: 本说明书实施例提供了用于训练推荐模型的方法及装置,在该方法中,按照以下方式进行处理,直至满足预训练结束条件:从源域所包括的源推荐数据中获取用户对应的用户数据以及用户所交互的推荐对象;基于实体图谱得到用户对应的用户特征向量和推荐对象所关联的各个实体对应的实体特征向量;基于各个实体特征向量以及利用原型库中的各个原型对各个实体进行表征得到的原型侧实体特征向量进行对比学习,得到第一损失;根据第一损失以及第二损失得到总损失;以及根据总损失对推荐模型以及匹配原型进行调整,并返回执行从源推荐数据中获取用户数据和推荐对象的操作。
-
公开(公告)号:CN117171336A
公开(公告)日:2023-12-05
申请号:CN202311123033.0
申请日:2023-09-01
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/335 , G06F16/36 , G06Q30/0601 , G06Q40/06
Abstract: 本说明书实施例提供推荐对象确定方法、对象推荐模型训练方法及装置。对第一用户的第一用户特征、第一对象的第一对象特征、融合有对象知识图谱的用户‑对象交互图中的第二用户的第二用户特征、第二对象的第二对象特征和对象属性的属性特征进行多意图通道解耦表征。使用第一和第二用户的多通道用户特征表征、第一和第二对象的多通道对象特征表征和对象属性的多通道对象属性特征表征,对第一用户的多通道用户特征表征和第一对象的多通道对象特征表征进行用户‑对象交互图和对象知识图谱上的表征聚合。然后,根据第一用户的经过聚合后的多通道用户特征表征和第一对象的经过聚合后的多通道对象特征表征,确定是否向第一用户推荐第一对象。
-
-
-
-
-
-
-
-
-