公开(公告)号：CN113221183B

公开(公告)日：2022-09-16

申请号：CN202110657041.8

申请日：2021-06-11

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 吕灵娟

IPC: G06F21/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本说明书实施例提供一种实现隐私保护的多方协同更新模型的方法及装置，在协同更新模型的方法中，每个参与方i根据本地样本集以及当前模型参数，确定对应的局部梯度向量，并利用满足差分隐私的随机化算法，对局部梯度向量中的各元素进行随机二值化处理，得到扰动梯度向量。每个参与方i将各自确定的扰动梯度向量发送给服务器。服务器聚合n份扰动梯度向量，并根据当前聚合结果中各元素的正负号，对各元素进行二值化表示，得到目标梯度向量。每个参与方i从服务器接收目标梯度向量，并根据目标梯度向量更新当前模型参数，以用于下一轮迭代。在多轮迭代后，每个参与方i将其得到的当前模型参数，作为其与其它参与方协同更新的业务预测模型。

公开(公告)号：CN113792889A

公开(公告)日：2021-12-14

申请号：CN202111094859.X

申请日：2021-09-17

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 张之远 ,  吕灵娟 ,  王维强

IPC: G06N20/00 ,  G06K9/62 ,  G06N3/08

Abstract: 本说明书实施例公开了一种模型的更新方法、装置及设备，所述方法包括：根据目标模型中待修改的模型功能的信息，获取与所述待修改的模型功能的信息相匹配的第一训练集，并基于所述待修改的模型功能的信息，从对所述目标模型进行模型训练所使用的模型训练集中获取第二训练集；基于所述第一训练集和所述第二训练集，确定所述目标模型对应的第一模型损失，以及基于所述第二训练集，确定所述目标模型对应的第二模型损失；基于所述第一模型损失和所述第二模型损失，通过反向传播算法对所述目标模型进行更新训练，以对所述目标模型中待修改的模型功能进行修改，得到更新后的所述目标模型。

公开(公告)号：CN113297396A

公开(公告)日：2021-08-24

申请号：CN202110824981.1

申请日：2021-07-21

Applicant: 支付宝(杭州)信息技术有限公司

Inventor： 吕乐 ,  吕灵娟 ,  周璟 ,  刘佳 ,  傅幸 ,  杨阳 ,  王维强

IPC: G06F16/36 ,  G06N3/04 ,  G06N3/08 ,  G06N20/20

Abstract: 本说明书实施例提供了一种基于联邦学习的模型参数更新方法、装置及设备，其中，该方法包括：接收联邦学习服务端下发的针对目标图神经网络模型的模型参数更新指令，所述模型参数更新指令携带有第一共享参数，所述目标图神经网络模型为多个所述联邦学习客户端的共有模型；基于所述第一共享参数、本地存储的第一独立参数，以及由本地用户私有数据构建的图谱数据，对所述目标图神经网络模型进行训练，得到训练后的所述目标图神经网络模型的模型参数；将所述第二共享参数发送给所述联邦学习服务端，以使所述联邦学习服务端基于多个联邦学习客户端发送的第二共享参数，对所述目标图神经网络模型的第一共享参数进行更新处理。