-
公开(公告)号：CN112052942B
公开(公告)日：2022-04-12
申请号：CN202010986099.2
申请日：2020-09-18
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供神经网络模型训练方法及装置。神经网络模型包括位于各个第一成员设备的第一神经网络子模型。各个第一成员设备使用私有数据进行模型预测得到预测标签数据并确定第一神经网络子模型的模型更新信息，将第一神经网络子模型的模型更新信息和本地样本分布信息提供给第二成员设备。第二成员设备根据各个第一成员设备的第一神经网络子模型的模型更新信息进行神经网络模型重构，根据各个第一成员设备的本地样本分布信息确定整体样本概率分布，并将重构后的神经网络模型和整体样本概率分布分发给各个第一成员设备。各个第一成员设备根据本地样本概率分布、重构后的神经网络模型以及整体样本概率分布更新第一神经网络子模型。
-
公开(公告)号：CN113379039A
公开(公告)日：2021-09-10
申请号：CN202110752427.7
申请日：2021-07-02
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书涉及一种模型的训练方法、系统及装置，可用于机器学习过程中的隐私数据保护，所述方法由参与方中的任一训练成员实现，包括：基于自身持有的训练样本进行模型训练，获得模型数据列表；从模型数据列表中的一个或多个卷积核对应的子矩阵中选取若干子矩阵，并确定所选子矩阵在模型数据列表中的第一位置信息；从模型数据列表中除卷积核对应的子矩阵以外的元素中选取若干非卷积核元素，并确定反映选取的非卷积核元素在模型数据列表中的第二位置信息；确定包括第一位置信息以及第二位置信息的传输数据列表，并将其上传至服务器；获取服务器下发的模型数据更新列表，并基于模型数据更新列表进行本地模型更新。
-
公开(公告)号：CN111915023B
公开(公告)日：2021-09-07
申请号：CN202010884802.9
申请日：2020-08-28
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种基于联邦学习的超参数确定方法及装置。该方法用于确定业务预测模型的超参数，该业务预测模型的多个计算层被划分为包含连续后M个计算层的第一部分模型和包含剩余计算层的第二部分模型，第一部分模型部署在服务器中，第二部分模型部署在多个训练成员中。在任意一次超参迭代过程中，服务器将第一超参数组中的多个超参数向量分别发送至对应的训练成员，并与多个训练成员之间，多次执行针对业务预测模型的模型迭代过程，在多次模型迭代过程完成后，利用安全聚合算法，基于多个训练成员利用各自的测试集得到的业务预测模型的分立预测性能值，确定聚合预测性能值，基于聚合预测性能值，更新第一超参数组。
-
公开(公告)号：CN113052329A
公开(公告)日：2021-06-29
申请号：CN202110390904.X
申请日：2021-04-12
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种基于隐私保护的联合更新业务模型的方法及装置，其中，在一次迭代过程中，服务方向各个数据方提供全局模型参数，以及各个数据方各自与全局模型参数划分的N个参数组的对应关系，由各个数据方各自利用全局模型参数更新本地业务模型，并基于本地业务数据对更新后的本地业务模型进一步更新，以将新的业务模型中各自所对应参数组的模型参数上传至服务方，进而由服务方依次对接收到的各个参数组进行融合，更新全局模型参数。该过程可以减少数据方与服务方的通信压力，避免造成通信阻塞，有利于提高联邦学习的整体训练效率。
-
公开(公告)号：CN113052323A
公开(公告)日：2021-06-29
申请号：CN202110306735.7
申请日：2021-03-23
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种基于联邦学习的模型训练方法、装置和电子设备。所述方法包括：利用以下步骤进行迭代处理，直至满足迭代结束条件：接收多个参与方上传的第一模型参数信息及其对应的模型性能；以接收的第一模型参数信息为初始种群中的个体，以接收的模型性能为初始种群中个体的适应度，根据适应度，对所述初始种群中的个体进行遗传操作，得到优化种群；其中，所述优化种群中的个体用于表示第二模型参数信息；向多个参与方发送第二模型参数信息。本说明书实施例可以提高模型训练效率。
-
Patent Agency Ranking
公开(公告)号：CN113033823A
公开(公告)日：2021-06-25
申请号：CN202110424366.1
申请日：2021-04-20
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书涉及一种模型训练方法、系统和装置，能够用于数据隐私保护。该方法包括，各训练成员将自身持有的训练样本的特征数据输入至模型的第一部分，得到初始输出矩阵；接收标签预测值，基于训练样本的标签值以及所述标签预测值确定损失函数值；将所述损失函数值传输给所述服务器，以便服务器基于所述损失函数值在模型的第二部分中反向传播梯度，直到获取输出梯度矩阵；基于所述损失函数相对模型的第一部分中各层的输出数据的梯度，继续反向传播梯度，以对模型的第一部分的模型参数进行更新；基于更新后的模型的第一部分进行下一轮迭代更新，或者基于此确定最终模型的第一部分。
-
公开(公告)号：CN112396191B
公开(公告)日：2021-05-11
申请号：CN202011593534.1
申请日：2020-12-29
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书涉及一种基于联邦学习进行模型参数更新的方法、系统及装置，能够用于数据隐私保护。所述方法由参与方中任一训练成员实现，包括对模型参数进行多轮更新，其中一轮迭代更新包括：获取与其他参与方具有相同结构的待训练模型，待训练模型包括多个网络层；基于持有的训练样本及样本标签进行训练，获得梯度矩阵；基于梯度矩阵更新一阶矩矩阵和二阶矩矩阵，其中，一阶矩矩阵和二阶矩矩阵分别包括与待训练模型网络层一一对应的多个层子矩阵；与服务器交互，逐层传输至少部分层子矩阵中的至少部分元素给所述服务器，以便服务器逐层更新模型参数；从所述服务器获取更新后的模型参数以将其作为待训练模型进行下一次训练，或者基于此确定最终模型。
-
公开(公告)号：CN112132270B
公开(公告)日：2021-03-23
申请号：CN202011325643.5
申请日：2020-11-24
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供基于隐私保护的神经网络模型训练方法、装置及系统。每个第一成员设备具有本地数据并且部署至少一个客户端模型，第二成员设备部署至少一个服务端模型，至少一个客户端模型和至少一个服务端模型按照模型间隔方式组成神经网络模型。在每次循环时，各个第一成员设备和第二成员设备使用第一成员设备的本地数据执行模型预测计算。对于每个客户端模型，各个第一成员设备使用本地数据或者在前服务端模型的模型计算结果进行多方安全计算。对于每个服务端模型，第二成员设备使用在前客户端模型的模型计算结果执行本地计算。基于模型预测值确定预测差值，并且在各个成员设备处通过反向传播方式来使用加噪声的梯度下降法进行模型更新。
-
公开(公告)号：CN112148801A
公开(公告)日：2020-12-29
申请号：CN202011332527.6
申请日：2020-11-24
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种保护数据隐私的多方联合进行业务对象预测的方法，该方法应用于数据持有方，且包括：先利用哈希算法计算本地存储的对象样本对应的样本哈希，并记录在区块链中；再将对象样本加密发送至可信第三方，以使其在计算并查询出该样本哈希被记录在区块链中时，向数据使用方发送利用数据持有方的第一公钥加密对象样本而得到的加密样本；接着，从数据使用方接收双加密预测结果，其基于数据使用方本地部署的业务预测模型和加密样本进行同态运算，得到第一加密预测结果后，利用第二公钥对其进行加密而得到；再利用第一私钥解密双加密预测结果，得到第二加密预测结果，以使数据使用方利用第二私钥对其进行解密，得到预测结果明文。
-
公开(公告)号：CN112084476A
公开(公告)日：2020-12-15
申请号：CN202010908350.3
申请日：2020-09-02
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书提供一种生物识别身份验证方法、客户端、服务器、设备及系统，可以利用服务器将生物识别模型进行拟合，获得生物识别函数，将生物识别函数以及生物特征发送至客户端，由客户端本地保存。当客户端接收到生物验证请求后，客户端可以利用本地存储的生物识别函数以及生物样本特征对用户进行身份验证。客户端在对用户进行身份验证时，不需要与服务器进行通信，直接利用本地存储的数据即可以进行，实现了离线状态下的生物识别身份验证，同时，将生物识别模型拟合成为生物识别函数，降低了计算的复杂度，提高了本地生物识别的速度。
-
-
-
-
-
-
-
-
-
Search Results
116
records
(took 0.039 seconds)
