-
公开(公告)号：CN112990476A
公开(公告)日：2021-06-18
申请号：CN202110177803.4
申请日：2021-02-08
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N20/00
Abstract: 本说明书一个或多个实施例涉及一种基于联邦学习进行模型参数更新的方法，所述方法由参与方中的任一训练成员实现，包括：获取当前轮对应的待训练模型；基于自身持有的训练样本对所述待训练模型进行训练，获得当前轮对应的第一模型；将与所述第一模型上传给服务器，并获取当前轮下发的聚合模型；将来自一轮或多轮迭代更新的一个或多个聚合模型与来自一轮或多轮迭代更新的一个或多个第一模型通过杂交函数处理，获取多个子代模型；基于突变比例以及预设的突变函数对多个子代模型进行处理，获取突变后的多个子代模型；对突变后的多个子代模型进行性能评估，并筛选出性能最优的子代模型作为下一轮迭代的待训练模型或者基于此确定该训练成员的最终模型。
-
公开(公告)号：CN112926747A
公开(公告)日：2021-06-08
申请号：CN202110320906.1
申请日：2021-03-25
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种优化业务模型的方法及装置，适用于多个数据方基于隐私保护联合训练业务模型情况下，辅助确定业务模型的参数集的服务方。其中，业务模型的参数集用于描述其模型结构及至少一个超参数。该方法的一个实施方式包括：向各个数据方下发业务模型的当前参数集，以供各个数据方共同训练当前参数集对应的业务模型，并分别确定各自对应的模型局部性能，然后对各个数据方分别确定的各模型局部性能进行融合，得到针对当前参数集的当前全局性能，再利用当前全局性能和当前参数集、历史参数集与历史全局性能之间的关联关系，从而以最大化全局性能为目标，更新当前参数集。该实施方式有利于挖掘更有效的业务模型。
-
公开(公告)号：CN112580826B
公开(公告)日：2021-06-08
申请号：CN202110160640.9
申请日：2021-02-05
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供用于经由第一成员设备和至少两个第二成员设备训练业务模型的方法、装置和系统。各个第二成员设备具有本地业务模型和本地样本数据，并且所具有的本地样本数据是非独立同分布数据。各个第二成员设备将本地样本数据分布信息提供给第一成员设备。第一成员设备根据各个第二成员设备的本地样本数据分布信息确定整体样本数据概率分布，并发送给各个第二成员设备。各个第二成员设备根据整体样本数据概率分布和超参数，从本地样本数据中确定各类样本数据的扩充样本数据，所述扩充样本数据用于扩充业务模型的训练样本数据。
-
公开(公告)号：CN111738438B
公开(公告)日：2021-04-30
申请号：CN202010691847.4
申请日：2020-07-17
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N3/08
Abstract: 本说明书实施例提供图神经网络模型训练方法及装置。图神经网络模型包括位于各个第一成员设备的节点特征向量表示子模型和归一化子模型以及位于第二成员设备的判别模型，各个第一成员设备的私有数据是非独立同分布数据。各个第一成员设备的节点特征向量表示子模型的模型结构根据各自数据的数据分布特征确定。各个第一成员设备使用节点特征向量表示子模型和归一化子模型得到归一化特征向量表示，利用从第二成员设备获取的判别模型得到预测标签值并确定出损失函数。各个第一成员设备基于损失函数，确定判别模型的模型更新量并更新节点特征向量表示子模型和归一化子模型。第二成员设备使用源于各个第一成员设备的判别模型的模型更新量更新判别模型。
-
公开(公告)号：CN111027086B
公开(公告)日：2021-04-20
申请号：CN201911297040.6
申请日：2019-12-16
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种多方计算过程中的私有数据保护方法。所述方法包括：可以获取一个以上计算节点的计算数据。可以验证计算数据，以确保计算数据仅能被预设算法处理一次和/或计算数据的唯一性。可以将各计算节点的计算数据基于预设算法进行处理，获得处理结果。可以输出处理结果，以使中心节点能够基于处理结果进行多方计算中的后续计算工作。本说明书实施例公开的方法，可以利用可信执行环境提供的与不可信环境隔离的安全计算环境，在可信执行环境中对各个计算节点的计算数据进行聚合后，再发送给中心节点，使得中心节点在接收到聚合数据后无法得知各个计算节点的计算数据，增加倒推用户数据的难度，提高多方计算过程中私有数据安全性。
-
Patent Agency Ranking
公开(公告)号：CN110942147B
公开(公告)日：2021-04-20
申请号：CN201911195445.9
申请日：2019-11-28
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供基于多方安全计算的神经网络模型训练方法、模型预测方法及装置。神经网络模型被分割为至少一个客户端模型和至少一个服务端模型，服务端模型部署在服务端，客户端模型部署在对应训练参与方的客户端。在每次循环时，训练样本数据被提供给神经网络模型来得到当前预测值和当前预测差值。在各个客户端模型，经由各个训练参与方使用各自的客户端子模型以及所接收的数据逐层进行多方安全计算。在各个服务端模型，使用在前客户端模型的计算结果逐层进行非多方安全计算。在循环未结束时，根据当前预测差值，通过反向传播来调整服务端模型和客户端子模型的各层模型参数。利用该方法，能够在确保隐私数据安全的情况下提高模型训练效率。
-
公开(公告)号：CN112580826A
公开(公告)日：2021-03-30
申请号：CN202110160640.9
申请日：2021-02-05
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供用于经由第一成员设备和至少两个第二成员设备训练业务模型的方法、装置和系统。各个第二成员设备具有本地业务模型和本地样本数据，并且所具有的本地样本数据是非独立同分布数据。各个第二成员设备将本地样本数据分布信息提供给第一成员设备。第一成员设备根据各个第二成员设备的本地样本数据分布信息确定整体样本数据概率分布，并发送给各个第二成员设备。各个第二成员设备根据整体样本数据概率分布和超参数，从本地样本数据中确定各类样本数据的扩充样本数据，所述扩充样本数据用于扩充业务模型的训练样本数据。
-
-
公开(公告)号：CN112396477A
公开(公告)日：2021-02-23
申请号：CN202011594832.2
申请日：2020-12-29
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种业务预测模型的构建方法及装置，在构建方法中，包括多轮迭代，其中的第t轮迭代可以包括：获取当前计算逻辑结构。根据当前计算逻辑结构中各条边的当前备选概率，以及各条边各自所代表的基础运算的计算复杂度，确定当前计算逻辑结构的结构复杂度。将用于训练业务预测模型的第一业务样本输入当前计算逻辑结构，根据当前计算逻辑结构的输出，至少以最小化结构复杂度为目标，更新当前计算逻辑结构中各条边的当前备选概率。至少根据多轮迭代后的当前计算逻辑结构中各条边的当前备选概率，确定目标计算逻辑结构。目标计算逻辑结构中任意两个节点之间至多通过一条边连接。基于目标计算逻辑结构，构建业务预测模型。
-
公开(公告)号：CN112396191A
公开(公告)日：2021-02-23
申请号：CN202011593534.1
申请日：2020-12-29
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书涉及一种基于联邦学习进行模型参数更新的方法、系统及装置，能够用于数据隐私保护。所述方法由参与方中任一训练成员实现，包括对模型参数进行多轮更新，其中一轮迭代更新包括：获取与其他参与方具有相同结构的待训练模型，待训练模型包括多个网络层；基于持有的训练样本及样本标签进行训练，获得梯度矩阵；基于梯度矩阵更新一阶矩矩阵和二阶矩矩阵，其中，一阶矩矩阵和二阶矩矩阵分别包括与待训练模型网络层一一对应的多个层子矩阵；与服务器交互，逐层传输至少部分层子矩阵中的至少部分元素给所述服务器，以便服务器逐层更新模型参数；从所述服务器获取更新后的模型参数以将其作为待训练模型进行下一次训练，或者基于此确定最终模型。
-
-
-
-
-
-
-
-
-
Search Results
222
records
(took 0.043 seconds)
