-
公开(公告)号：CN112948836A
公开(公告)日：2021-06-11
申请号：CN202110137427.6
申请日：2020-11-16
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种保护神经网络模型安全的方法，包括：获取神经网络模型，其中包括利用训练数据训练得到的多个网络层；针对其中任意的第一网络层，在固定其他网络层参数的情况下，利用上述训练数据对该第一网络层进行第一调参，得到第一微调模型；确定该第一微调模型对应预设性能指标的第一指标值，该预设性能指标的指标值取决于对应模型，在测试数据上的测试损失和在上述训练数据上的训练损失之间的相对大小；同理，利用训练数据和测试数据对该第一网络层进行第二调参，得到第二微调模型，并确定第二指标值；基于第一指标值和第二指标值的相对大小，确定第一网络层对应的信息敏感度，在其大于预定阈值的情况下，对第一网络层进行安全处理。
-
公开(公告)号：CN112836868A
公开(公告)日：2021-05-25
申请号：CN202110090818.7
申请日：2021-01-22
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 说明书披露一种链接预测模型的联合训练方法和装置。所述方法由多个数据持有方联合训练，各个数据持有方均配置有初始链接预测模型，且均构造有本方知识图谱，应用于任一数据持有方，包括：针对本方知识图谱中的目标实体，基于本方持有的目标实体的本方属性，采用多方安全计算技术联合其他数据持有方持有的目标实体的他方属性，确定目标实体的全局属性；基于全局属性确定目标实体的实体特征；基于实体特征和本方持有的目标实体的连边对本方初始链接预测模型进行训练。采用上述方法可以在保证各个数据持有方隐私的基础上联合训练得到性能更好的链接预测模型。
-
公开(公告)号：CN112836829A
公开(公告)日：2021-05-25
申请号：CN202110104747.1
申请日：2021-01-26
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N20/00
Abstract: 本说明书实施例公开了一种个性化的隐私保护学习方法、装置以及设备。方案应用于第一参与端，包括：确定全局模型和第一参与端的局部模型；通过与多个第二参与端进行联邦学习，协同训练全局模型；根据协同训练后的全局模型，在多个第二参与端中选择第二参与端；与选择出的第二参与端协同训练第一参与端的局部模型。
-
公开(公告)号：CN112818290A
公开(公告)日：2021-05-18
申请号：CN202110084215.6
申请日：2021-01-21
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种多方联合确定隐私数据中对象特征相关性的方法及装置。隐私数据分布在多个持有方中，第一持有方针对第一原始矩阵中多项特征的特征值进行零均值化，得到第一中心矩阵；利用多方安全计算，基于第一中心矩阵以及其他持有方各自的中心矩阵，确定协方差矩阵的第一分片矩阵。针对第一持有方中的第i特征与第二持有方中的第j特征，第一持有方从本地的协方差矩阵分片、本地存储的特征数据中获取数据，并利用多方安全计算，基于第二持有方的本地特征数据，确定第i特征与第j特征之间的第一相关性系数分片。
-
公开(公告)号：CN112799708A
公开(公告)日：2021-05-14
申请号：CN202110370767.3
申请日：2021-04-07
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种更新业务模型的系统及方法，将联邦学习分为两个阶段。第一个阶段，各个数据方共同确定全局模型参数。第二阶段，在全局模型参数下发至各个数据方后，各个数据方利用全局模型参数更新本地业务模型后，还利用本地业务数据进一步更新本地的业务模型参数，从而得到更适应本地业务数据的业务模型。其中，第一个阶段各个数据方共同确定全局模型参数过程中，各个数据方可以利用扰动的梯度更新模型参数，并反馈至服务端，从而更加有利于保护本地数据隐私。总之，本说明书的实施例提供的联合更新业务模型的方案，可以提高联邦学习的有效性。
-
Patent Agency Ranking
公开(公告)号：CN112396191B
公开(公告)日：2021-05-11
申请号：CN202011593534.1
申请日：2020-12-29
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书涉及一种基于联邦学习进行模型参数更新的方法、系统及装置，能够用于数据隐私保护。所述方法由参与方中任一训练成员实现，包括对模型参数进行多轮更新，其中一轮迭代更新包括：获取与其他参与方具有相同结构的待训练模型，待训练模型包括多个网络层；基于持有的训练样本及样本标签进行训练，获得梯度矩阵；基于梯度矩阵更新一阶矩矩阵和二阶矩矩阵，其中，一阶矩矩阵和二阶矩矩阵分别包括与待训练模型网络层一一对应的多个层子矩阵；与服务器交互，逐层传输至少部分层子矩阵中的至少部分元素给所述服务器，以便服务器逐层更新模型参数；从所述服务器获取更新后的模型参数以将其作为待训练模型进行下一次训练，或者基于此确定最终模型。
-
公开(公告)号：CN111079939B
公开(公告)日：2021-04-20
申请号：CN201911194023.X
申请日：2019-11-28
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供用于基于数据隐私保护的机器学习模型特征筛选的方法。机器学习模型具有模型特征集，并且机器学习模型的特征数据被水平切分地分布在第一数据拥有方和至少一个第二数据拥有方处，每个数据拥有方具有与模型特征集对应的特征数据。第一数据拥有方和至少一个第二数据拥有方协同来使用第一数据拥有方的特征数据进行多方安全计算，以训练出待筛选模型特征的预测模型。在第一数据拥有方处，基于待筛选模型特征的预测差值确定待筛选模型特征的方差膨胀因子，以用于对待筛选模型特征进行模型特征筛选处理。
-
公开(公告)号：CN112396477B
公开(公告)日：2021-04-06
申请号：CN202011594832.2
申请日：2020-12-29
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种业务预测模型的构建方法及装置，在构建方法中，包括多轮迭代，其中的第t轮迭代可以包括：获取当前计算逻辑结构。根据当前计算逻辑结构中各条边的当前备选概率，以及各条边各自所代表的基础运算的计算复杂度，确定当前计算逻辑结构的结构复杂度。将用于训练业务预测模型的第一业务样本输入当前计算逻辑结构，根据当前计算逻辑结构的输出，至少以最小化结构复杂度为目标，更新当前计算逻辑结构中各条边的当前备选概率。至少根据多轮迭代后的当前计算逻辑结构中各条边的当前备选概率，确定目标计算逻辑结构。目标计算逻辑结构中任意两个节点之间至多通过一条边连接。基于目标计算逻辑结构，构建业务预测模型。
-
公开(公告)号：CN112132270B
公开(公告)日：2021-03-23
申请号：CN202011325643.5
申请日：2020-11-24
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供基于隐私保护的神经网络模型训练方法、装置及系统。每个第一成员设备具有本地数据并且部署至少一个客户端模型，第二成员设备部署至少一个服务端模型，至少一个客户端模型和至少一个服务端模型按照模型间隔方式组成神经网络模型。在每次循环时，各个第一成员设备和第二成员设备使用第一成员设备的本地数据执行模型预测计算。对于每个客户端模型，各个第一成员设备使用本地数据或者在前服务端模型的模型计算结果进行多方安全计算。对于每个服务端模型，第二成员设备使用在前客户端模型的模型计算结果执行本地计算。基于模型预测值确定预测差值，并且在各个成员设备处通过反向传播方式来使用加噪声的梯度下降法进行模型更新。
-
公开(公告)号：CN112507388A
公开(公告)日：2021-03-16
申请号：CN202110158847.2
申请日：2021-02-05
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F21/62 , G06N3/08 , G06N20/00 , G06F40/284 , G06F40/242
Abstract: 本说明书实施例提供用于经由至少两个第一成员设备训练word2vec模型的方法、装置及系统。各个第一成员设备基于所具有的本地语料的语料分词结果生成本地分词词库，使用各自的本地分词词库进行隐私求交确定公共分词，并向其余第一成员设备共享非公共分词数目。随后，各个第一成员设备根据公共分词以及各个第一成员设备的非公共分词数目进行统一分词编号，生成统一字典。然后，各个第一成员设备基于统一字典和本地语料的语料分词结果生成各自的训练样本，并使用各自的训练样本执行基于隐私保护的模型训练来训练出word2vec模型。
-
-
-
-
-
-
-
-
-
Search Results
382
records
(took 0.056 seconds)
