-
公开(公告)号：CN114239860B
公开(公告)日：2024-07-02
申请号：CN202111489067.2
申请日：2021-12-07
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种基于隐私保护的模型训练方法及装置，通过本说明书实施例提供的方法和装置，在安全计算过程中，利用高斯差分隐私和(ε，δ)差分隐私之间形成的对偶关系，以及在训练周期达到一定阈值的极限情况下高斯差分隐私空间中用于衡量累积隐私损失的参数μ与所添加的高斯噪声的方差σ2之间满足的关系，建立(ε，δ)差分隐私与所添加高斯噪声的方差σ2之间的关联关系。从而，一方面，可以根据高斯机制中的参数确定多次迭代累积的隐私损失，对模型性能进行衡量和管控，另一方面，根据给定的隐私预算，反向指导单次迭代过程中应该添加的高斯噪声的方差σ2，以加入适当的噪声。
-
公开(公告)号：CN114707662A
公开(公告)日：2022-07-05
申请号：CN202210398878.X
申请日：2022-04-15
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N20/00
Abstract: 本说明书的实施例提供一种联邦学习方法、装置及联邦学习系统。联邦学习系统包括至少两个第一成员设备和第二成员设备，第一成员设备具有用于全局模型训练的本地数据。在各个第一成员设备处，使用本地数据训练全局模型得到各个模型参数的本地参数更新量；从全局模型的模型参数中选择适合于本地训练的部分模型参数；并将所选择的模型参数的本地参数更新量发送给第二成员设备。在第二成员设备处，使用从各个第一成员设备接收的本地参数更新量重构全局模型的各个模型参数的参数更新量；基于所述重构的各个模型参数的参数更新量进行全局模型更新；以及将更新后的全局模型作为下一模型训练过程的全局模型发送给各个第一成员设备。
-
公开(公告)号：CN114239860A
公开(公告)日：2022-03-25
申请号：CN202111489067.2
申请日：2021-12-07
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种基于隐私保护的模型训练方法及装置，通过本说明书实施例提供的方法和装置，在安全计算过程中，利用高斯差分隐私和(ε，δ)差分隐私之间形成的对偶关系，以及在训练周期达到一定阈值的极限情况下高斯差分隐私空间中用于衡量累积隐私损失的参数μ与所添加的高斯噪声的方差σ2之间满足的关系，建立(ε，δ)差分隐私与所添加高斯噪声的方差σ2之间的关联关系。从而，一方面，可以根据高斯机制中的参数确定多次迭代累积的隐私损失，对模型性能进行衡量和管控，另一方面，根据给定的隐私预算，反向指导单次迭代过程中应该添加的高斯噪声的方差σ2，以加入适当的噪声。
-
公开(公告)号：CN113869529A
公开(公告)日：2021-12-31
申请号：CN202111456965.8
申请日：2021-12-02
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种用于生成第一自然样本的对抗样本的方法、模型评估方法、装置和计算机设备。所述用于生成第一自然样本的对抗样本的方法包括：获取第一对抗样本，所述第一对抗样本的标签与第一自然样本不同；使第一对抗样本接近第一自然样本，直至第一对抗样本与第一自然样本之间的相似程度满足条件并且第一对抗样本的标签与第一自然样本不同；将新的第一对抗样本确定为第一自然样本的对抗样本。本说明书实施例可以生成具有较强攻击性的对抗样本，另外，还可以全面地评估机器学习模型的对抗训练效果。
-
公开(公告)号：CN113822443A
公开(公告)日：2021-12-21
申请号：CN202111364482.5
申请日：2021-11-17
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书涉及人工智能领域，特别涉及一种对抗攻击和生成对抗样本的方法。其中，生成对抗样本的方法包括：基于初始样本及其标签、以及待攻击模型，进行一轮或多轮迭代，以构造对抗样本；其中的一轮迭代包括：获取当前轮的待调整样本；当当前轮为第一轮迭代时，所述待调整样本为所述初始样本，否则为前一轮的对抗样本；利用待攻击模型处理所述待调整样本，得到第一输出；基于所述第一输出和所述标签的差异、以及扰动系数，确定扰动数据；将所述扰动数据添加到所述待调整样本中，以获得当前轮的对抗样本；其中，所述扰动系数能够被调整，以使得对抗样本与初始样本间的差异逼近但不超过预设的扰动边界值。
-
Patent Agency Ranking
公开(公告)号：CN113806754A
公开(公告)日：2021-12-17
申请号：CN202111363866.5
申请日：2021-11-17
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种后门防御方法和系统。其中，该方法包括对目标模型进行一轮或多轮更新，其中一轮更新包括：将多个干净数据输入目标模型，获取目标模型中至少部分计算单元的多个输出数据；对于至少部分计算单元中的每一个，基于其多个输出数据确定该计算单元对多个干净数据的响应性指标；基于所述响应性指标，从所述至少部分计算单元中确定一个或多个待处理计算单元；至少对所述待处理计算单元进行处理，以增加所述目标模型对后门攻击的防御能力。
-
公开(公告)号：CN112799708A
公开(公告)日：2021-05-14
申请号：CN202110370767.3
申请日：2021-04-07
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种更新业务模型的系统及方法，将联邦学习分为两个阶段。第一个阶段，各个数据方共同确定全局模型参数。第二阶段，在全局模型参数下发至各个数据方后，各个数据方利用全局模型参数更新本地业务模型后，还利用本地业务数据进一步更新本地的业务模型参数，从而得到更适应本地业务数据的业务模型。其中，第一个阶段各个数据方共同确定全局模型参数过程中，各个数据方可以利用扰动的梯度更新模型参数，并反馈至服务端，从而更加有利于保护本地数据隐私。总之，本说明书的实施例提供的联合更新业务模型的方案，可以提高联邦学习的有效性。
-
公开(公告)号：CN114707662B
公开(公告)日：2024-06-18
申请号：CN202210398878.X
申请日：2022-04-15
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N20/00
Abstract: 本说明书的实施例提供一种联邦学习方法、装置及联邦学习系统。联邦学习系统包括至少两个第一成员设备和第二成员设备，第一成员设备具有用于全局模型训练的本地数据。在各个第一成员设备处，使用本地数据训练全局模型得到各个模型参数的本地参数更新量；从全局模型的模型参数中选择适合于本地训练的部分模型参数；并将所选择的模型参数的本地参数更新量发送给第二成员设备。在第二成员设备处，使用从各个第一成员设备接收的本地参数更新量重构全局模型的各个模型参数的参数更新量；基于所述重构的各个模型参数的参数更新量进行全局模型更新；以及将更新后的全局模型作为下一模型训练过程的全局模型发送给各个第一成员设备。
-
公开(公告)号：CN113869529B
公开(公告)日：2023-07-14
申请号：CN202111456965.8
申请日：2021-12-02
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种用于生成第一自然样本的对抗样本的方法、模型评估方法、装置和计算机设备。所述用于生成第一自然样本的对抗样本的方法包括：获取第一对抗样本，所述第一对抗样本的标签与第一自然样本不同；使第一对抗样本接近第一自然样本，直至第一对抗样本与第一自然样本之间的相似程度满足条件并且第一对抗样本的标签与第一自然样本不同；将新的第一对抗样本确定为第一自然样本的对抗样本。本说明书实施例可以生成具有较强攻击性的对抗样本，另外，还可以全面地评估机器学习模型的对抗训练效果。
-
公开(公告)号：CN113919488A
公开(公告)日：2022-01-11
申请号：CN202111462627.5
申请日：2021-12-03
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书提供了对抗样本的生成方法、装置和服务器。具体实施前，可以先通过拆分并组合与目标模型相匹配的初始模型，得到包含有长度不同的多个初始的子网络模型的初始的多轨道模型；再通过训练该初始的多轨道模型，得到包含有长度不同的多个子网络模型的目标多轨道模型；进一步可以从该目标多轨道模型中确定出融合了处理低层特征的模型块，同时又降低了处理高层特征的模型块的影响的，用于对目标模型进行对抗攻击测试的目标模型结构。进而具体实施时，可以通过利用该目标多轨道模型中的目标模型结构，生成得到迁移性较好的对抗样本，以便后续能利用上述对抗样本地对目标模型进行较为有效的安全性测试。
-
-
-
-
-
-
-
-
-
Search Results
43
records
(took 0.034 seconds)
