-
公开(公告)号：CN111027628A
公开(公告)日：2020-04-17
申请号：CN201911273135.4
申请日：2019-12-12
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例公开了一种模型确定方法。所述方法包括：获取源图像和目标图像，其中所述源图像属于第一图像类别，所述目标图像属于第二图像类别；确定补丁区域，所述补丁区域用于限定对抗补丁被用于所述源图像和所述目标图像中的位置和大小；基于所述源图像、所述目标图像和所述补丁区域，通过多轮迭代确定对抗补丁，其中所述对抗补丁被用于所述目标图像后得到的对抗样本能够被机器学习模型识别为属于所述第一图像类别；使用所述对抗样本对所述机器学习模型进行对抗训练，得到目标模型。
-
公开(公告)号：CN111027628B
公开(公告)日：2022-03-11
申请号：CN201911273135.4
申请日：2019-12-12
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06V10/764 , G06V10/70 , G06N20/00
Abstract: 本说明书实施例公开了一种模型确定方法。所述方法包括：获取源图像和目标图像，其中所述源图像属于第一图像类别，所述目标图像属于第二图像类别；确定补丁区域，所述补丁区域用于限定对抗补丁被用于所述源图像和所述目标图像中的位置和大小；基于所述源图像、所述目标图像和所述补丁区域，通过多轮迭代确定对抗补丁，其中所述对抗补丁被用于所述目标图像后得到的对抗样本能够被机器学习模型识别为属于所述第一图像类别；使用所述对抗样本对所述机器学习模型进行对抗训练，得到目标模型。
-
公开(公告)号：CN112200257A
公开(公告)日：2021-01-08
申请号：CN202011112696.9
申请日：2020-10-16
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06K9/62 , G06N20/00 , G06F16/903
Abstract: 本说明书实施例提供一种对抗样本的生成方法，所述对抗样本对应m维样本向量，用于攻击特定模型；该方法包括：确定m维空间的n维子空间所对应的m*n维投影矩阵，再基于该m*n维投影矩阵，对当前对抗样本进行多轮迭代更新，其中任一轮迭代更新包括：先从该n维子空间中随机采样b个高斯向量；接着，利用该m*n维投影矩阵，将所述b个高斯向量映射回该m维空间，得到b个干扰向量；再将所述b个干扰向量分别添加至当前对抗样本对应的样本向量，得到b个查询样本，并查询该所述b个查询样本是否对所述特定模型攻击成功；再基于b个干扰向量和对应的b个查询结果，估计样本梯度向量，并利用该样本梯度向量，更新上述当前对抗样本。
-
公开(公告)号：CN112200257B
公开(公告)日：2022-08-19
申请号：CN202011112696.9
申请日：2020-10-16
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06K9/62 , G06N20/00 , G06F16/903
Abstract: 本说明书实施例提供一种对抗样本的生成方法，所述对抗样本对应m维样本向量，用于攻击特定模型；该方法包括：确定m维空间的n维子空间所对应的m*n维投影矩阵，再基于该m*n维投影矩阵，对当前对抗样本进行多轮迭代更新，其中任一轮迭代更新包括：先从该n维子空间中随机采样b个高斯向量；接着，利用该m*n维投影矩阵，将所述b个高斯向量映射回该m维空间，得到b个干扰向量；再将所述b个干扰向量分别添加至当前对抗样本对应的样本向量，得到b个查询样本，并查询该所述b个查询样本是否对所述特定模型攻击成功；再基于b个干扰向量和对应的b个查询结果，估计样本梯度向量，并利用该样本梯度向量，更新上述当前对抗样本。
-
-
-
Search Results
4
records
(took 0.02 seconds)
