公开(公告)号：CN112633280A

公开(公告)日：2021-04-09

申请号：CN202011620173.5

申请日：2020-12-31

Applicant: 西北大学

Inventor： 叶贵鑫 ,  王玉莉 ,  车小康 ,  田洋 ,  瞿兴 ,  范子茜 ,  汤战勇 ,  房鼎益

IPC: G06K9/32 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种对抗样本生成方法与系统。所公开的方法包括获取原始图像的可解释性区域图像；确定合适的像素阈值，根据可解释性区域图像生成该阈值下原始图像的扰动添加模板，根据扰动添加模板中的0像素点值在原始图像的相应像素点处添加叠加扰动，生成该原始图像的对抗样本。所述公开的系统为执行所述对抗样本生成方法的系统。本发明可确保对抗扰动的可感知性和攻击性，且人眼不易发现本发明的方法加在对抗样本中的扰动，同时经验证模型以较高的概率被对抗样本误分类。

公开(公告)号：CN112633280B

公开(公告)日：2023-01-31

申请号：CN202011620173.5

申请日：2020-12-31

Applicant: 西北大学

Inventor： 叶贵鑫 ,  王玉莉 ,  车小康 ,  田洋 ,  瞿兴 ,  范子茜 ,  汤战勇 ,  房鼎益

IPC: G06V10/25 ,  G06V10/774 ,  G06V10/764 ,  G06V10/77 ,  G06V10/82 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明公开了一种对抗样本生成方法与系统。所公开的方法包括获取原始图像的可解释性区域图像；确定合适的像素阈值，根据可解释性区域图像生成该阈值下原始图像的扰动添加模板，根据扰动添加模板中的0像素点值在原始图像的相应像素点处添加叠加扰动，生成该原始图像的对抗样本。所述公开的系统为执行所述对抗样本生成方法的系统。本发明可确保对抗扰动的可感知性和攻击性，且人眼不易发现本发明的方法加在对抗样本中的扰动，同时经验证模型以较高的概率被对抗样本误分类。