公开(公告)号：CN117253094A

公开(公告)日：2023-12-19

申请号：CN202311411509.0

申请日：2023-10-30

Applicant: 上海计算机软件技术开发中心

Inventor： 陈敏刚 ,  方鸿涛 ,  马泽宇 ,  王瑞云 ,  谭鑫 ,  沈颖 ,  胡芸 ,  葛建新

IPC: G06V10/764 ,  G06V10/82 ,  G06N3/0475 ,  G06N3/084 ,  G06N3/094

Abstract: 本发明公开一种图像分类系统对抗性样本生成方法、系统及电子设备，涉及黑盒对抗攻击技术领域，所述方法包括：根据预设下游任务，获取i种类别的图像；每种类别均包括j张图像；将各类别的图像分别求均值，得到对应类别的均值图像；基于各类别的均值图像确定对应类别的类别敏感补丁区域；获取目标图像；基于目标图像、微调后的替代图像分类模型和攻击区域修正网络，确定实例敏感补丁区域；基于类别敏感补丁区域和实例敏感补丁区域确定待填充补丁区域；基于目标图像和微调后的替代图像分类模型，确定补丁纹理；基于待填充补丁区域、补丁纹理和目标图像，得到对抗性样本。本发明提高了图像分类系统对抗性样本的迁移性。

公开(公告)号：CN117253094B

公开(公告)日：2024-05-14

申请号：CN202311411509.0

申请日：2023-10-30

Applicant: 上海计算机软件技术开发中心

Inventor： 陈敏刚 ,  方鸿涛 ,  马泽宇 ,  王瑞云 ,  谭鑫 ,  沈颖 ,  胡芸 ,  葛建新

IPC: G06V10/764 ,  G06V10/82 ,  G06N3/0475 ,  G06N3/084 ,  G06N3/094

Abstract: 本发明公开一种图像分类系统对抗性样本生成方法、系统及电子设备，涉及黑盒对抗攻击技术领域，所述方法包括：根据预设下游任务，获取i种类别的图像；每种类别均包括j张图像；将各类别的图像分别求均值，得到对应类别的均值图像；基于各类别的均值图像确定对应类别的类别敏感补丁区域；获取目标图像；基于目标图像、微调后的替代图像分类模型和攻击区域修正网络，确定实例敏感补丁区域；基于类别敏感补丁区域和实例敏感补丁区域确定待填充补丁区域；基于目标图像和微调后的替代图像分类模型，确定补丁纹理；基于待填充补丁区域、补丁纹理和目标图像，得到对抗性样本。本发明提高了图像分类系统对抗性样本的迁移性。