一种基于嵌入空间分散采样的黑盒对抗样本生成方法

    公开(公告)号:CN118351389A

    公开(公告)日:2024-07-16

    申请号:CN202410291193.4

    申请日:2024-03-14

    Abstract: 本发明提出的一种基于嵌入空间分散采样的黑盒对抗样本生成方法,属于神经网络图像处理技术领域。其包括:设置候选样本的扰动约束,在尽可能使得候选对抗样本扰动较小的同时保证其具有较高的迁移性;在本地多个替代模型中选择其中一个模型用于生成候选对抗样本,使得分散采样的范围是多个替代模型的对抗区域的并集;在嵌入空间中的分散采样,生成一个候选对抗样本;本发明提出图像增强使得在本地替代模型上经过白盒攻击生成的候选对抗样本具有不同的迁移性;以候选对抗样本作为输入来查询目标模型,并根据目标模型的输出更新方案参数。其可以提高对抗样本攻击的成功率,降低对目标模型的查询数量,并且能够适用于商用的DNN服务。

Patent Agency Ranking