公开(公告)号：CN113537494B

公开(公告)日：2022-11-11

申请号：CN202110838268.2

申请日：2021-07-23

Applicant: 江南大学

Inventor： 胡聪 ,  徐灏琦 ,  吴小俊 ,  宋晓宁 ,  陆恒杨

IPC: G06N3/08 ,  G06N3/04 ,  G06N20/20 ,  G06V10/774 ,  G06V10/82 ,  G06V10/764

Abstract: 本发明公开了一种基于黑盒场景的图像对抗样本生成方法，包括：将图片x输入至多个白盒模型，分别得出目标标签或真实标签的概率值；动态计算所述概率值对应白盒模型的权重；根据所述概率值与所述白盒模型的权重，得到集成模型的概率值；根据所述集成模型的概率值计算损失值，并进行反向传播；将所述反向传播后图片的梯度作为扰动图像，加入到对抗样本中；重复迭代，获取最终对抗样本。本发明方法能够在黑盒环境下取得更好的效果，后续深入分析了对抗样本的生成过程，进一步证实动态集成方法能够按照预期合理得调整各个模型的权重，并增强对抗样本的黑盒效果。

公开(公告)号：CN113537494A

公开(公告)日：2021-10-22

申请号：CN202110838268.2

申请日：2021-07-23

Applicant: 江南大学

Inventor： 胡聪 ,  徐灏琦 ,  吴小俊 ,  宋晓宁 ,  陆恒杨

IPC: G06N3/08 ,  G06N3/04 ,  G06N20/20 ,  G06K9/62

Abstract: 本发明公开了一种基于黑盒场景的图像对抗样本生成方法，包括：将图片x输入至多个白盒模型，分别得出目标标签或真实标签的概率值；动态计算所述概率值对应白盒模型的权重；根据所述概率值与所述白盒模型的权重，得到集成模型的概率值；根据所述集成模型的概率值计算损失值，并进行反向传播；将所述反向传播后图片的梯度作为扰动图像，加入到对抗样本中；重复迭代，获取最终对抗样本。本发明方法能够在黑盒环境下取得更好的效果，后续深入分析了对抗样本的生成过程，进一步证实动态集成方法能够按照预期合理得调整各个模型的权重，并增强对抗样本的黑盒效果。