公开(公告)号：CN113723564A

公开(公告)日：2021-11-30

申请号：CN202111072894.1

申请日：2021-09-14

Applicant: 燕山大学

Inventor： 张世辉 ,  张晓微 ,  宋丹丹 ,  路佳琪 ,  杨永亮 ,  左东旭

IPC: G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明涉及一种对抗样本防御模型训练方法、系统及其应用，首先获取训练集，训练集包括对抗样本和真实样本。然后构建初始防御模型，初始防御模型包括生成器、判别器和分类器。最后利用训练集对初始防御模型进行训练，得到防御模型，本发明通过构造相应逆扰动来重构对抗样本，得到近似于真实样本的重构样本，从而获得较好的对抗样本防御效果。在对对抗样本进行分类时，先利用上述防御模型对待分类对抗样本进行对抗扰动消除，得到重构样本，所得到的重构样本可近似真实样本，将该重构样本输入至分类模型，能够使得分类模型正确分类，避免对抗扰动导致分类模型错误分类的问题，显著提高分类模型对对抗样本的分类正确率。

公开(公告)号：CN113723564B

公开(公告)日：2024-09-06

申请号：CN202111072894.1

申请日：2021-09-14

Applicant: 燕山大学

Inventor： 张世辉 ,  张晓微 ,  宋丹丹 ,  路佳琪 ,  杨永亮 ,  左东旭

IPC: G06F18/214 ,  G06F18/241 ,  G06N3/0464 ,  G06N3/045 ,  G06N3/084 ,  G06N3/094

Abstract: 本发明涉及一种对抗样本防御模型训练方法、系统及其应用，首先获取训练集，训练集包括对抗样本和真实样本。然后构建初始防御模型，初始防御模型包括生成器、判别器和分类器。最后利用训练集对初始防御模型进行训练，得到防御模型，本发明通过构造相应逆扰动来重构对抗样本，得到近似于真实样本的重构样本，从而获得较好的对抗样本防御效果。在对对抗样本进行分类时，先利用上述防御模型对待分类对抗样本进行对抗扰动消除，得到重构样本，所得到的重构样本可近似真实样本，将该重构样本输入至分类模型，能够使得分类模型正确分类，避免对抗扰动导致分类模型错误分类的问题，显著提高分类模型对对抗样本的分类正确率。