公开(公告)号：CN116304923A

公开(公告)日：2023-06-23

申请号：CN202310172333.1

申请日：2023-02-24

Applicant: 武汉大学

Inventor： 汪润 ,  吴梦洁 ,  王玮 ,  杨康 ,  刘丽 ,  陈晶 ,  王丽娜

IPC: G06F18/2431 ,  G06F18/214 ,  G06N5/01 ,  G06N20/00

Abstract: 本发明提供了一种基于分治策略的对抗样本检测方法及设备。所述方法包括：步骤1：测试样本输入目标模型，得到特征图；步骤2：将特征图输入特征图检测器FMD，特征图检测器FMD检测该样本是否为对抗样本；步骤3：将特征图输入对抗噪声擦除器ANE进行检测；步骤4：集成特征图检测器FMD及对抗噪声擦除器ANE的检测结果，若有一个检测器检测出所述测试样本是对抗样本，则确定所述测试样本是对抗样本。本发明通过在快速梯度符号方法生成的对抗样本上进行训练，可以精确的检测出其余所有的未知攻击方法生成的对抗样本，达到平均97％的AUC值，提出的检测算法可以应用于真实世界。