-
公开(公告)号：CN112381142B
公开(公告)日：2022-08-12
申请号：CN202011272206.1
申请日：2020-11-13
Applicant: 海南大学
Abstract: 本发明属于对抗样本防御技术领域，提供了一种基于重要特征的具有可解释性对抗样本生成方法及系统。其中，基于重要特征的具有可解释性对抗样本生成方法包括获取若干图像样本并标注对应标签，形成训练数据集和测试数据集；将测试数据集中的图像样本依次输入至目标模型和本地模型中，保留标签均预测正确的图像样本，作为生成对抗样本的种子；其中，目标模型和本地模型均采用训练数据集训练得到；基于生成对抗样本的种子，修改其排名前预设名数的特征值，生成临时对抗样本；其中，特征重要性的排名由本地模型输出；将生成的临时对抗样本输入到目标模型进行预测，目标模型对临时对抗样本预测错误即为最终生成的对抗样本集。
-
公开(公告)号：CN112381142A
公开(公告)日：2021-02-19
申请号：CN202011272206.1
申请日：2020-11-13
Applicant: 海南大学
Abstract: 本发明属于对抗样本防御技术领域，提供了一种基于重要特征的具有可解释性对抗样本生成方法及系统。其中，基于重要特征的具有可解释性对抗样本生成方法包括获取若干图像样本并标注对应标签，形成训练数据集和测试数据集；将测试数据集中的图像样本依次输入至目标模型和本地模型中，保留标签均预测正确的图像样本，作为生成对抗样本的种子；其中，目标模型和本地模型均采用训练数据集训练得到；基于生成对抗样本的种子，修改其排名前预设名数的特征值，生成临时对抗样本；其中，特征重要性的排名由本地模型输出；将生成的临时对抗样本输入到目标模型进行预测，目标模型对临时对抗样本预测错误即为最终生成的对抗样本集。
-
Search Results
2
records
(took 0.014 seconds)
