公开(公告)号：CN117708804A

公开(公告)日：2024-03-15

申请号：CN202311697612.6

申请日：2023-12-11

Applicant: 西安电子科技大学 ,  西安电子科技大学杭州研究院

Inventor： 张海宾 ,  周相南 ,  唐舒楠 ,  吕敏杰 ,  杨学武 ,  王海涛 ,  崔佳松

IPC: G06F21/55 ,  G06F21/56 ,  G06F18/214 ,  G06F18/243

Abstract: 本发明提供了一种基于训练推理解耦触发器的后门攻击方法、装置和设备，该方法包括：以最大值滤波器作为触发器生成第一中毒数据集，第一中毒数据集包括多个第一中毒样本图像；根据第一中毒数据集和良性数据集对初始模型进行训练，得到包含后门的受害模型，受害模型能够被以白色光栅作为触发器所生成的第二中毒样本图像攻击，通过该方法能够提高后门的隐蔽性、提升后门攻击的攻击性、隐蔽性、灵活性、稳定性。

公开(公告)号：CN117689004A

公开(公告)日：2024-03-12

申请号：CN202311705154.6

申请日：2023-12-12

Applicant: 西安电子科技大学 ,  西安电子科技大学杭州研究院

Inventor： 张海宾 ,  王海涛 ,  王冰 ,  吕敏杰 ,  周相南 ,  杨学武 ,  唐舒楠

IPC: G06N3/094 ,  G06T11/00 ,  G06V10/774 ,  G06V10/82

Abstract: 本发明公开了一种基于空域映射与频域加性扰动的对抗样本生成方法和装置，涉及计算极视觉的图像识别技术领域，解决了现有技术中在为图像中的像素点添加扰动时，容易被察觉后导致的图像失真；该方法包括：获取原始图像；对原始图像上的像素点添加空域映射扰动函数，得到第一样本图像；将第一样本图像映射至频域空间，并添加频域加性扰动，得到对抗样本频带；其中，对抗样本频带服从第二目标函数，且对抗样本频带服从频域扰动约束；将对抗样本频带转换为对抗样本图像；实现了像素在每个维度的扰动都不超过预设值，且将中间图像转化至频域空间，可以更系统地修改频域中的能量，减少了像素级的冗余噪声，从而导致更隐蔽的攻击。

公开(公告)号：CN117456301A

公开(公告)日：2024-01-26

申请号：CN202311354131.5

申请日：2023-10-18

Applicant: 西安电子科技大学

Inventor： 张海宾 ,  杨学武 ,  崔佳松 ,  吕敏杰 ,  周相南 ,  王海涛

IPC: G06V10/774 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/08

Abstract: 本发明公开了一种基于环境模拟与双目标优化的测试样本生成方法，包括：获取当前所在环境的第一测试样本集；对第一测试样本集中的每个测试样本增加扰动得到第二测试样本集；将第二测试样本集输入神经网络模型中；在神经网络模型中构建了双目标联合优化函数；双目标联合优化函数包括第一目标优化函数用于表征神经网络模型的输出损失情况，第二目标优化函数用于表征神经网络模型的加权神经元覆盖情况；判断神经网络模型的输出结果是否达到预设差异阈值，若达到，将第二测试样本集加入第一测试样本集，若未达到，对第一测试样本集中的每个测试样本再次增加扰动，重复上述过程。本发明可以自动化挖掘异常输入以生成更多的测试样本。