公开(公告)号：CN118230087A

公开(公告)日：2024-06-21

申请号：CN202410250769.2

申请日：2024-03-06

Applicant: 喀什地区电子信息产业技术研究院

Inventor： 肖林 ,  王治国 ,  殷光强 ,  朱瑞 ,  殷康宁 ,  张嘉

IPC: G06V10/774 ,  G06V10/77 ,  G06V10/82 ,  G06V10/46 ,  G06N3/0475 ,  G06N3/045 ,  G06N3/094

Abstract: 本发明属于人工智能安全技术领域，公开了一种基于降维与迁移的对抗样本生成方法，将待处理原始图像和真实标签输入白盒模型集合；从白盒模型集合中随机选取一个白盒模型，通过FGSM算法生成一个候选对抗样本；将生成的候选对抗样本输入黑盒模型进行查询，获得满足终止条件的中间对抗样本；对生成的中间对抗样本进行噪声压缩，生成最终对抗样本。本发明提高了对抗样本的生成效率，同时降低了对抗样本与原始图像之间的差异。

公开(公告)号：CN118628865A

公开(公告)日：2024-09-10

申请号：CN202410758667.1

申请日：2024-06-13

Applicant: 喀什地区电子信息产业技术研究院

Inventor： 张嘉 ,  王治国 ,  殷光强 ,  朱瑞 ,  殷康宁 ,  刘胤

IPC: G06V10/774 ,  G06V10/82 ,  G06V10/80 ,  G06V40/16 ,  G06V10/44 ,  G06N3/0475 ,  G06N3/094 ,  G06N3/0455

Abstract: 本发明属于人工智能安全技术领域，公开了一种基于多对抗块的人脸对抗样本生成系统及训练方法，该系统包括：人脸关键特征点提取模块，用于对源图像的人脸关键特征点进行提取，得到人脸关键特征点坐标网格，确定出相应的目标攻击区域；并利用人脸的眼部及三角区的指定区域周围的特征点坐标生成相应的0‑1二进制掩膜；生成器，用于依据目标攻击区域生成相应的生成图像；融合模块，首先基于生成图像和二进制掩膜相乘生成多对抗块，然后结合源图像融合得到最终的人脸对抗样本。通过本发明方向训练后的基于多对抗块的人脸对抗样本生成系统，不仅可以使生成的人脸对抗样本具有优秀的人脸自然度，还可以提升对抗样本的可迁移性。