公开(公告)号：CN115034363B

公开(公告)日：2024-08-06

申请号：CN202210639043.9

申请日：2022-06-08

Applicant: 大连理工大学

Inventor： 刘晗 ,  黄星朔 ,  张晓彤 ,  张宪超

IPC: G06N3/0475 ,  G06N3/045 ,  G06N3/094 ,  G06V10/74 ,  G06V10/764 ,  G06V10/82

Abstract: 本发明属于深度学习的对抗样本领域，提出了一种基于梯度先验的高效黑盒对抗攻击方法，该方法建立在基于决策的边界攻击方法之上；为了解决边缘梯度差异问题，通过联合双边滤波器利用数据相关的先验，保留了具有相似像素值的在空间接近的像素点梯度相似的优势，而且还使具有不同值的像素的梯度多样化。针对连续迭代梯度方向问题，同时将连续对抗样本之间的距离和连续步骤的梯度方向作为附加判断条件，生成新的梯度方向，然后与基于决策的攻击方法相结合。本发明具有更少的对目标模型的查询次数，能够对现有的深度学习模型造成更大威胁，从而推动业界开发出更加安全的神经网络架构。

公开(公告)号：CN115034363A

公开(公告)日：2022-09-09

申请号：CN202210639043.9

申请日：2022-06-08

Applicant: 大连理工大学

Inventor： 刘晗 ,  黄星朔 ,  张晓彤 ,  张宪超

IPC: G06N3/04 ,  G06N3/08 ,  G06V10/74 ,  G06V10/764 ,  G06V10/82

Abstract: 本发明属于深度学习的对抗样本领域，提出了一种基于梯度先验的高效黑盒对抗攻击方法，该方法建立在基于决策的边界攻击方法之上；为了解决边缘梯度差异问题，通过联合双边滤波器利用数据相关的先验，保留了具有相似像素值的在空间接近的像素点梯度相似的优势，而且还使具有不同值的像素的梯度多样化。针对连续迭代梯度方向问题，同时将连续对抗样本之间的距离和连续步骤的梯度方向作为附加判断条件，生成新的梯度方向，然后与基于决策的攻击方法相结合。本发明具有更少的对目标模型的查询次数，能够对现有的深度学习模型造成更大威胁，从而推动业界开发出更加安全的神经网络架构。