-
公开(公告)号：CN112215292B
公开(公告)日：2022-03-29
申请号：CN202011121652.2
申请日：2020-10-19
Applicant: 电子科技大学
IPC: G06V10/774 , G06V10/764 , G06V10/77 , G06V10/82 , G06K9/62 , G06N3/04
Abstract: 本发明属于计算机软件领域，公开了一种基于迁移性的图像对抗样本生成装置及方法，针对上述黑盒攻击需要大量问询，或者迁移性不高的问题，实现在少量问询的条件下，提高了对抗样本的攻击成功率。主要方案为1)输入正常图像样本；2)图像样本经过自编码器处理得到降维后的数据D；3)依次传入经过筛选的本地图像分类器中并使用PGD对抗样本生成算法得到不同的扰动ri；4)根据权重系数将这些扰动线性集成得到最终的扰动f(D)；5)将降维后的数据D添加上扰动f(D)后经自编码器解码得到最终的对抗样本。
-
公开(公告)号：CN113139618A
公开(公告)日：2021-07-20
申请号：CN202110520353.4
申请日：2021-05-12
Applicant: 电子科技大学
Abstract: 本发明属于人工智能科学领域，提供了一种基于集成防御的鲁棒性增强的分类方法及装置，主旨在于解决传统图像去噪、自编码网络去噪和原有蒸馏防御的问题。主要方案包括首先将取自图像的原始数据集经过数据预处理后进行特征提取；然后对图像进行是否是对抗样本的分类检测，主要步骤为将图像分别进行传统图像去噪、深度学习去噪，将原对抗样本和两种去噪图像分三次输入到原始分类模型中进行预测，分别计算两次去噪图像预测的标签概率与原图像预测概率之差，并取差值的最大值，若差值大于某阈值则判别输出为对抗样本，反之则不是；最后对模型进行梯度平滑的鲁棒性增强，鲁棒性增强模型。
-
公开(公告)号：CN112200243A
公开(公告)日：2021-01-08
申请号：CN202011074406.6
申请日：2020-10-09
Applicant: 电子科技大学
Abstract: 本发明公开了一种基于低问询图像数据的黑盒对抗样本生成方法，属于对抗样本生成方法技术领域，解决现有得到有效的黑盒对抗样本迭代次数多的问题。本发明在图像识别应用中，获取当前图像数据；随机选择任一已知模型，基于已知模型设置白盒对抗样本生成参数，再基于白盒生成方法和当前图像数据生成已知模型有效的白盒对抗样本；将白盒对抗样本减去当前图像数据，并进行归一化操作后，生成对抗性向量；将当前图像数据和加入了对抗性向量的当前图像数据分别送入到未知模型中，得到输出后使用ADAM算法对当前图像数据进行更新，更新后，若满足要求，得到黑盒对抗样本，若不满足要求，将更新后的图像数据重复执行。本发明用于生成黑盒对抗样本。
-
公开(公告)号：CN111783890B
公开(公告)日：2022-06-03
申请号：CN202010637934.1
申请日：2020-07-02
Applicant: 电子科技大学
IPC: G06V10/764 , G06K9/62 , G06V10/80 , G06V10/774
Abstract: 本发明涉及机器学习领域，提供了一种针对图像识别过程中的小像素对抗样本防御方法，目的在于解决在小像素图像识别过程中，对添加扰动伪装后的图像识别错误的问题。主要方案包括，使原始样本集O进行模型的训练，得到一个未经过增强的分类模型，对训练数据集中的每一张图片，进行对抗样本生成，得到对抗样本集合A并进行扰动数值的统计，统计每个扰动数值所占的比重，计算出每一张对抗样本的扰动数值分布，得到对抗样本的扰动分布直方图；使用对抗样本的扰动分布直方图，模拟对抗样本生成算法扰动规律，对DUNet模型进行训练，得到降噪输入层；将降噪输入层和未经过增强的小像素图像分类模型进行拼接，得到增强的模型。
-
公开(公告)号：CN113139618B
公开(公告)日：2022-10-14
申请号：CN202110520353.4
申请日：2021-05-12
Applicant: 电子科技大学
IPC: G06V10/764 , G06V10/774 , G06V10/82 , G06V10/96 , G06V10/30 , G06N3/04 , G06N3/08
Abstract: 本发明属于人工智能科学领域，提供了一种基于集成防御的鲁棒性增强的分类方法及装置，主旨在于解决传统图像去噪、自编码网络去噪和原有蒸馏防御的问题。主要方案包括首先将取自图像的原始数据集经过数据预处理后进行特征提取；然后对图像进行是否是对抗样本的分类检测，主要步骤为将图像分别进行传统图像去噪、深度学习去噪，将原对抗样本和两种去噪图像分三次输入到原始分类模型中进行预测，分别计算两次去噪图像预测的标签概率与原图像预测概率之差，并取差值的最大值，若差值大于某阈值则判别输出为对抗样本，反之则不是；最后对模型进行梯度平滑的鲁棒性增强，鲁棒性增强模型。
-
Patent Agency Ranking
公开(公告)号：CN111783890A
公开(公告)日：2020-10-16
申请号：CN202010637934.1
申请日：2020-07-02
Applicant: 电子科技大学
IPC: G06K9/62
Abstract: 本发明涉及机器学习领域，提供了一种针对图像识别过程中的小像素对抗样本防御方法，目的在于解决在小像素图像识别过程中，对添加扰动伪装后的图像识别错误的问题。主要方案包括，使原始样本集O进行模型的训练，得到一个未经过增强的分类模型，对训练数据集中的每一张图片，进行对抗样本生成，得到对抗样本集合A并进行扰动数值的统计，统计每个扰动数值所占的比重，计算出每一张对抗样本的扰动数值分布，得到对抗样本的扰动分布直方图；使用对抗样本的扰动分布直方图，模拟对抗样本生成算法扰动规律，对DUNet模型进行训练，得到降噪输入层；将降噪输入层和未经过增强的小像素图像分类模型进行拼接，得到增强的模型。
-
公开(公告)号：CN110569916A
公开(公告)日：2019-12-13
申请号：CN201910868997.5
申请日：2019-09-16
Applicant: 电子科技大学
Abstract: 本发明涉及用于人工智能分类的对抗样本防御系统及方法，其中系统包括第一常规卷积神经网络、防御模型训练模块、第一降采样器连接的第一降采样卷积神经网络；防御模型训练模块中的数据集分别输入到第一常规卷积神经网络，和经第一降采样器输入到第一降采样卷积神经网络中；对抗样本训练集获取模块与数据集一同输入到第二常规卷积神经网络和第二降采样器中，第二降采样器通过第二降采样卷积神经网络与第二常规卷积神经网络一同输入到全连接模型融合器后输出防御模型；第一常规卷积神经网络和第一降采样卷积神经网络分别对应输出参数到第二常规卷积神经网络和第二降采样卷积神经网络中。本发明能够有效提高对对抗样本分类的准确性和鲁棒性。
-
公开(公告)号：CN112215292A
公开(公告)日：2021-01-12
申请号：CN202011121652.2
申请日：2020-10-19
Applicant: 电子科技大学
Abstract: 本发明属于计算机软件领域，公开了一种基于迁移性的图像对抗样本生成装置及方法，针对上述黑盒攻击需要大量问询，或者迁移性不高的问题，实现在少量问询的条件下，提高了对抗样本的攻击成功率。主要方案为1)输入正常图像样本；2)图像样本经过自编码器处理得到降维后的数据D；3)依次传入经过筛选的本地图像分类器中并使用PGD对抗样本生成算法得到不同的扰动ri；4)根据权重系数将这些扰动线性集成得到最终的扰动f(D)；5)将降维后的数据D添加上扰动f(D)后经自编码器解码得到最终的对抗样本。
-
公开(公告)号：CN112200243B
公开(公告)日：2022-04-26
申请号：CN202011074406.6
申请日：2020-10-09
Applicant: 电子科技大学
IPC: G06K9/62 , G06V10/774 , G06V10/82 , G06N3/08
Abstract: 本发明公开了一种基于低问询图像数据的黑盒对抗样本生成方法，属于对抗样本生成方法技术领域，解决现有得到有效的黑盒对抗样本迭代次数多的问题。本发明在图像识别应用中，获取当前图像数据；随机选择任一已知模型，基于已知模型设置白盒对抗样本生成参数，再基于白盒生成方法和当前图像数据生成已知模型有效的白盒对抗样本；将白盒对抗样本减去当前图像数据，并进行归一化操作后，生成对抗性向量；将当前图像数据和加入了对抗性向量的当前图像数据分别送入到未知模型中，得到输出后使用ADAM算法对当前图像数据进行更新，更新后，若满足要求，得到黑盒对抗样本，若不满足要求，将更新后的图像数据重复执行。本发明用于生成黑盒对抗样本。
-
公开(公告)号：CN110569916B
公开(公告)日：2022-03-22
申请号：CN201910868997.5
申请日：2019-09-16
Applicant: 电子科技大学
Abstract: 本发明涉及用于人工智能分类的对抗样本防御系统及方法，其中系统包括第一常规卷积神经网络、防御模型训练模块、第一降采样器连接的第一降采样卷积神经网络；防御模型训练模块中的数据集分别输入到第一常规卷积神经网络，和经第一降采样器输入到第一降采样卷积神经网络中；对抗样本训练集获取模块与数据集一同输入到第二常规卷积神经网络和第二降采样器中，第二降采样器通过第二降采样卷积神经网络与第二常规卷积神经网络一同输入到全连接模型融合器后输出防御模型；第一常规卷积神经网络和第一降采样卷积神经网络分别对应输出参数到第二常规卷积神经网络和第二降采样卷积神经网络中。本发明能够有效提高对对抗样本分类的准确性和鲁棒性。
-
-
-
-
-
-
-
-
-
Search Results
11
records
(took 0.016 seconds)
