公开(公告)号：CN110460600B

公开(公告)日：2021-09-03

申请号：CN201910746047.5

申请日：2019-08-13

Applicant: 南京理工大学

Inventor： 吴介 ,  付安民 ,  曾凡健 ,  王永利 ,  俞研 ,  陈珍珠

IPC: H04L29/06 ,  H04L12/24

Abstract: 本发明提出一种可抵御生成对抗网络(GAN)攻击的联合深度学习方法，包括深度学习模型初始化；盲化服务器初始化；模型保护联合学习等步骤。通过结合矩阵盲化技术和随机梯度下降法，可以实现输入向量以及部分模型参数的盲化。本发明通过限制攻击者本地生成对抗网络的建模与更新，同时限制深度学习模型使用权等方式，允许分布式训练者在本地利用隐私数据集训练得到模型参数的梯度更新，每个训练者的梯度更新将由参数服务器聚合，实现系统模型的全局更新。本发明实现了对GAN攻击的抵御，保护了联合深度学习系统模型，极大平衡了模型准确率与训练数据隐私保护的要求。

公开(公告)号：CN112600794A

公开(公告)日：2021-04-02

申请号：CN202011325674.0

申请日：2020-11-23

Applicant: 南京理工大学 ,  赛尔网络有限公司

Inventor： 曾凡健 ,  付安民 ,  陈珍珠 ,  李千目 ,  苏铓 ,  骆志成

IPC: H04L29/06 ,  G06N3/08 ,  G06N3/04 ,  G06K9/62 ,  G06F21/56

Abstract: 本发明公开了一种联合深度学习中检测生成对抗网络攻击的方法，包括：服务器和参与者发起联合深度学习模型训练任务，并完成联合深度学习模型的初始化；服务器模拟GAN攻击，获取样本数据；服务器通过深度神经网络，构建GAN攻击检测分类器并对其进行训练；将联合深度学习模型训练过程中的更新梯度通过层分类器进行特征提取，输入到检测GAN攻击总分类器进行预测，获得参与者上传的含有错误分类信息的恶意数据的概率。本发明将联合学习中参与者上传的更新梯度作为训练数据集，提取不同的特征，构建一个分类器识别并过滤含有错误分类信息的更新梯度，从而保护参与者的隐私和模型的安全。

公开(公告)号：CN110460600A

公开(公告)日：2019-11-15

申请号：CN201910746047.5

申请日：2019-08-13

Applicant: 南京理工大学

Inventor： 吴介 ,  付安民 ,  曾凡健 ,  王永利 ,  俞研 ,  陈珍珠

IPC: H04L29/06 ,  H04L12/24

Abstract: 本发明提出一种可抵御生成对抗网络(GAN)攻击的联合深度学习方法，包括深度学习模型初始化；盲化服务器初始化；模型保护联合学习等步骤。通过结合矩阵盲化技术和随机梯度下降法，可以实现输入向量以及部分模型参数的盲化。本发明通过限制攻击者本地生成对抗网络的建模与更新，同时限制深度学习模型使用权等方式，允许分布式训练者在本地利用隐私数据集训练得到模型参数的梯度更新，每个训练者的梯度更新将由参数服务器聚合，实现系统模型的全局更新。本发明实现了对GAN攻击的抵御，保护了联合深度学习系统模型，极大平衡了模型准确率与训练数据隐私保护的要求。