公开(公告)号：CN115879108A

公开(公告)日：2023-03-31

申请号：CN202310042424.3

申请日：2023-01-28

Applicant: 上海交通大学

Inventor： 邱卫东 ,  朱孝羽 ,  唐鹏 ,  黄征 ,  王杨德 ,  郭捷 ,  王强民

IPC: G06F21/56 ,  G06F18/214 ,  G06F18/24 ,  G06F18/23 ,  G06N3/048 ,  G06N20/00

Abstract: 一种基于神经网络特征提取的联邦学习模型攻击防御方法，在每轮进行联邦学习全局聚合之前，预先在安全环境下构建神经网络特征提取模型，并采用公开数据集对其进行训练，由服务器本身引导对局部参数的信任；在在线阶段利用训练后的神经网络特征提取模型对各个客户端上传的局部参数进行特征提取并输出至服务器，由服务器采用具有噪声的基于密度的聚类方法(DBSCAN)对特征向量进行分类并剔除对应的恶意局部参数，实现安全聚合。本发明每次迭代时通过在安全环境下预先训练神经网络，使得在线阶段对抗各类模型中毒攻击，从而有效防止恶意客户端对全局模型的损坏。