公开(公告)号：CN112329009A

公开(公告)日：2021-02-05

申请号：CN202011081206.3

申请日：2020-10-12

Applicant: 南京理工大学

Inventor： 周程安 ,  梁腾 ,  韦康 ,  马川 ,  李骏

IPC: G06F21/55 ,  G06N20/20 ,  G06N3/08 ,  G06F17/18

Abstract: 本发明公开了一种针对联合学习中噪声攻击的防御方法。该方法为：在聚合端聚合用户上传的参数之前，由服务器预先检验用户的可信度，并据此设置聚合时各个用户的权重，步骤如下：服务器利用已有公共数据产生初始模型，并分发给参与训练的用户端；每个用户端在本地更新模型，然后将结果上传至服务器；从第二轮上传开始，服务器计算每个用户端上传的模型参数与前一次上传参数之间的相关性，并将得到的所有相关性结果进行归一化处理，以此作为聚合时每个用户端的权重，生成新的全局模型；新的全局模型将再次被发送给所有用户端开始新一轮的训练，直到达到系统结束要求。本发明有效地防御了噪声攻击，提高了训练模型的精度，成本低廉且易于实现。

公开(公告)号：CN112329009B

公开(公告)日：2022-12-06

申请号：CN202011081206.3

申请日：2020-10-12

Applicant: 南京理工大学

Inventor： 李骏 ,  韦康 ,  马川 ,  周程安 ,  梁腾

IPC: G06F21/55 ,  G06N20/20 ,  G06N3/08 ,  G06F17/18

Abstract: 本发明公开了一种针对联合学习中噪声攻击的防御方法。该方法为：在聚合端聚合用户上传的参数之前，由服务器预先检验用户的可信度，并据此设置聚合时各个用户的权重，步骤如下：服务器利用已有公共数据产生初始模型，并分发给参与训练的用户端；每个用户端在本地更新模型，然后将结果上传至服务器；从第二轮上传开始，服务器计算每个用户端上传的模型参数与前一次上传参数之间的相关性，并将得到的所有相关性结果进行归一化处理，以此作为聚合时每个用户端的权重，生成新的全局模型；新的全局模型将再次被发送给所有用户端开始新一轮的训练，直到达到系统结束要求。本发明有效地防御了噪声攻击，提高了训练模型的精度，成本低廉且易于实现。