公开(公告)号：CN117114146B

公开(公告)日：2024-03-29

申请号：CN202311007539.5

申请日：2023-08-11

Applicant: 南京信息工程大学

Inventor： 王康 ,  陈先意 ,  丁思哲 ,  顾军 ,  钱郁滔 ,  江栋

IPC: G06N20/20 ,  G06F21/56 ,  H04L9/40

Abstract: 本发明公开了一种联邦学习模型中毒重建的方法、装置、介质及设备，所述方法包括获取中毒的联邦学习模型；基于各客户机在训练期间的本地模型的准确率，筛选出在联邦学习模型训练期间中毒的客户机，删除联邦学习模型中由中毒的客户机聚合得到的局部模型，将中毒的客户机作为恶意节点、未中毒的客户机作为诚实节点，将恶意节点从初始DAG网络中移除，得到第二DAG网络；基于第二DAG网络中各诚实节点的本地模型，逐轮聚合各诚实节点的本地模型，得到联邦学习模型的最新全局模型，完成联邦学习模型中毒重建。本发明能够快速剔除恶意节点，将已有的阶段训练成果加入到新一轮训练中，提高联邦学习的训练效率和抗攻击能力。

公开(公告)号：CN117114146A

公开(公告)日：2023-11-24

申请号：CN202311007539.5

申请日：2023-08-11

Applicant: 南京信息工程大学

Inventor： 王康 ,  陈先意 ,  丁思哲 ,  顾军 ,  钱郁滔 ,  江栋

IPC: G06N20/20 ,  G06F21/56 ,  H04L9/40

Abstract: 本发明公开了一种联邦学习模型中毒重建的方法、装置、介质及设备，所述方法包括获取中毒的联邦学习模型；基于各客户机在训练期间的本地模型的准确率，筛选出在联邦学习模型训练期间中毒的客户机，删除联邦学习模型中由中毒的客户机聚合得到的局部模型，将中毒的客户机作为恶意节点、未中毒的客户机作为诚实节点，将恶意节点从初始DAG网络中移除，得到第二DAG网络；基于第二DAG网络中各诚实节点的本地模型，逐轮聚合各诚实节点的本地模型，得到联邦学习模型的最新全局模型，完成联邦学习模型中毒重建。本发明能够快速剔除恶意节点，将已有的阶段训练成果加入到新一轮训练中，提高联邦学习的训练效率和抗攻击能力。

公开(公告)号：CN116881872A

公开(公告)日：2023-10-13

申请号：CN202311144210.3

申请日：2023-09-06

Applicant: 南京信息工程大学

Inventor： 陈先意 ,  糜慧 ,  刘宇 ,  何俊杰 ,  丁思哲 ,  闫雷鸣

IPC: G06F21/16 ,  G06F21/60 ,  G06N20/20 ,  G06N3/0464 ,  G06N3/098

Abstract: 本发明公开了一种面向联邦学习的鲁棒可溯源版权保护方法及系统，属于人工智能安全领域。通过中心服务器对神经网络模型进行修改，并为各个客户端生成不同的二进制水印；中心服务器将不同的水印分别嵌入到经过修改的模型中，得到若干嵌入水印的模型；中心服务器将各个嵌入水印的模型分发给对应客户端进行训练。本发明通过中心服务器向待分发的模型中嵌入独特的结构水印信息，使得水印在训练中与模型紧密关联，从而提高了水印的鲁棒性。