-
公开(公告)号:CN119788325A
公开(公告)日:2025-04-08
申请号:CN202411785713.3
申请日:2024-12-06
Applicant: 东华大学
IPC: H04L9/40 , G06N3/0475 , G06N3/045 , G06N3/094 , G06N3/098
Abstract: 本发明提供的一种隐私感知的增量式中毒攻击防御方法以及系统,所述方法包括步骤:根据上传模型参数的聚类结果及密度距离,计算得到所述上传模型参数的偏移积累量;基于所述偏移积累量,使用阈值划分信任域,计算得到信任度分数并据此聚合模型参数;根据所述参与者的信任度分数,采用差异化差分隐私机制,对所述聚合的模型参数添加差异化的高斯噪声,兼顾隐私保护和模型精度。本发明提供的一种隐私感知的增量式中毒攻击防御方法,既能有效抵制基于生成对抗网络的隐蔽式中毒攻击,又能在保护隐私的前提下尽可能保持模型精度,极大的提高了联邦学习中的安全性和隐私性。