一种隐私感知的增量式中毒攻击防御方法及系统

    公开(公告)号:CN119788325A

    公开(公告)日:2025-04-08

    申请号:CN202411785713.3

    申请日:2024-12-06

    Applicant: 东华大学

    Inventor: 李重 董宇 黄慧颖

    Abstract: 本发明提供的一种隐私感知的增量式中毒攻击防御方法以及系统,所述方法包括步骤:根据上传模型参数的聚类结果及密度距离,计算得到所述上传模型参数的偏移积累量;基于所述偏移积累量,使用阈值划分信任域,计算得到信任度分数并据此聚合模型参数;根据所述参与者的信任度分数,采用差异化差分隐私机制,对所述聚合的模型参数添加差异化的高斯噪声,兼顾隐私保护和模型精度。本发明提供的一种隐私感知的增量式中毒攻击防御方法,既能有效抵制基于生成对抗网络的隐蔽式中毒攻击,又能在保护隐私的前提下尽可能保持模型精度,极大的提高了联邦学习中的安全性和隐私性。

Patent Agency Ranking