-
公开(公告)号：CN112257063A
公开(公告)日：2021-01-22
申请号：CN202011118184.3
申请日：2020-10-19
Applicant: 上海交通大学
Abstract: 本发明属于隐私保护的技术领域，公开了一种基于合作博弈论的联邦学习中后门攻击的检测方法，通过联邦学习中央服务器采集各个用户上传的每一轮训练轮次的模型梯度数据，然后利用合作博弈论中的Shapley值改进算法对每个用户的模型梯度数据进行计算，获得其对整体全局模型贡献程度的度量值，最后基于绝对离差中位数的离群检测算法，定量对得到的度量值进行后门攻击异常检测，从而判断对应的用户是否为攻击者。本发明的方法能在可以接受的时间开销范围内，准确检测出各种攻击配置下的针对联邦学习的隐蔽后门攻击，消除其对于整个联邦学习机制训练的影响，从而保证训练过程的安全和鲁棒性。
-
公开(公告)号：CN112257063B
公开(公告)日：2022-09-02
申请号：CN202011118184.3
申请日：2020-10-19
Applicant: 上海交通大学
Abstract: 本发明属于隐私保护的技术领域，公开了一种基于合作博弈论的联邦学习中后门攻击的检测方法，通过联邦学习中央服务器采集各个用户上传的每一轮训练轮次的模型梯度数据，然后利用合作博弈论中的Shapley值改进算法对每个用户的模型梯度数据进行计算，获得其对整体全局模型贡献程度的度量值，最后基于绝对离差中位数的离群检测算法，定量对得到的度量值进行后门攻击异常检测，从而判断对应的用户是否为攻击者。本发明的方法能在可以接受的时间开销范围内，准确检测出各种攻击配置下的针对联邦学习的隐蔽后门攻击，消除其对于整个联邦学习机制训练的影响，从而保证训练过程的安全和鲁棒性。
-
Search Results
2
records
(took 0.015 seconds)
