公开(公告)号：CN117610674A

公开(公告)日：2024-02-27

申请号：CN202311302239.X

申请日：2023-10-10

Applicant: 北京交通大学

Inventor： 高博 ,  孙蔚 ,  熊轲 ,  陆杨

IPC: G06N20/00 ,  G06F18/2135 ,  G06F18/213

Abstract: 本发明提供一种针对联邦学习数据中毒攻击的防御方法及系统，属于联邦机器学习安全技术领域，在联邦学习的每个训练轮次获取选中客户端的局部模型，将局部模型降至低维；对于每个选中客户端，存储一个运行周期内的低维局部模型，将这个运行周期内的低维局部模型集合压缩为选中客户端的局部模型分布特征表示；利用第一批基准客户端的局部模型分布特征表示筛选出用于基准计算的局部模型分布特征表示集并计算基准模型分布特征表示；计算每个选中客户端的局部模型分布特征表示与基准模型分布特征表示的差异程度；对客户端局部模型异常程度进行门限识别，异常程度高于异常阈值的将其视为恶意客户端并在后续的联邦训练过程中忽略其局部模型。

公开(公告)号：CN119067235A

公开(公告)日：2024-12-03

申请号：CN202411159278.3

申请日：2024-08-22

Applicant: 北京交通大学

Inventor： 高博 ,  孙蔚 ,  熊轲 ,  陆杨 ,  张志飞

IPC: G06N20/00 ,  G06F18/213 ,  G06F18/24 ,  G06F18/214 ,  G06F21/60

Abstract: 本发明提供一种基于双端安全防护的联邦学习方法及系统，属于联邦学习技术领域，各客户端的局部数据须经数据筛选器筛选后输入主任务进行局部训练，并保存筛选结果生成局部数据描述；各客户端将局部模型与局部数据描述一同上传给服务器；当服务器存有足够多的客户端历史模型信息后运行模型筛选器，利用各客户端处理后的局部模型集与局部数据描述对局部模型质量进行审查，后续服务器将根据客户端局部模型质量审查结果指导联邦训练与聚合过程。本发明在客户端对局部数据集进行离线的自动审查，在服务器端对收集到的局部模型进行审查，在不违反联邦学习隐私保护原则的前提对数据、模型安全进行全面防护，提高了联邦学习的鲁棒性与可信度。