公开(公告)号：CN118540096A

公开(公告)日：2024-08-23

申请号：CN202410421446.5

申请日：2024-04-09

Applicant: 北京交通大学

Inventor： 王伟 ,  郝玉蓉 ,  刘吉强 ,  李超 ,  段莉 ,  许向蕊 ,  陈国荣 ,  刘鹏睿 ,  吕晓婷 ,  陈政 ,  刘敬楷 ,  振昊 ,  韩昫 ,  刘冲 ,  胡福强 ,  祝咏升 ,  代娇

IPC: H04L9/40 ,  H04L41/16 ,  G06F16/9535 ,  G06N3/098 ,  G06N20/00

Abstract: 本发明公开了一种面向联邦推荐的有目标投毒攻击防御方法及系统，包括：服务器随机选取预设比例的客户端参加模型训练；服务器连续记录不同用户在每一轮的更新项目模式；服务器通过识别良性用户在训练期间更新项目的两种模式，动态剔除不满足前述模式条件的异常用户；服务器将剩余用户上传的梯度作为正常梯度参与后续聚合更新，并将聚合更新后的结果作为新一轮参数发送至客户端；重复该过程直至模型收敛。本发明能够在训练过程中动态检测来自客户端上传的模型参数更新和交互项目更新模式，通过识别良性用户在训练期间更新项目的两种模式，针对性的对参与联邦推荐训练的异常用户进行检测并剔除，可以有效减轻有目标投毒攻击对联邦推荐系统的损害。

公开(公告)号：CN116962085B

公开(公告)日：2023-12-08

申请号：CN202311213109.9

申请日：2023-09-20

Applicant: 北京交通大学

Inventor： 王伟 ,  陈国荣 ,  吕晓婷 ,  许向蕊 ,  祝咏升 ,  胡福强 ,  刘鹏睿 ,  陈政 ,  韩臻 ,  段莉 ,  李超 ,  金一

IPC: H04L9/40 ,  H04L41/16 ,  G06N3/098

Abstract: 本说明书实施例提供了一种鲁棒的个性化联邦学习方法、装置及系统，方法包括：服务器接收来自多个客户端的模型更新数据，模型更新数据为在客户端上训练的本地模型的参数在训练前后的参数差值；服务器根据模型更新数据，得到各模型更新数据之间的基于α的层位置正则化相似度；服务器针对每一个客户端，根据基于α的层位置正则化相似度，得到模型更新数据的权重；服务器根据模型更新数据的权重和模型更新数据，分别得到各客户端对应的聚合模型更新数据；服务器发送聚合模型更新数据到各客户端。本申请提供的技术方案用以解决在联邦学习中系统中存在恶意攻击者时，通过本地协作训练

公开(公告)号：CN116882480A

公开(公告)日：2023-10-13

申请号：CN202311013570.X

申请日：2023-08-11

Applicant: 北京交通大学

Inventor： 王伟 ,  孔文康 ,  吕晓婷 ,  刘鹏睿 ,  陈国荣 ,  陈政 ,  刘敬楷 ,  祝咏升 ,  胡福强 ,  段莉 ,  李超 ,  刘吉强

IPC: G06N3/088 ,  G06N3/098 ,  G06F18/214 ,  G06F18/241 ,  G06N5/02 ,  G06F21/62

Abstract: 本发明提供了一种面向隐私保护的扩散模型驱动的无监督域泛化方法。该方法包括：目标服务器把训练完成的扩散模型和初始化完成的全局模型发送到各个客户端；各个客户端从扩散模型中采样出虚拟目标域数据，提取出域的特异特征和共享特征，各个客户端把域的共享特征和训练后的客户端模型上传到目标域中的目标服务器，目标服务器通过各客户端模型对目标域的样本进行联邦置信度投票，生成虚拟预测域；目标服务器根据各个客户端对虚拟预测域的贡献，动态调整各个客户端模型的权重，使用联邦置信度投票出的虚拟预测域，得到用于下一轮的联邦下发的全局模型。本发明使用扩散模型能够对目标域的数据进行较好的隐私保护，并有足够的通用性，降低了通讯压力。