-
公开(公告)号:CN115115066A
公开(公告)日:2022-09-27
申请号:CN202210956833.X
申请日:2022-08-10
Applicant: 浙江工业大学
IPC: G06N20/00
Abstract: 本发明公开了一种基于对比学习的联邦学习个性化方法,通过权衡在整个数据集上训练的全局模型,与在本地子集上训练的本地模型,来实现个性化。通过当前本地模型学习到的表征与全局模型学习到的表征的一致性损失,来修正本地更新,进而实现联邦学习的个性化。将同时计算全局模型的表征、本地数据训练得到模型的表征,以及当前模型训练的本地模型的表征,然后通过个性化参数,规范这三个表征之间的距离,即在模型层面实现对比学习,以此来修正全局模型适应不同客户端上的任务。本发明能够适应客户端不同的任务,达到联邦学习个性化定制的要求。
-
公开(公告)号:CN114882573A
公开(公告)日:2022-08-09
申请号:CN202210629966.6
申请日:2022-06-06
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于个性化联邦学习的面部识别方法和装置,获取用户的面部图像数据,将所述面部图像数据输入最佳面部识别模型中,得到面部识别结果;个性化模型对上传的本地模型参数进行余弦相似度计算,对自身的全局模型参数进行更新,并将更新后的全局模型参数下发给相对应的客户端,实现在进行客户端分组的时候,将数据分布极端异常的客户端进行隔离,数据分布具有相似性的客户端会进行协作。该方法对恶意攻击方具有良好的防御作用,利用个性化机制进行训练,逐渐将恶意客户端与正常客户端进行分离,聚合不同的全局模型,减少彼此之间的影响,实现对面部的识别。
-
公开(公告)号:CN113298268A
公开(公告)日:2021-08-24
申请号:CN202110654359.0
申请日:2021-06-11
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于对抗噪声注入的垂直联邦学习方法,包括以下步骤:边缘客户端数据对齐,保证数据特征相同,不同边缘客户端之间相同训练数据成员id进行数据对齐匹配;边缘客户端和服务器端模型初始化工作准备,包括服务商协商选定客户端边缘网络模型和服务器端网络模型和结构,模型参数初始化设置;将客户端边缘网络模型训练产生的中间信息送至信息去敏装置注入对抗性噪声;将边缘客户端去敏的中间信息上传给服务器,利用服务器上布置的网络模型进行训练,并将梯度信息重新反馈给边缘客户端,迭代训练过程,直至联邦模型收敛。该发明不仅保护数据隐私还有效提升了模型的收敛速率,增强了垂直联邦学习框架的实用性。
-
公开(公告)号:CN112464290A
公开(公告)日:2021-03-09
申请号:CN202011494369.4
申请日:2020-12-17
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于自编码器的垂直联邦学习防御方法,包括:(1)终端利用本地数据对边缘模型进行训练,训练过程中,同时聚合边缘模型内每层相邻节点的嵌入特征;(2)终端构建并训练包含编码器和解码器的自编码器,获得编码器参数和解码器参数,同时利用编码器对嵌入特征进行编码得到编码信息;(3)终端上传解码器参数至服务端,服务端依据解码器参数构建解码模型后,与终端进行消息验证后,终端上传编码信息至服务端;(4)服务端利用解码模型对接收的编码信息解码获得解码信息后,聚合所有解码信息得到嵌入信息后,利用嵌入信息对全局模型进行训练,训练后反馈梯度信息至各终端。可以能够有效的防御恶意参与方窃取隐私数据。
-
公开(公告)号:CN115115066B
公开(公告)日:2025-02-11
申请号:CN202210956833.X
申请日:2022-08-10
Applicant: 浙江工业大学
IPC: G06N20/00
Abstract: 本发明公开了一种基于对比学习的联邦学习个性化方法,通过权衡在整个数据集上训练的全局模型,与在本地子集上训练的本地模型,来实现个性化。通过当前本地模型学习到的表征与全局模型学习到的表征的一致性损失,来修正本地更新,进而实现联邦学习的个性化。将同时计算全局模型的表征、本地数据训练得到模型的表征,以及当前模型训练的本地模型的表征,然后通过个性化参数,规范这三个表征之间的距离,即在模型层面实现对比学习,以此来修正全局模型适应不同客户端上的任务。本发明能够适应客户端不同的任务,达到联邦学习个性化定制的要求。
-
公开(公告)号:CN112836822A
公开(公告)日:2021-05-25
申请号:CN202110220275.6
申请日:2021-02-26
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于宽度学习的联邦学习策略优化方法和装置,包括:(1)对边缘端的本地模型进行模型初始化,同时在服务器端部署宽度学习网络;(2)对本地模型进行预训练,采用主动学习策略筛选出信息熵含量前n大的n个较优特征向量上传至服务器端;(3)服务器端以n个较优特征向量作为宽度学习网络的输入数据,获得输出宽度学习网络对输出数据的预测置信度,并根据预测置信度更新宽度学习网络的参数,同时返回预测置信度至边缘端;(4)边缘端利用返回的预测置信度更新本地模型的参数;(5)迭代(2)~(4),参数确定的本地模型作为特征提取器,参数确定的宽度学习网络作为分类器,组成联邦学习模型,以提高模型的训练速度。
-
公开(公告)号:CN112434758A
公开(公告)日:2021-03-02
申请号:CN202011499170.0
申请日:2020-12-17
Applicant: 浙江工业大学
Abstract: 本发明公开了一种本发明提供的基于聚类的联邦学习搭便车攻击防御方法,1)利用变分自编码器进行搭便车攻击客户端检测,保护模型的隐私,提高鲁棒性;2)在联邦学习过程中,收集多轮变分自编码器的重建概率并对重建概率聚类后依据时间域上聚类结果的相似度筛选出异常的搭便车攻击客户端;3)接收客户端利用本地样本数据对聚合的全局模型的测试结果,依据测试结果反映客户端是否为搭便车攻击者,从而保护模型的隐私,不会被泄露。
-
公开(公告)号:CN112434280A
公开(公告)日:2021-03-02
申请号:CN202011494403.8
申请日:2020-12-17
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于区块链的联邦学习防御方法,包括:参与者与权威机构建立智能合约;在册参与者从区块链中获得模型并本地训练,并将训练的本地模型和对应的训练时间上传至对应的区块节点,并广播到区块链中;为每个在册参与者构建噪声委员的噪声委员会,利用噪声委员会为对应的在册参与者的本地模型增加噪声以更新本地模型,获得更新模型;为所有在册参与者构建一个验证委员会,利用验证委员会依据数据集和训练时间验证每个更新模型的预测可靠性和真实性,并将验证通过的更新模型记录在新区块节点;权威机构从区块节点获得所有验证通过的更新模型并聚合,得到聚合模型并广播到区块链中以供下轮在册参与者下载本地训练。
-
公开(公告)号:CN114882573B
公开(公告)日:2025-04-08
申请号:CN202210629966.6
申请日:2022-06-06
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于个性化联邦学习的面部识别方法和装置,获取用户的面部图像数据,将所述面部图像数据输入最佳面部识别模型中,得到面部识别结果;个性化模型对上传的本地模型参数进行余弦相似度计算,对自身的全局模型参数进行更新,并将更新后的全局模型参数下发给相对应的客户端,实现在进行客户端分组的时候,将数据分布极端异常的客户端进行隔离,数据分布具有相似性的客户端会进行协作。该方法对恶意攻击方具有良好的防御作用,利用个性化机制进行训练,逐渐将恶意客户端与正常客户端进行分离,聚合不同的全局模型,减少彼此之间的影响,实现对面部的识别。
-
公开(公告)号:CN114266361B
公开(公告)日:2024-12-13
申请号:CN202111657295.6
申请日:2021-12-30
Applicant: 浙江工业大学
Abstract: 本发明公开了一种基于模型权重更迭的联邦学习搭便车防御方法和装置,首先初始化联邦学习训练环境;服务器将初始的全局模型下发给各个客户端,开始联邦学习训练;各个客户端进行联邦训练,并生成本地模型,训练结束后保存模型参数并计算更新变化频率F矩阵;各个客户端将本地模型参数和权重变化频率矩阵上传至服务端;服务端通过聚合算法得到全局模型,并计算各个客户端间的欧式距离和计算各自权重的平均变化频率,并对欧式距离和平均频率异常的客户端进行标记;服务端下发给各个客户端更新后的全局模型;重复上述步骤客户端每上传一次参数,服务端进行一次筛查,当某客户端被异常标记3次,则认为其是搭便车攻击者,将其踢出联邦学习训练。
-
-
-
-
-
-
-
-
-