基于联邦学习及均值迭代的机器学习模型压缩方法

    公开(公告)号:CN114202077B

    公开(公告)日:2025-04-15

    申请号:CN202111610294.6

    申请日:2021-12-27

    Abstract: 本发明公开了一种基于联邦学习及均值迭代的机器学习模型压缩方法,包括以下步骤:用户在本地端进行联邦学习获取本次的机器学习模型;针对用户进行联邦学习得到的机器学习模型,使用均值迭代模型压缩算法压缩;将压缩后的机器学习模型上传到中心服务器,对压缩后的机器学习模型进行还原和模型聚合处理,对聚合后的机器学习模型进行精度检测。本发明通过均值迭代压缩算法来动态调整边界和优化值,获得量化区间的最优值和最佳边界区间,进而在高压缩率下,保证模型的收敛和模型的精度。

    一种基于聚类算法分配联邦学习中参与者权重的方法

    公开(公告)号:CN114758784A

    公开(公告)日:2022-07-15

    申请号:CN202210314514.9

    申请日:2022-03-29

    Abstract: 本发明公开了一种基于聚类算法分配联邦学习中参与者权重的方法,具体为:各参与者接收全局模型参数,使用本地数据集进行训练,完成本地训练的将本地模型参数上传至中央服务器,未完成的继续进行本地训练;中央服务器接收至少50%的参与者上传的本地模型后,对所收到的模型参数向量化处理并使用聚类算法进行聚类,选取打分最高的聚类结果,度量每个类内中心与类间中心的距离,使用距离的倒数作为每一类参与者的权重值,聚合得到全局模型并下发给对应的参与者,参与者继续进行本地训练;中央服务器持续接收参与者上传的本地模型,继续进行聚类直至全局模型收敛。本发明能够加快全局模型的收敛速度,同时提升全局模型对于各参与者数据的测试精度。

    基于TimeGAN模型的智能工厂设备故障诊断方法

    公开(公告)号:CN116304809A

    公开(公告)日:2023-06-23

    申请号:CN202310163681.2

    申请日:2023-02-24

    Abstract: 本发明公开了一种基于TimeGAN模型的智能工厂设备故障诊断方法,该方法为:采集智能工厂设备的不平衡时序故障数据集,进行预处理作为原始数据,将其划分为样本量大的故障类别和样本量小的故障类别;用所有原始数据预训练出一个辅助生成的故障分类器;对样本量小的故障类别所对应数据进行处理得到样本集,将样本集划分为训练集和测试集,训练集送入TimeGAN模型进行训练,生成足够平衡原始数据的样本数据;将该样本数据与原始数据进行混合,得到平衡后的故障数据集,送入CNN网络进行训练,然后对测试集进行故障诊断。本发明充分考虑了生成样本的准确性、多样性和故障分类的准确度,从而获得了高效准确的智能工厂设备故障诊断结果。

    一种基于联邦学习的非平衡轴承故障诊断方法及系统

    公开(公告)号:CN116244640A

    公开(公告)日:2023-06-09

    申请号:CN202310194574.6

    申请日:2023-03-03

    Abstract: 本发明公开了一种基于联邦学习的非平衡轴承故障诊断方法及系统,该方法运行于多个本地用户节点与一个服务端聚合节点;每个用户对不平衡轴承故障数据集进行预处理,并预训练本地分类器,送入服务端聚合为全局分类器后下发给用户继续预训练,持续预训练N1轮;每个用户收到预训练完毕的全局分类器作为本地分类器,联合训练本地分类器和数据增强器,并送入聚合节点进行加权和聚合,得到全局分类器和数据增强器,然后广播到参与的本地用户节点继续进行加权和聚合,持续N2轮;训练完成后,每个用户使用得到的本地分类器和数据增强器,对测试数据进行轴承故障检测。本发明解决了联邦学习情况下轴承故障诊断的非平衡问题,可获得精准的故障诊断结果。

    一种基于模型剪枝和传输压缩优化的联邦学习系统及方法

    公开(公告)号:CN115564062A

    公开(公告)日:2023-01-03

    申请号:CN202211173605.1

    申请日:2022-09-26

    Abstract: 本发明公开了一种基于模型剪枝和传输压缩联合优化的联邦学习系统及方法,该系统包括服务器端和多个客户端;方法为:首先客户端清洗数据并归一化成结构化的数据;然后服务器端将原始全局模型修剪成为稀疏全局模型,并下发至客户端;客户端用本地数据集计算稀疏全局模型权重,并对稀疏全局模型权重数据进行压缩后上传至服务器端;服务器端使用稀疏全局模型权重数据更新稀疏全局模型,然后再下发至客户端进行本地训练;重复进行稀疏全局模型和稀疏全局模型权重数据更新,直至稀疏全局模型收敛,使用最终数据训练原始全局模型,得到根据每个客户端的数据训练出的最终全局预测模型。本发明降低了客户端训练模型的复杂程度,降低了通信成本。

    一种针对联合学习中噪声攻击的防御方法

    公开(公告)号:CN112329009B

    公开(公告)日:2022-12-06

    申请号:CN202011081206.3

    申请日:2020-10-12

    Abstract: 本发明公开了一种针对联合学习中噪声攻击的防御方法。该方法为:在聚合端聚合用户上传的参数之前,由服务器预先检验用户的可信度,并据此设置聚合时各个用户的权重,步骤如下:服务器利用已有公共数据产生初始模型,并分发给参与训练的用户端;每个用户端在本地更新模型,然后将结果上传至服务器;从第二轮上传开始,服务器计算每个用户端上传的模型参数与前一次上传参数之间的相关性,并将得到的所有相关性结果进行归一化处理,以此作为聚合时每个用户端的权重,生成新的全局模型;新的全局模型将再次被发送给所有用户端开始新一轮的训练,直到达到系统结束要求。本发明有效地防御了噪声攻击,提高了训练模型的精度,成本低廉且易于实现。

    一种抵御成员推理攻击的差分隐私联邦学习方法

    公开(公告)号:CN114785559A

    公开(公告)日:2022-07-22

    申请号:CN202210314533.1

    申请日:2022-03-29

    Abstract: 本发明公开了一种抵御成员推理攻击的差分隐私联邦学习方法,具体为:各客户端使用本地数据进行训练生成一个对抗生成网络模型并生成虚假数据;对每轮联邦学习通信,服务器端随机选择参与本轮通信的客户端,发放全局网络模型参数和训练过程中采用的损失函数以及优化器;被选中的客户端使用虚假数据进行全局网络模型的训练,并将训练好的全局网络模型参数发送回服务器端;服务器端采用联邦平均的聚合方法,进行全局网络模型参数更新;服务器端判断是否继续下一次通信,若是,则继续发布全局网络模型参数,否则结束通信,保存全局网络模型参数。本发明在原始数据孤岛的情况下进一步保护了客户端的数据隐私,有助于抵御成员推理攻击。

    快衰落信道下基于卷积神经网络的信道估计方法

    公开(公告)号:CN110351212A

    公开(公告)日:2019-10-18

    申请号:CN201910736688.2

    申请日:2019-08-10

    Abstract: 本发明公开了一种在快衰落信道下的利用卷积神经网络进行信道估计的方法。该方法利用在快衰落信道下的无线通信系统获取训练集,利用该训练集训练了一个基于多层一维度卷积神经网络的信道估计器。利用该信道估计器获得的信道增益,进行低密度奇偶校验码的信道译码,其结果优于利用统计学方法获得的信道增益期望值进行信道译码的结果。这说明,通过本发明获得信道增益估计值和真实信道增益值更加相似。在实际的系统中,我们无需知晓相关性类型,只需要在获取数据的情况下训练估计器,就可以进行获得神经网络信道估计器。

    一种基于可解释机器学习的联邦学习中用户权重分配方法

    公开(公告)号:CN115062775B

    公开(公告)日:2025-02-18

    申请号:CN202210736425.3

    申请日:2022-06-27

    Inventor: 李骏 孙海洋 韦康

    Abstract: 本发明公开了一种基于可解释机器学习分配联邦学习中用户权重的方法,具体为:各个用户端首先接受服务器端随机初始化的模型,使用本地数据集并用随机梯度下降的方法进行训练,完成本地训练后将模型上传至服务器端;服务器端接收到用户端上传的本地模型后,对每个模型进行局部解释,并将每个模型解释的结果与上一轮的全局模型的解释结果进行相似度比较,根据相似度的高低分配每个用户端模型参与聚合的权重,并将聚合后的模型作为全局模型下发给每个用户端,每个用户端继续进行本地训练;服务器端持续接受下一轮的本地模型,聚合再下发给用户端训练直至全局模型收敛。本发明能够加快全局模型的收敛速度,并且提升全局模型的测试精度。

    一种基于聚类算法分配联邦学习中参与者权重的方法

    公开(公告)号:CN114758784B

    公开(公告)日:2024-05-28

    申请号:CN202210314514.9

    申请日:2022-03-29

    Abstract: 本发明公开了一种基于聚类算法分配联邦学习中参与者权重的方法,具体为:各参与者接收全局模型参数,使用本地数据集进行训练,完成本地训练的将本地模型参数上传至中央服务器,未完成的继续进行本地训练;中央服务器接收至少50%的参与者上传的本地模型后,对所收到的模型参数向量化处理并使用聚类算法进行聚类,选取打分最高的聚类结果,度量每个类内中心与类间中心的距离,使用距离的倒数作为每一类参与者的权重值,聚合得到全局模型并下发给对应的参与者,参与者继续进行本地训练;中央服务器持续接收参与者上传的本地模型,继续进行聚类直至全局模型收敛。本发明能够加快全局模型的收敛速度,同时提升全局模型对于各参与者数据的测试精度。

Patent Agency Ranking