-
公开(公告)号:CN119721187B
公开(公告)日:2025-05-06
申请号:CN202510217551.1
申请日:2025-02-26
Applicant: 湖南科技大学
IPC: G06N3/098 , G06N3/063 , G06N3/0464 , G06N3/10
Abstract: 本发明公开了一种基于张量填充的遍历式联邦学习方法及系统,包括:基于设备位宽对相应梯度进行分层张量建模;在服务器端将不同梯度中同一模型层的参数归类,将各层分别建模为一个张量;基于张量填充技术将位宽恢复组件中张量对应的不同位宽梯度进行对齐,并对所有梯度进行加权聚合,基于聚合后的权重生成新的全局模型;通过遍历窗口机制,在服务器和客户端中,选取全局模型的不同层进行每一轮训练,使全局模型在低容量设备中均匀训练,直到全局模型收敛。本发明通过结合张量填充和基于遍历的部分模型训练技术,利用张量分解和重构技术迭代恢复模型参数的精度,并采用遍历分层的方式适应不同设备的能力,确保资源受限的客户端也能均衡参与训练。
-
公开(公告)号:CN119558385A
公开(公告)日:2025-03-04
申请号:CN202411726035.3
申请日:2024-11-28
Applicant: 湖南科技大学
IPC: G06N3/098 , G06F18/214 , G06F18/2431
Abstract: 本发明公开了一种具有高泛化能力的分层联邦学习方法,涉及电数字数据处理技术领域。该具有高泛化能力的分层联邦学习方法,包括本地模型训练判断、Q值获取和全局模型生成。本发明通过获取客户端在预设时间段内提供的训练样本数据,根据训练样本数据判断客户端是否参与本地模型训练,同时获取本地模型训练过程中的损失期望值并选择边缘服务器,然后将参与本地模型训练的训练样本数据输入至DQN网络中得到预测Q值和目标Q值,最后将训练完成的本地模型上传至选择的边缘服务器中生成全局模型,进而实现了分层联邦学习框架开销与模型准确性之间平衡性的提高,解决了现有技术中分层联邦学习框架开销与模型准确性之间平衡性考虑不充分的问题。
-
公开(公告)号:CN119356883A
公开(公告)日:2025-01-24
申请号:CN202411914728.5
申请日:2024-12-24
Applicant: 湖南科技大学
Abstract: 本发明涉及电数字数据处理技术领域,具体公开一种基于GPU的并行张量填充方法,该方法包括:初始矩阵生成、张量划分准确度判定、子张量并行处理以及并行张量填充,根据矩阵方式生成初始矩阵,基于需填充数据集的数据量,通过预设张量划分方式得到子张量,并校验划分准确度以优化划分方式;利用预定义坐标定位方式获取子张量二进制坐标,结合并行张量查找方式得到并行子张量序列,传输至GPU内存空间进行并行处理,评估GPU并行处理性能,通过并行处理得到各子张量序列权重,更新初始矩阵为更新矩阵,最终按预定义方式填充缺失数据,完成数据的并行张量填充,提高数据的准确性和完整性。
-
公开(公告)号:CN119808898A
公开(公告)日:2025-04-11
申请号:CN202510308916.1
申请日:2025-03-17
Applicant: 湖南科技大学
Abstract: 本发明涉及联邦学习技术领域,具体公开一种具备数据感知能力的分层可信联邦学习方法,该方法通过分层可信联邦学习装置获取各客户端设备学习性能数据,并得到各客户端设备学习性能指标,判断是否对其进行性能预警,然后分层可信联邦学习装置将各客户端设备公钥上传至区块链,由此筛选出各可访问控制设备,确保了数据隐私,各可访问控制设备训练生成各可访问控制设备所属本地模型,随后得到各可访问控制设备所属本地模型训练特征值,并判断是否重新进行训练,同时获取各可访问控制设备的训练评估指数,由此完成智能分组,并对各组可访问控制设备所属本地模型进行聚合,生成全局模型,并上传到区块链完成全局模型更新,提高了模型训练效率和准确性。
-
公开(公告)号:CN119210465A
公开(公告)日:2024-12-27
申请号:CN202411579167.8
申请日:2024-11-07
Applicant: 湖南科技大学
Abstract: 本发明涉及电数字数据处理技术领域,具体公开一种自适应压缩编码的分层联邦学习方法,该方法包括:分层联邦学习架构构建、边缘服务器匹配、模型生成性能判断、压缩率匹配以及分层联邦学习架构判断,首先构建出分层联邦学习架构,使得每一层都能充分利用其计算资源,通过匹配得到终端设备对应的边缘服务器,各终端设备用于生成环境数据训练模型,根据边缘服务器的网络传输性能得到对应的压缩率,边缘服务器接收各终端设备的环境数据训练模型并按照对应的压缩率依次进行自适应压缩编码以及边缘聚合,云服务器接收边缘聚合结果并进行全局聚合,最终判断分层联邦学习架构所属云服务器是否将全局聚合对应结果上传至环境资源调度云平台。
-
公开(公告)号:CN120031108A
公开(公告)日:2025-05-23
申请号:CN202510499985.5
申请日:2025-04-21
Applicant: 湖南科技大学
IPC: G06N3/098 , G06N3/0464 , G06V10/44 , G06V10/764 , G06V10/82
Abstract: 本发明公开了面向图像分类的鲁棒联邦学习架构,属于机器视觉技术领域,包括以下步骤:S1、筛选各训练客户端,对全局模型参数初始化;S2、得到各训练客户端的模拟增强数据;S3、得到各训练客户端的矫正后的特征向量;S4、得到局部模型训练的基本损失,由此进行各训练客户端的局部模型再训练;S5、得到各训练客户端的含噪局部模型,由此得到各训练客户端的局部更新模型,并上传至服务端;S6、服务端接收各训练客户端的局部更新模型,得到全局更新模型,重复S2至S6操作,直至全局更新模型收敛。解决了现有技术中在数据分布不均情况下,因数据异常出现导致的模型准确度下降的问题。
-
公开(公告)号:CN119918620A
公开(公告)日:2025-05-02
申请号:CN202510400785.X
申请日:2025-04-01
Applicant: 湖南科技大学
IPC: G06N3/098 , G06N3/0464 , G06N3/084 , G06F9/50
Abstract: 本发明公开了一种基于层间差异的自适应聚合联邦学习方法及设备。该方法涉及车联网机器学习领域,包括以下步骤:采集并处理车辆终端数据,通过迭代优化最小化损失函数得到本地模型参数,将全局和本地模型层之间的差异纳入聚合权重的计算过程中,进行联邦学习训练循环。本发明将模型拆解为层,并将全局和本地模型层之间的差异纳入聚合权重的计算过程中,以衡量高数据异质性场景下的不同客户端的贡献。同时引入了基于层间差异的正则项,根据层间差异动态调整各客户端每一轮的聚合权重,从而提高全局模型的跨域泛化能力。
-
公开(公告)号:CN119728753A
公开(公告)日:2025-03-28
申请号:CN202510218358.X
申请日:2025-02-26
Applicant: 湖南科技大学
IPC: H04L67/2866 , H04L67/288 , H04L67/2885 , H04L67/1097 , H04W28/084 , H04W28/08 , G06N3/098 , G06F18/23213
Abstract: 本发明属于云‑边‑端协同训练技术领域,公开了一种面向异构资源和数据的高效分层联邦学习方法,包括:将每个边缘服务器ES端的移动设备MD根据计算能力和数据分布进行分组,使得每个组具有最大的数据分布相似性。同时将计算能力强的设备均匀的分布在不同组中,减少组间计算能力的差异性。同时,本发明设备端采用组内环形顺序训练方法,将训练好的模型传输给下一个连接的设备,减少了与移动设备MD与边缘服务器ES间的通信链路,提高了模型训练的效率。本发明利用设备之间的通信代替设备与服务器之间的通信,减少了与服务器通信的链路条数,增大了通信带宽,可以实现在减少通信开销的同时增强知识的融合。
-
公开(公告)号:CN119356883B
公开(公告)日:2025-03-18
申请号:CN202411914728.5
申请日:2024-12-24
Applicant: 湖南科技大学
Abstract: 本发明涉及电数字数据处理技术领域,具体公开一种基于GPU的并行张量填充方法,该方法包括:初始矩阵生成、张量划分准确度判定、子张量并行处理以及并行张量填充,根据矩阵方式生成初始矩阵,基于需填充数据集的数据量,通过预设张量划分方式得到子张量,并校验划分准确度以优化划分方式;利用预定义坐标定位方式获取子张量二进制坐标,结合并行张量查找方式得到并行子张量序列,传输至GPU内存空间进行并行处理,评估GPU并行处理性能,通过并行处理得到各子张量序列权重,更新初始矩阵为更新矩阵,最终按预定义方式填充缺失数据,完成数据的并行张量填充,提高数据的准确性和完整性。
-
公开(公告)号:CN119272846B
公开(公告)日:2025-03-18
申请号:CN202411789943.7
申请日:2024-12-06
Applicant: 湖南科技大学
IPC: G06N3/098 , G06N3/0442 , G06F18/2433 , G06F18/243
Abstract: 本发明公开了一种基于孤立森林异常检测的安全分层联邦学习方法,涉及电数字数据处理技术领域。该方法,包括以下步骤:在边缘服务器端建立GRU自注意力模型,通过GRU自注意力模型对全局参数提取时序特征状态,使用孤立森林算法对聚合后的GRU自注意力模型更新参数的时序特征状态建树,对比异常检测强度评估系数与GRU自注意力模型参数聚合后的异常检测强度阈值,根据对比结果采取自适应调整异常检测强度或发出警报的措施。本发明通过为每个服务器生成个性化的异常检测强度阈值决策,充分考虑不同服务器所遭受的攻击程度差异,合理分配检测强度,达到了提高服务器安全性的效果,解决了现有技术中存在服务器安全性不足的问题。
-
-
-
-
-
-
-
-
-