-
公开(公告)号:CN118607618A
公开(公告)日:2024-09-06
申请号:CN202410782352.0
申请日:2024-06-18
Applicant: 上海交通大学
IPC: G06N3/098 , G06F21/62 , H04L67/10 , G06N3/0442 , G06N3/0464
Abstract: 本发明提供参数粒度自适应调频的联邦学习方法及系统,包括:服务器选择每轮参与训练的客户端,将每个参数同步频率的更新信息传输到被选择的客户端;客户端的模型训练进程从通讯守护进程接收聚合的参数,根据每个参数的同步频率进行同步训练;通讯守护进程接收完成训练的参数,与服务器通讯进行聚合,再从服务器接收聚合后的参数并在下一轮训练时返回给模型训练进程;在聚合时,服务端计算梯度冲突率,当某个参数的梯度冲突率小于阈值时,将该参数的同步频率增倍,在下一轮训练时传输需要更新频率的参数的位置到所有的客户端中。本发明采用参数粒度的调频方式,对每个参数进行更准确的频率设置,保证训练效率的同时,提高最终模型的收敛准确率。