基于自适应通信频率的云边端协同分布式学习方法及系统

    公开(公告)号:CN117409294A

    公开(公告)日:2024-01-16

    申请号:CN202311408911.3

    申请日:2023-10-27

    Abstract: 本发明公开了一种基于自适应通信频率的云边端协同分布式学习方法及系统,其中方法包括接收所有边缘服务器上传的局部图像分类模型,进行全局聚合更新,得到全局图像分类模型;统计训练过程中所有边缘服务器上传的所有客户端的Lipschitz常数和梯度估计方差,并估算性能最佳的边缘服务器和客户端的最佳通信频率;根据边缘服务器的计算和通信性能,调整每个边缘服务器的通信频率;发送全局图像分类模型、通信频率和客户端的最佳通信频率给边缘服务器i;判断通信资源是否超出限制,全局图像分类模型是否已经收敛,若满足任一判断条件,则结束全局图像分类模型训练,并下发全局图像分类模型至客户端与边缘服务器,否则返回第一步。

    基于可编程网络的聚合通信优化方法及其系统

    公开(公告)号:CN118917382A

    公开(公告)日:2024-11-08

    申请号:CN202410921781.1

    申请日:2024-07-10

    Abstract: 本发明公开了一种基于可编程网络的聚合通信优化方法及系统,其包括计算可编程交换机的位置部署和梯度路由策略,并部署可编程交换机;训练深度神经网络模型,将模型参数的梯度切割为若干梯度数据包;根据梯度路由策略,为每个数据包标识可编程交换机编号,并发送到指定交换机;接收并在网全局梯度数据包;对在网聚合结果进行全局聚合得到全局梯度,将携带全局梯度的ACK包返回所有交换机;收到参数服务器的ACK包时,清空其中携带的梯度片段使用的聚合器的标识符字段,释放相关内存资源,并广播ACK包给所有工作节点;用ACK包中的全局梯度更新深度神经网络模型的参数,完成一次梯度聚合通信,基于更新参数进行下一次梯度计算和聚合通信。

Patent Agency Ranking