一种异步自适应联邦学习方法及装置

    公开(公告)号:CN116187465A

    公开(公告)日:2023-05-30

    申请号:CN202211431258.8

    申请日:2022-11-16

    Applicant: 海南大学

    Inventor: 程杰仁 罗平

    Abstract: 本申请提供了一种异步自适应联邦学习方法及装置,所述方法应用于工作节点,所述方法包括:从参数服务器接收全局模型参数,并从本地训练数据集执行本地SGD迭代;当完成指定次数的局部SGD迭代后,将本地模型参数和控制参数发送到所述参数服务器,使得所述参数服务器利用所述本地模型参数计算得到新的全局模型参数,利用所述控制参数计算得到所有工作节点上的最优SGD迭代次数的集合;接收所述参数服务器发送的最优SGD迭代次数的集合、全局模型参数和循环指数;重复上述步骤,直至获得最优全局模型参数。本申请在不同工作节点上动态确定局部SGD迭代次数,从而在时间资源预算下平衡快工作节点和慢工作节点,以获得稳定的性能。

Patent Agency Ranking