一种面向AI的跨域数据并行训练调度方法

    公开(公告)号:CN116090528A

    公开(公告)日:2023-05-09

    申请号:CN202211670584.4

    申请日:2022-12-25

    Applicant: 湖南大学

    Abstract: 本发明公开了一种面向AI的跨域数据并行训练调度方法。所述方法包括如下步骤:(1)在跨域多数据中心之间建立广域网,使各数据中心的参数服务器与全局参数服务器之间可以在广域网下互相通信;在单个数据中心内部建立高速局域网,使数据中心内的工作节点可以在高速局域网下通信;(2)基于步骤(1)搭建的通信网络,各数据中心在本地数据集上使用随机梯度下降算法训练本地的神经网络模型,在达到最大迭代次数后,聚合各数据中心的神经网络模型参数,得到全局神经网络模型参数。

Patent Agency Ranking