公开(公告)号：CN119047544A

公开(公告)日：2024-11-29

申请号：CN202411088147.0

申请日：2024-08-09

Applicant: 上海交通大学

Inventor： 陈晨 ,  陈全 ,  过敏意 ,  吕娜 ,  江志锋 ,  张佳熠 ,  沈志

IPC: G06N3/098 ,  G06N3/0464 ,  G06F21/62 ,  G06F9/50 ,  G06F9/54

Abstract: 本公开提供一种基于客户端自主性的分布式训练方法、系统、介质及设备，其中，基于客户端自主性的分布式训练方法，包括：确定客户端本地训练的特征，客户端本地训练的特征包括系统特征和统计特征；根据客户端本地训练的特征，采用提前停止策略决策客户端的本地训练进程；根据客户端本地训练的统计特征，采用基于错误反馈的层级提前传输策略优化客户端的本地训练的通信进程。通过本公开，基于客户端本地训练的特征的指导，实现对客户端内的状态变化感知及客户端的自主决策，节省计算资源，提高模型训练效率，增加计算‑通信重叠时间，提升资源利用率。