一种基站通算资源分配方法、装置、存储介质及电子设备

    公开(公告)号:CN119450771A

    公开(公告)日:2025-02-14

    申请号:CN202411440036.1

    申请日:2024-10-15

    Abstract: 本说明书公开了一种基站通算资源分配方法、装置、存储介质及电子设备。在采用本说明书提供的基站通算资源分配方法对星地协同系统中的基站进行通算资源的分配时,可以在每个基站均设置能够根据基站的观测状态输出基站的通算资源分配策略的通算资源分配网络,并预先通过强化学习的方式通过卫星进行中心化训练,随后在应用阶段基站可不依靠卫星,仅依靠自身的观测状态通过通算资源分配网络实现通算资源的分配。采用本方法能够有效减少星地协同系统边缘计算应用时卫星与基站间频繁的双向通信,减少通信产生的延时,加快计算任务的处理效率,大幅提高用户体验。

    一种基于异构通信的全归约通信方法及装置

    公开(公告)号:CN118590497B

    公开(公告)日:2024-10-11

    申请号:CN202411058898.8

    申请日:2024-08-02

    Abstract: 本说明书提供一种基于异构通信的全归约通信方法及装置,计算节点确定待传输的待归约数据,通过与计算节点所在计算集群中其他节点间的通信链路,与其他节点进行通信,以获得计算节点的待归约数据和其他节点的待归约数据进行归约运算并均匀分配后的归约散射数据。根据计算节点的归约散射数据,同步执行第一通信过程和第二通信过程,直至计算节点获得将计算节点与其他节点的待归约数据进行全归约通信后的最终数据,所述第一通信包括:根据计算节点的归约散射数据,计算节点与各第一其他节点进行第一收集通信;所述第二通信包括:根据计算节点的归约散射数据,计算节点与各第二其他节点进行第二收集通信。

    一种模型训练和业务执行方法、装置、存储介质及设备

    公开(公告)号:CN119150804B

    公开(公告)日:2025-03-18

    申请号:CN202411628434.6

    申请日:2024-11-14

    Abstract: 本说明书公开了一种模型训练和业务执行方法、装置、存储介质及设备。所述模型训练方法包括:根据预设的数据并行维度和序列并行维度将样本数据切分为多个子样本,并将各子样本分配到不同的图形处理器GPU上;针对每个GPU,在将分配到该GPU上的子样本输入部署在该GPU上的目标模型后,确定目标模型中的每一个子层所对应的激活值并存储,其中,针对每个子层,若该子层对应的层级小于指定层级,则将该子层对应的激活值存储到中央处理器CPU中,并在该GPU中将该子层对应的激活值进行删除;确定目标模型的损失值,并根据损失值以及每个子层所对应的激活值,对目标模型进行训练。本方案有效提高了模型的训练效率和GPU的利用率。

    一种模型训练和业务执行方法、装置、存储介质及设备

    公开(公告)号:CN119150804A

    公开(公告)日:2024-12-17

    申请号:CN202411628434.6

    申请日:2024-11-14

    Abstract: 本说明书公开了一种模型训练和业务执行方法、装置、存储介质及设备。所述模型训练方法包括:根据预设的数据并行维度和序列并行维度将样本数据切分为多个子样本,并将各子样本分配到不同的图形处理器GPU上;针对每个GPU,在将分配到该GPU上的子样本输入部署在该GPU上的目标模型后,确定目标模型中的每一个子层所对应的激活值并存储,其中,针对每个子层,若该子层对应的层级小于指定层级,则将该子层对应的激活值存储到中央处理器CPU中,并在该GPU中将该子层对应的激活值进行删除;确定目标模型的损失值,并根据损失值以及每个子层所对应的激活值,对目标模型进行训练。本方案有效提高了模型的训练效率和GPU的利用率。

    一种基于异构通信的全归约通信方法及装置

    公开(公告)号:CN118590497A

    公开(公告)日:2024-09-03

    申请号:CN202411058898.8

    申请日:2024-08-02

    Abstract: 本说明书提供一种基于异构通信的全归约通信方法及装置,计算节点确定待传输的待归约数据,通过与计算节点所在计算集群中其他节点间的通信链路,与其他节点进行通信,以获得计算节点的待归约数据和其他节点的待归约数据进行归约运算并均匀分配后的归约散射数据。根据计算节点的归约散射数据,同步执行第一通信过程和第二通信过程,直至计算节点获得将计算节点与其他节点的待归约数据进行全归约通信后的最终数据,所述第一通信包括:根据计算节点的归约散射数据,计算节点与各第一其他节点进行第一收集通信;所述第二通信包括:根据计算节点的归约散射数据,计算节点与各第二其他节点进行第二收集通信。

Patent Agency Ranking