算力重构配置方法及装置
    5.
    发明公开

    公开(公告)号:CN118796451A

    公开(公告)日:2024-10-18

    申请号:CN202410669317.8

    申请日:2024-05-28

    Abstract: 本发明提供一种算力重构配置方法及装置,其中方法包括:对本地系统集群中的所有待启动业务进行算力分析,确定整体并行算力值;在第一算力冗余小于整体并行算力值的情况下,已启动业务的业务属性,对已启动业务进行本地算力重构,确定第二算力冗余;在第二算力冗余小于整体并行算力值的情况下,调用边缘计算资源进行二次算力重构,使得二次算力重构后的算力冗余大于等于所述整体并行算力值。本发明提供的算力重构配置方法及装置,通过基于本地系统集群中已启动业务进行算力重构,提升本地算力利用率。并进一步引入边缘计算资源对待启动业务进行二次算力重构,达到满足本地系统集群的驱动需求,提升本地算力利用率。

    模型训练加速方法和装置
    8.
    发明公开

    公开(公告)号:CN118798283A

    公开(公告)日:2024-10-18

    申请号:CN202311782784.3

    申请日:2023-12-22

    Abstract: 本申请公开了一种模型训练加速方法和装置,该模型训练加速方法包括:在模型训练过程中,对梯度变化率低于冻结阈值的网络层进行冻结,所述冻结用于使得所述网络层停止反向传播;根据衰减系数对所述冻结阈值进行衰减处理,得到衰减冻结阈值;利用未冻结的网络层进行模型训练,对梯度变化率低于所述衰减冻结阈值的网络层进行冻结,直至所述模型训练达到预设精度或预设次数为止。本申请实施例在模型训练过程中逐渐冻结部分网络层,以停止反向传播,有效减少了显存占用提升运算效率,提升训练速度,同时对冻结阈值进行衰减处理,避免提前将未训练收敛的网络层冻结的情况发生。

Patent Agency Ranking