训练用于图像识别的神经网络的方法和装置

    公开(公告)号:CN111695687A

    公开(公告)日:2020-09-22

    申请号:CN202010175326.3

    申请日:2020-03-13

    Abstract: 提供了一种训练用于图像识别的神经网络的方法和装置。所述神经网络包括具有已经被联合地修剪和量化的权重和输出特征图的至少一个层。使用解析阈值函数来修剪层的权重。基于针对所有量化水平的权重的量化和解量化的加权平均来量化修剪之后剩余的每个权重,以形成层的量化的权重。基于层的量化的权重来生成层的输出特征图。基于针对所有量化水平的输出特征图的量化和解量化的加权平均来量化层的每个输出特征图。使用代价函数来更新解析阈值函数的参数、权重的所有量化水平的加权平均以及层的每个输出特征图的加权平均。

    训练用于图像识别的神经网络的方法和装置

    公开(公告)号:CN111695687B

    公开(公告)日:2025-04-18

    申请号:CN202010175326.3

    申请日:2020-03-13

    Abstract: 提供了一种训练用于图像识别的神经网络的方法和装置。所述神经网络包括具有已经被联合地修剪和量化的权重和输出特征图的至少一个层。使用解析阈值函数来修剪层的权重。基于针对所有量化水平的权重的量化和解量化的加权平均来量化修剪之后剩余的每个权重,以形成层的量化的权重。基于层的量化的权重来生成层的输出特征图。基于针对所有量化水平的输出特征图的量化和解量化的加权平均来量化层的每个输出特征图。使用代价函数来更新解析阈值函数的参数、权重的所有量化水平的加权平均以及层的每个输出特征图的加权平均。

    提供深度神经网络的权重的平衡修剪的系统和方法

    公开(公告)号:CN110942135A

    公开(公告)日:2020-03-31

    申请号:CN201910904340.X

    申请日:2019-09-24

    Inventor: 邓伟然

    Abstract: 一种提供深度神经网络的权重的平衡修剪的系统和方法,其中,在所述系统和方法中,将DNN的权重划分为多个组,在每个组中确定非零权重的数量的计数,确定每个组中的权重的计数的方差,利用具有每个组中的权重的计数的方差等于0的约束使用拉格朗日乘子使DNN的损失函数最小化,并通过反向传播重新训练权重和拉格朗日乘子。

Patent Agency Ranking