一种基于剪枝的卷积神经网络压缩方法、系统及介质

    公开(公告)号:CN111178525A

    公开(公告)日:2020-05-19

    申请号:CN201911349816.4

    申请日:2019-12-24

    Abstract: 本发明请求保护一种基于剪枝的卷积神经网络压缩方法、系统及介质,包括步骤:对训练数据进行预处理;初始化卷积神经网络模型的权重;计算网络连接的显著度,以显著度的分数作为评估连接重要性的标准,并对显著度进行排序:对卷积神经网络进行剪枝,保留top-k的连接,使得网络稀疏化:训练稀疏化后的卷积神经网络模型,直到模型收敛。本发明在训练之前对网络进行裁剪,省去了预训练和微调流程,极大地简化了剪枝过程的同时保持了网络的准确率,同时通过显著度分数结构化地选择重要的连接,对于不同的网络结构具有鲁棒性,因此可以应用到多种网络结构中而不需要进行过多的调整。

Patent Agency Ranking