Patent search ap:("中国科学院计算技术研究所") AND inv:"谢戚鑫" Page 1

1.

发明公开
一种基于LO正则的神经网络剪枝方法无效

公开(公告)号：CN110807514A

公开(公告)日：2020-02-18

申请号：CN201911022069.3

申请日：2019-10-25

Applicant: 中国科学院计算技术研究所

Inventor： 徐勇军 , 谢戚鑫 , 李超 , 安竹林

IPC: G06N3/04 , G06N3/08

Abstract: 本发明提供一种基于L0正则的神经网络剪枝方法，通过加入L0正则项进行神经网络训练，实现了神经网络训练过程和剪枝过程的半耦合，训练过程中加入L0正则化惩罚，就可以在训练的过程中隐式地将剪枝的过程融入进去。通过加入L0正则项训练得到的神经模型在剪枝步骤中性能损失更小，能有效对抗参数量骤降对结果的影响程度；在经过剪枝之后重训练之后，模型精度可以获得大比例提升，而且重训练过程的时间开销极小，几轮迭代后便收敛到较好的精度水平。

Patent Agency Ranking