公开(公告)号：CN108764471A

公开(公告)日：2018-11-06

申请号：CN201810474089.3

申请日：2018-05-17

Applicant: 西安电子科技大学

Inventor： 董伟生 ,  杨文慧 ,  毋芳芳 ,  石光明 ,  谢雪梅 ,  吴金建

IPC: G06N3/08 ,  G06N3/04 ,  G06N3/06

Abstract: 本发明公开了一种基于特征冗余分析的神经网络跨层剪枝方法，主要解决现有技术对扩张残差单元进行逐层剪枝会造成深度卷积层信息丢失的问题。其实现方案是：1)获取训练样本集；2)构建44层卷积神经网络；3)更新44层卷积神经网络参数；4)判断初始训练的更新次数是否达到100次：若是，则得到训练好的44层卷积神经网络，对训练好的44层卷积神经网络进行跨层剪枝，执行5)；否则，返回3)；5)对剪枝后的稀疏网络进行微调训练；6)判断微调训练的更新次数是否达到40次：若是，则得到微调后的稀疏网络，否则，返回5)。本发明减少神经网络中神经元或特征的退化，降低了神经网络的参数和存储尺寸，可用于移动端和嵌入式设备中。

公开(公告)号：CN108764471B

公开(公告)日：2020-04-14

申请号：CN201810474089.3

申请日：2018-05-17

Applicant: 西安电子科技大学

Inventor： 董伟生 ,  杨文慧 ,  毋芳芳 ,  石光明 ,  谢雪梅 ,  吴金建

IPC: G06N3/08 ,  G06N3/04 ,  G06N3/06

Abstract: 本发明公开了一种基于特征冗余分析的神经网络跨层剪枝方法，主要解决现有技术对扩张残差单元进行逐层剪枝会造成深度卷积层信息丢失的问题。其实现方案是：1)获取训练样本集；2)构建44层卷积神经网络；3)更新44层卷积神经网络参数；4)判断初始训练的更新次数是否达到100次：若是，则得到训练好的44层卷积神经网络，对训练好的44层卷积神经网络进行跨层剪枝，执行5)；否则，返回3)；5)对剪枝后的稀疏网络进行微调训练；6)判断微调训练的更新次数是否达到40次：若是，则得到微调后的稀疏网络，否则，返回5)。本发明减少神经网络中神经元或特征的退化，降低了神经网络的参数和存储尺寸，可用于移动端和嵌入式设备中。