公开(公告)号：CN114239826A

公开(公告)日：2022-03-25

申请号：CN202111607946.0

申请日：2021-12-21

Applicant: 同济大学

Inventor： 连有灶 ,  王宁 ,  姜凯

IPC: G06N3/08 ,  G06N3/04

Abstract: 本发明提供一种神经网络剪枝方法、介质及电子设备。所述神经网络剪枝方法包括：对目标神经网络进行预训练，获得预训练神经网络；对所述目标神经网络每层的剪枝率进行初始化以获得候选网络结构，所述候选网络结构的数量至少为三个；采用进化算法搜索所述候选网络结构，获得最优候选网络结构，另外，在所述进化算法的搜索过程中，各所述候选网络结构均继承所述预训练神经网络的部分参数；对所述最优候选网络结构进行剪枝，获得剪枝模型。该方法能够快速获得一系列不同压缩程度的剪枝网络并且实现至少两个剪枝指标之间的平衡，减少剪枝所需要的计算资源和时间成本。

公开(公告)号：CN114239826B

公开(公告)日：2024-10-22

申请号：CN202111607946.0

申请日：2021-12-21

Applicant: 同济大学

Inventor： 连有灶 ,  王宁 ,  姜凯

IPC: G06N3/082 ,  G06N3/086 ,  G06N3/045

Abstract: 本发明提供一种神经网络剪枝方法、介质及电子设备。所述神经网络剪枝方法包括：对目标神经网络进行预训练，获得预训练神经网络；对所述目标神经网络每层的剪枝率进行初始化以获得候选网络结构，所述候选网络结构的数量至少为三个；采用进化算法搜索所述候选网络结构，获得最优候选网络结构，另外，在所述进化算法的搜索过程中，各所述候选网络结构均继承所述预训练神经网络的部分参数；对所述最优候选网络结构进行剪枝，获得剪枝模型。该方法能够快速获得一系列不同压缩程度的剪枝网络并且实现至少两个剪枝指标之间的平衡，减少剪枝所需要的计算资源和时间成本。