公开(公告)号：CN116502695A

公开(公告)日：2023-07-28

申请号：CN202310250232.1

申请日：2023-03-14

Applicant: 北京大学

Inventor： 刘力锋 ,  任思奇 ,  黄鹏 ,  韩德栋 ,  张兴

IPC: G06N3/082 ,  G06N3/096 ,  G06N3/084 ,  G06N3/0464 ,  G06N3/048

Abstract: 本发明涉及深度学习技术领域，提供一种基于通道剪枝的模型压缩方法、装置、设备及介质，该方法包括：获取带标注数据的样本数据集，并利用样本数据集对预设的第一检测模型进行迭代训练，得到第二检测模型；对第二检测模型进行稀疏化训练，以获取第二检测模型各输出通道对应的缩放因子；所述缩放因子用于表征第二检测模型各输出通道的重要程度；根据缩放因子对第二检测模型的输出通道进行剪枝处理，以对第二检测模型进行压缩，得到第三检测模型；所述第三检测模型的输出通道的数量为八的整数倍；基于第一检测模型对第三检测模型进行知识蒸馏，得到目标检测模型。通过通道剪枝和知识蒸馏，在压缩模型体积的同时，保证了模型的检测精度。