公开(公告)号：CN117131908A

公开(公告)日：2023-11-28

申请号：CN202311365822.5

申请日：2023-10-20

Applicant: 华东交通大学

Inventor： 熊李艳 ,  黄佳文 ,  黄鹏 ,  熊能 ,  陈庆森 ,  袁鑫华 ,  邓慧子 ,  李志炟 ,  曾一涓 ,  汪恒 ,  成学博 ,  祝显红 ,  周云飞 ,  许嘉杨 ,  崔强 ,  段学伟

IPC: G06N3/0464 ,  G06N3/082 ,  G06V10/764 ,  G06V10/774 ,  G06V10/82

Abstract: 本申请涉及一种基于退火衰减的深度卷积神经网络的压缩方法，它包括如下步骤：选择待压缩模型；计算待压缩模型中每个卷积核的冗余系数，作为卷积核的评估分数；设定压缩率和衰减系数，并将每个卷积核的评估分数由高到低进行排序，将卷积核的评估分数位于后的部分筛选出来，形成冗余卷积核集合；使用衰减系数对冗余卷积核集合内的冗余卷积核进行卷积衰减，衰减完成后对模型进行再训练，并重复这一过程，当每个卷积层中的冗余卷积核权重均小于预先设定的阈值时，停止卷积衰减操作，并将卷积核权重小于所述阈值的卷积核全部删除。本发明能够加速模型的压缩过程，保证模型精度，而且在压缩过程中不受噪音数据的干扰，具有良好的鲁棒性。

公开(公告)号：CN117131908B

公开(公告)日：2024-01-30

申请号：CN202311365822.5

申请日：2023-10-20

Applicant: 华东交通大学

Inventor： 熊李艳 ,  黄佳文 ,  黄鹏 ,  熊能 ,  陈庆森 ,  袁鑫华 ,  邓慧子 ,  李志炟 ,  曾一涓 ,  汪恒 ,  成学博 ,  祝显红 ,  周云飞 ,  许嘉杨 ,  崔强 ,  段学伟

IPC: G06N3/0464 ,  G06N3/082 ,  G06V10/764 ,  G06V10/774 ,  G06V10/82

Abstract: 本申请涉及一种基于退火衰减的深度卷积神经网络的压缩方法，它包括如下步骤：选择待压缩模型；计算待压缩模型中每个卷积核的冗余系数，作为卷积核的评估分数；设定压缩率 和衰减系数，并将每个卷积核的评估分数由高到低进行排序，将卷积核的评估分数位于后的部分筛选出来，形成冗余卷积核集合；使用衰减系数对冗余卷积核集合内的冗余卷积核进行卷积衰减，衰减完成后对模型进行再训练，并重复这一过程，当每个卷积层中的冗余卷积核权重均小于预先设定的阈值时，停止卷积衰减操作，并将卷积核权重小于所述阈值的卷积核全部删除。本发明能够加速模型的压缩(56)对比文件熊李艳 等.基于局部结构保留的级联子空间深度聚类《.计算机应用研究》.2020,第37卷(第8期),2358-2361.叶汉民 等.基于稀疏化卷积网络剪枝的图像识别方法研究《.实验室研究与探索》.2022,第41卷(第12期),9-13.Dajiang Li 等.Energy Analysis inSingle Cluster WSNs with Power Controland In-network Data Compression《.2022IEEE Canadian Conference on Electricaland Computer Engineering》.2022,107-111.