公开(公告)号：CN117787377A

公开(公告)日：2024-03-29

申请号：CN202310610163.0

申请日：2023-05-24

Applicant: 杭州电子科技大学

Inventor： 袁沁 ,  孙闽红 ,  包建荣

IPC: G06N3/082 ,  G06N3/0495 ,  G06N3/096 ,  G06N3/0464 ,  G06N3/084 ,  G06N3/0985 ,  G06F18/24

Abstract: 本发明属于神经网络技术领域，具体涉及一种基于元迁移学习的迭代随机剪枝方法及系统。本发明剪枝方法包括以下步骤：S1、迁移学习步骤，利用大规模数据集对卷积神经网络进行预训练，使网络参数得到良好的初始化；S2、元学习步骤，利用小样本数据集对网络进行元训练；S3、剪枝步骤，对经过元训练后的网络权重进行剪枝；S4、测试步骤，利用小样本数据集对网络进行测试；S5、微调阶段，对网络进行重训练，恢复网络准确率。相比于现有技术，本发明能在小样本数据集下减少卷积神经网络的参数量，同时保证网络模型的准确率，达到压缩模型的目的。

公开(公告)号：CN116245162A

公开(公告)日：2023-06-09

申请号：CN202211492198.0

申请日：2022-11-25

Applicant: 杭州电子科技大学

Inventor： 袁沁 ,  孙闽红 ,  包建荣

IPC: G06N3/082 ,  G06N3/086 ,  G06N3/0464 ,  G06N3/126

Abstract: 本发明属于神经网络技术领域，具体涉及基于改进自适应遗传算法的神经网络剪枝方法及系统，神经网络剪枝方法，包括以下步骤：S1、对卷积神经网络进行预训练，得到训练好的网络参数权重；S2、利用改进的自适应遗传算法搜索每一层的最佳网络结构，修剪冗余卷积核；S3、重训练过程，恢复网络精度；S4、进入下一层的搜索，重复步骤S2‑S3；S5、修剪完所有卷积层后，所得即为最优结构的神经网络。本发明在保证神经网络模型准确率的同时，减少了卷积层卷积核的数量，减少了冗余的参数量，并加快计算，可实现模型压缩。