公开(公告)号：CN117808071A

公开(公告)日：2024-04-02

申请号：CN202410073197.5

申请日：2024-01-18

Applicant: 苏州大学

Inventor： 姚望舒 ,  薛一帆 ,  姚士佑 ,  彭思源

IPC: G06N3/082 ,  G06N3/0464

Abstract: 本发明涉及一种基于通道关系感知的分层全局剪枝方法和系统，其中，方法包括：骤S1：在CNN模型训练中，计算特征图中通道的关联特征注意力权重和原始特征注意力权重；步骤S2：根据所述关联特征注意力权重和原始特征注意力权重得到关系感知注意力权重，并根据CNN模型训练数据对所述关系感知注意力权重取平均，并将取平均结果作为特征图中通道的重要性分数；步骤S3：根据所述特征图中通道的重要性分数对特征图的通道进行剪枝。本发明在剪枝过程中考虑了通道之间的相互依赖关系，能够对通道进行有效剪枝。

公开(公告)号：CN118886468A

公开(公告)日：2024-11-01

申请号：CN202410904785.9

申请日：2024-07-08

Applicant: 苏州大学

Inventor： 姚望舒 ,  姚士佑

IPC: G06N3/082 ,  G06N3/0464 ,  G06N3/0495 ,  G06V10/82 ,  G06V10/44 ,  G06V10/764 ,  G06N3/048

Abstract: 本发明涉及一种模型剪枝方法及计算机可读存储介质，包括获取包含多个卷积层的深度卷积神经网络作为待剪枝模型；计算待剪枝模型中所有滤波器通道被剪枝后的模型网络损失变化量，作为剪枝敏感度；计算所有滤波器通道的归一化L2范数，作为相对重要性；将每个滤波器通道的剪枝敏感度和相对重要性加权求和，获取重要性评分；将待剪枝模型中滤波器数量相同的卷积层划分为一组，获取多组卷积层集合；将每组卷积层集合中所有的滤波器通道按照重要性评分由小到大的顺序排序，基于预设全局剪枝率，对排序中前预设个数的滤波器通道进行剪枝；获取对每组卷积层集合均剪枝结束的待剪枝模型，得到目标模型。