公开(公告)号：CN109886404B

公开(公告)日：2023-08-04

申请号：CN201910104250.2

申请日：2019-02-01

Applicant: 东南大学

Inventor： 张萌 ,  刘文昭 ,  李国庆 ,  沈旭照 ,  李建军 ,  杨洲 ,  朱佳蕾

IPC: G06N3/082 ,  G06N3/0464

Abstract: 本发明公开了一种交错菱形感知的卷积神经网络池化方法，包括如下步骤：神经网络卷积层四周增加空白行列；使用菱形池化窗口取代方形池化窗口，自左而右自上而下地滑动，使行内重叠，行间交错；采用反向传播算法训练含有交错菱形池化的卷积神经网络，求出每个神经元的梯度，得到新的权重。本发明改变局部感受野的形状和位置，优化了池化层特征提取方式，采用一范数约束感受野，保留了更有效的局部感受中心，使用交错的计算方式，保证有特征中心的行部分重叠，没有特征中心的行恰好交错，增加网络的非对称性的同时减少了冗余的计算。

公开(公告)号：CN109886404A

公开(公告)日：2019-06-14

申请号：CN201910104250.2

申请日：2019-02-01

Applicant: 东南大学

Inventor： 张萌 ,  刘文昭 ,  李国庆 ,  沈旭照 ,  李建军 ,  杨洲 ,  朱佳蕾

IPC: G06N3/08 ,  G06N3/04

Abstract: 本发明公开了一种交错菱形感知的卷积神经网络池化方法，包括如下步骤：神经网络卷积层四周增加空白行列；使用菱形池化窗口取代方形池化窗口，自左而右自上而下地滑动，使行内重叠，行间交错；采用反向传播算法训练含有交错菱形池化的卷积神经网络，求出每个神经元的梯度，得到新的权重。本发明改变局部感受野的形状和位置，优化了池化层特征提取方式，采用一范数约束感受野，保留了更有效的局部感受中心，使用交错的计算方式，保证有特征中心的行部分重叠，没有特征中心的行恰好交错，增加网络的非对称性的同时减少了冗余的计算。

公开(公告)号：CN109376859A

公开(公告)日：2019-02-22

申请号：CN201811128219.4

申请日：2018-09-27

Applicant: 东南大学

Inventor： 张萌 ,  刘文昭 ,  李国庆 ,  张倩茹 ,  杨洲

IPC: G06N3/08 ,  G06N3/04

Abstract: 本发明公开了一种基于菱形卷积的神经网络剪枝方法，包括如下步骤：(1)卷积神经网络输入层及卷积层增加空白行列像素；(2)卷积操作采用奇数菱形卷积核取代方形卷积核，池化操作采用方形卷积核，前向计算神经网络输出；(3)采用反向传播算法训练含有菱形卷积核的卷积神经网络，求出每个神经元的梯度，得到新的权重。本发明提出了基于菱形卷积的神经网络，用菱形卷积核取代了传统的方形卷积核，采用一范数约束卷积窗口，保留了更有效的局部感受中心，保证了网络的稀疏性，进一步解决了神经网络参数复杂度过高的问题，加快了传播速度，同时菱形卷积核有正则化作用，防止了模型过拟合，整体训练速度加快，具有更高的准确率。