公开(公告)号：CN109886404A

公开(公告)日：2019-06-14

申请号：CN201910104250.2

申请日：2019-02-01

Applicant: 东南大学

Inventor： 张萌 ,  刘文昭 ,  李国庆 ,  沈旭照 ,  李建军 ,  杨洲 ,  朱佳蕾

IPC: G06N3/08 ,  G06N3/04

Abstract: 本发明公开了一种交错菱形感知的卷积神经网络池化方法，包括如下步骤：神经网络卷积层四周增加空白行列；使用菱形池化窗口取代方形池化窗口，自左而右自上而下地滑动，使行内重叠，行间交错；采用反向传播算法训练含有交错菱形池化的卷积神经网络，求出每个神经元的梯度，得到新的权重。本发明改变局部感受野的形状和位置，优化了池化层特征提取方式，采用一范数约束感受野，保留了更有效的局部感受中心，使用交错的计算方式，保证有特征中心的行部分重叠，没有特征中心的行恰好交错，增加网络的非对称性的同时减少了冗余的计算。

公开(公告)号：CN109886404B

公开(公告)日：2023-08-04

申请号：CN201910104250.2

申请日：2019-02-01

Applicant: 东南大学

Inventor： 张萌 ,  刘文昭 ,  李国庆 ,  沈旭照 ,  李建军 ,  杨洲 ,  朱佳蕾

IPC: G06N3/082 ,  G06N3/0464

Abstract: 本发明公开了一种交错菱形感知的卷积神经网络池化方法，包括如下步骤：神经网络卷积层四周增加空白行列；使用菱形池化窗口取代方形池化窗口，自左而右自上而下地滑动，使行内重叠，行间交错；采用反向传播算法训练含有交错菱形池化的卷积神经网络，求出每个神经元的梯度，得到新的权重。本发明改变局部感受野的形状和位置，优化了池化层特征提取方式，采用一范数约束感受野，保留了更有效的局部感受中心，使用交错的计算方式，保证有特征中心的行部分重叠，没有特征中心的行恰好交错，增加网络的非对称性的同时减少了冗余的计算。

公开(公告)号：CN111832704A

公开(公告)日：2020-10-27

申请号：CN202010611409.2

申请日：2020-06-30

Applicant: 东南大学

Inventor： 张萌 ,  曹晗翔 ,  范津安 ,  张倩茹 ,  朱佳蕾

IPC: G06N3/04

Abstract: 本发明公开了一种卷积输入式的嵌套递归神经网络的设计方法，包括如下步骤：将当前时刻输入数据和上时刻输出数据进行数据组合和卷积操作处理；对卷积后的结果进行均等拆分，作为原长短期记忆网络单元中的各个门控单元；在内层嵌套单元中进行卷积操作作为输入，再进行和长短期记忆网络单元相同的门控计算操作，得出内层嵌套单元的输出；将内层嵌套单元的输出作为外层单元的记忆单元值，再经由输出门得到整体单元的最终输出值。本发明提出了嵌套式的递归神经网络和卷积输入的结合，既提高了模型对拟合长时间关联的数据的性能，又提取了特征关系之间的局部关联，减少了一定的参数量；得较一般的递归神经网络具有更高的准确率和更少的参数。