公开(公告)号：CN113835758B

公开(公告)日：2022-04-15

申请号：CN202111412784.5

申请日：2021-11-25

Applicant: 之江实验室

Inventor： 曾令仿 ,  陈晓锋 ,  陈志广

IPC: G06F9/30 ,  G06F9/50 ,  G06N3/04 ,  G06N3/063

Abstract: 本发明公开了基于向量指令加速计算的Winograd卷积实现方法，包括如下步骤：S1，构建寄存器分块策略，在CPU上的Winograd卷积实现过程中，原始数据转换到Winograd数据域时，对中间缓冲的数据进行向量分块和寄存器分块；S2，构建内存数据布局策略，将Winograd卷积的原始数据和中间缓冲的数据在内存上进行排列，相对于矩阵乘法的最优性，对中间缓冲的数据布局，将Winograd分块维度安排到更内层的位置；S3，构建cache分块搜索，根据CPU硬件参数和卷积参数确定的小范围内，搜索cache分块的性能最优解，并将其与对应的卷积参数一起保存，后续通过卷积参数直接采用该性能最优解。

公开(公告)号：CN113835758A

公开(公告)日：2021-12-24

申请号：CN202111412784.5

申请日：2021-11-25

Applicant: 之江实验室

Inventor： 曾令仿 ,  陈晓锋 ,  陈志广

IPC: G06F9/30 ,  G06F9/50 ,  G06N3/04 ,  G06N3/063

Abstract: 本发明公开了基于向量指令加速计算的Winograd卷积实现方法，包括如下步骤：S1，构建寄存器分块策略，在CPU上的Winograd卷积实现过程中，原始数据转换到Winograd数据域时，对中间缓冲的数据进行向量分块和寄存器分块；S2，构建内存数据布局策略，将Winograd卷积的原始数据和中间缓冲的数据在内存上进行排列，相对于矩阵乘法的最优性，对中间缓冲的数据布局，将Winograd分块维度安排到更内层的位置；S3，构建cache分块搜索，根据CPU硬件参数和卷积参数确定的小范围内，搜索cache分块的性能最优解，并将其与对应的卷积参数一起保存，后续通过卷积参数直接采用该性能最优解。