公开(公告)号：CN113554161B

公开(公告)日：2024-10-15

申请号：CN202110821142.4

申请日：2021-07-20

Applicant: 清华大学

Inventor： 刘勇攀 ,  张驰 ,  石皓冰 ,  袁竹清 ,  张璐 ,  杨华中

IPC: G06N3/063

Abstract: 本发明提供一种神经网络加速器编译方法及装置，该方法包括：基于神经网络结构信息和预设指令类型，生成每种预设指令类型之间的依赖关系和多种神经网络编译器指令队列，其中，所述神经网络编译器指令队列是由相同预设指令类型的神经网络编译器指令组成的队列；根据所述依赖关系，确定每种神经网络编译器指令队列之间的并行运行策略；根据所述并行运行策略，生成神经网络加速器的加速指令。本发明通过融合循环缓冲区和超标量等柔性动态调整技术于神经网络专用加速器中，能够有效解决神经网络参数加载和模块利用率等问题，使得神经网络能够更快速的部署于边缘端。

公开(公告)号：CN113554161A

公开(公告)日：2021-10-26

申请号：CN202110821142.4

申请日：2021-07-20

Applicant: 清华大学

Inventor： 刘勇攀 ,  张驰 ,  石皓冰 ,  袁竹清 ,  张璐 ,  杨华中

IPC: G06N3/063

Abstract: 本发明提供一种神经网络加速器编译方法及装置，该方法包括：基于神经网络结构信息和预设指令类型，生成每种预设指令类型之间的依赖关系和多种神经网络编译器指令队列，其中，所述神经网络编译器指令队列是由相同预设指令类型的神经网络编译器指令组成的队列；根据所述依赖关系，确定每种神经网络编译器指令队列之间的并行运行策略；根据所述并行运行策略，生成神经网络加速器的加速指令。本发明通过融合循环缓冲区和超标量等柔性动态调整技术于神经网络专用加速器中，能够有效解决神经网络参数加载和模块利用率等问题，使得神经网络能够更快速的部署于边缘端。