-
公开(公告)号:CN116501509B
公开(公告)日:2023-09-08
申请号:CN202310782140.8
申请日:2023-06-29
Applicant: 南京邮电大学
Abstract: 本发明属于深度学习技术领域,公开了一种面向微控制器的深度学习内存优化方法,包括:提出一种多算子融合计算优化方法,对深度学习模型中常用到的残差结构、卷积‑激活结构和连接结构分别进行优化,减少深度学习模型推理过程中的内存使用,使深度学习模型可以运行在内存更小的微控制器上;针对微控制器多段内存的特性提出一种面向多段内存的深度学习算子内存布局优化方法,能够使深度学习算子使用多段内存进行推理,解决现有技术只使用单段内存的缺点,有效提高内存使用效率。
-
公开(公告)号:CN114742211B
公开(公告)日:2022-09-23
申请号:CN202210653260.3
申请日:2022-06-10
Applicant: 南京邮电大学
Abstract: 一种面向微控制器的卷积神经网络部署和优化方法,包含卷积神经网络模型的设计、卷积计算内存的优化以及卷积神经网络的部署三部分。卷积神经网络模型的设计基于神经网络架构搜索,搜索适用于微控制器计算量、参数量和内存需求小的卷积神经网络模型;对卷积神经网络中常用到的标准卷积、深度卷积和点卷积分别进行优化,减少卷积神经网络推理过程中的内存占用,使卷积神经网络可以运行在更多内存受限的微控制器上;提供一种运行在微控制器上的卷积神经网络从构建到应用的方法,提高了微控制器运行卷积神经网络模型的易用性和实用性。
-
公开(公告)号:CN114742211A
公开(公告)日:2022-07-12
申请号:CN202210653260.3
申请日:2022-06-10
Applicant: 南京邮电大学
Abstract: 一种面向微控制器的卷积神经网络部署和优化方法,包含卷积神经网络模型的设计、卷积计算内存的优化以及卷积神经网络的部署三部分。卷积神经网络模型的设计基于神经网络架构搜索,搜索适用于微控制器计算量、参数量和内存需求小的卷积神经网络模型;对卷积神经网络中常用到的标准卷积、深度卷积和点卷积分别进行优化,减少卷积神经网络推理过程中的内存占用,使卷积神经网络可以运行在更多内存受限的微控制器上;提供一种运行在微控制器上的卷积神经网络从构建到应用的方法,提高了微控制器运行卷积神经网络模型的易用性和实用性。
-
公开(公告)号:CN116501509A
公开(公告)日:2023-07-28
申请号:CN202310782140.8
申请日:2023-06-29
Applicant: 南京邮电大学
Abstract: 本发明属于深度学习技术领域,公开了一种面向微控制器的深度学习内存优化方法,包括:提出一种多算子融合计算优化方法,对深度学习模型中常用到的残差结构、卷积‑激活结构和连接结构分别进行优化,减少深度学习模型推理过程中的内存使用,使深度学习模型可以运行在内存更小的微控制器上;针对微控制器多段内存的特性提出一种面向多段内存的深度学习算子内存布局优化方法,能够使深度学习算子使用多段内存进行推理,解决现有技术只使用单段内存的缺点,有效提高内存使用效率。
-
-
-