-
公开(公告)号:CN115906917B
公开(公告)日:2024-01-30
申请号:CN202211397117.9
申请日:2022-11-09
Applicant: 武汉大学
Abstract: 本发明公开了一种基于模型算法划分的神经网络模型部署方法及装置,其中的方法首先针对Transformer模型中的资源消耗与时延进行分析,为模型的各层设置资源核时延的约束在指导后续模块设计。然后对神经网络模型中的算法划分为通用算法和模型相关算法以及基于模块的执行顺序。硬件架构不考虑特殊的模型算法,从而进行通用性设计来增加可扩展性。而模块则根据划分结果来依次设计,对于通用算法,对应模块由硬件架构中单元支持并实现;对于模型相关算法,对应模块则进行定制化设计,设计并导入算法函数和计算流程。最后根据执行顺序来调用各模块来运行整体模型推理系统,本发明对部署
-
公开(公告)号:CN101441231B
公开(公告)日:2010-06-23
申请号:CN200810197104.0
申请日:2008-09-27
Applicant: 武汉大学
Abstract: 一种谐波电能计量误差分析装置,包括有:谐波数据采集部分,用于将由电网采集所得谐波数据输入电能数据分析部分;电能计量误差数据分析部分,包括有模型存储模块和误差分析模块,所述模型存储模块用于存储计量误差模型,以及电能计量表型号所对应的模型函数;所述误差分析模块用于对输入的谐波数据求取待分析理论误差数据,求取待分析理论误差数据的相应各次谐波实测误差及总误差;误差分析结果输出部分,用于对电能计量误差数据分析部分获取的误差数据分析结果进行输出或存储处理。本发明能为供电部门挽回因谐波造成的电能计量误差损失提供定量数据依据,为电力部门治理谐波污染提供定量数据依据。
-
公开(公告)号:CN115906917A
公开(公告)日:2023-04-04
申请号:CN202211397117.9
申请日:2022-11-09
Applicant: 武汉大学
Abstract: 本发明公开了一种基于模型算法划分的神经网络模型部署方法及装置,其中的方法首先针对Transformer模型中的资源消耗与时延进行分析,为模型的各层设置资源核时延的约束在指导后续模块设计。然后对神经网络模型中的算法划分为通用算法和模型相关算法以及基于模块的执行顺序。硬件架构不考虑特殊的模型算法,从而进行通用性设计来增加可扩展性。而模块则根据划分结果来依次设计,对于通用算法,对应模块由硬件架构中单元支持并实现;对于模型相关算法,对应模块则进行定制化设计,设计并导入算法函数和计算流程。最后根据执行顺序来调用各模块来运行整体模型推理系统,本发明对部署Transformer的模型推理系统在资源利用率和时延方面都有明显的提高。
-
公开(公告)号:CN101441231A
公开(公告)日:2009-05-27
申请号:CN200810197104.0
申请日:2008-09-27
Applicant: 武汉大学
Abstract: 一种谐波电能计量误差分析装置,包括有:谐波数据采集部分,用于将由电网采集所得谐波数据输入电能数据分析部分;电能计量误差数据分析部分,包括有模型存储模块和误差分析模块,所述模型存储模块用于存储计量误差模型,以及电能计量表型号所对应的模型函数;所述误差分析模块用于对输入的谐波数据求取待分析理论误差数据,求取待分析理论误差数据的相应各次谐波实测误差及总误差;误差分析结果输出部分,用于对电能计量误差数据分析部分获取的误差数据分析结果进行输出或存储处理。本发明能为供电部门挽回因谐波造成的电能计量误差损失提供定量数据依据,为电力部门治理谐波污染提供定量数据依据。
-
-
-