-
公开(公告)号:CN110718211A
公开(公告)日:2020-01-21
申请号:CN201910915999.5
申请日:2019-09-26
Applicant: 东南大学
Abstract: 本发明提出了一种基于混合压缩卷积神经网络的关键词识别系统,属于计算、推算、计数的技术领域。该系统包括模数转换模块、特征提取模块、混合压缩卷积神经网络模块,分别对卷积神经网络的输入值进行高阶残差量化,对神经网络的权重值进行细粒度渐进量化和激活值的低比特量化,再对卷积核进行基于前后级联合评价策略的剪枝,以此降低网络的参数量和模型大小。通过量化来降低神经网络的参数大小,通过剪枝降低网络的计算量,从而达到优化网络的目的。
-
公开(公告)号:CN110717580B
公开(公告)日:2022-03-11
申请号:CN201910922121.4
申请日:2019-09-27
Applicant: 东南大学
Abstract: 本发明提出面向二值化神经网络的基于电压调制的计算阵列,涉及模拟集成电路技术领域。计算阵列包括多个计算模块,每个计算模块包括数字计算单元、模拟计算单元。其中模拟计算单元包括由多个晶体管组成的模拟计算子单元;模拟计算单元的输入和输出数据均是电压信号。计算阵列包括数字计算阵列、模拟计算阵列。其中模拟计算阵列包括先入先出阵列和模拟计算单元阵列。本发明提出的计算阵列可以根据任务需求进行扩展,最大限度提高计算性能,降低访存要求,节省数据存储资源。通过流水操作实现各个计算子系统的协同操作。在模拟计算单元中,通过对模拟电压的堆叠完成数据的累加,大大提高运算的速度和性能。
-
公开(公告)号:CN110718211B
公开(公告)日:2021-12-21
申请号:CN201910915999.5
申请日:2019-09-26
Applicant: 东南大学
Abstract: 本发明提出了一种基于混合压缩卷积神经网络的关键词识别系统,属于计算、推算、计数的技术领域。该系统包括模数转换模块、特征提取模块、混合压缩卷积神经网络模块,分别对卷积神经网络的输入值进行高阶残差量化,对神经网络的权重值进行细粒度渐进量化和激活值的低比特量化,再对卷积核进行基于前后级联合评价策略的剪枝,以此降低网络的参数量和模型大小。通过量化来降低神经网络的参数大小,通过剪枝降低网络的计算量,从而达到优化网络的目的。
-
公开(公告)号:CN110728365B
公开(公告)日:2022-04-01
申请号:CN201910862967.3
申请日:2019-09-12
Applicant: 东南大学
IPC: G06N3/063
Abstract: 本发明公开了多位宽PE阵列计算位宽的选择方法及计算精度控制电路,属于计算、推算、计数的技术领域。本发明对神经网络最后Softmax层的输出概率值分析以判断输出最大概率的大小来评估网络识别精度,通过设定的两个概率阈值判断输出的最大概率值是否满足计算精度要求,若最大概率值小于最小阈值则采用高位宽处理元件阵列的信号,若最大概率值大于最小阈值小于最大阈值则维持之前的位宽处理元件阵列,若最大概率值大于最大阈值则采用低位宽处理元件阵列的信号,将网络输出的最大概率维持在一定的氛围内,保证网络的识别精度的同时降低功耗。
-
公开(公告)号:CN110728365A
公开(公告)日:2020-01-24
申请号:CN201910862967.3
申请日:2019-09-12
Applicant: 东南大学
IPC: G06N3/063
Abstract: 本发明公开了多位宽PE阵列计算位宽的选择方法及计算精度控制电路,属于计算、推算、计数的技术领域。本发明对神经网络最后Softmax层的输出概率值分析以判断输出最大概率的大小来评估网络识别精度,通过设定的两个概率阈值判断输出的最大概率值是否满足计算精度要求,若最大概率值小于最小阈值则采用高位宽处理元件阵列的信号,若最大概率值大于最小阈值小于最大阈值则维持之前的位宽处理元件阵列,若最大概率值大于最大阈值则采用低位宽处理元件阵列的信号,将网络输出的最大概率维持在一定的氛围内,保证网络的识别精度的同时降低功耗。
-
公开(公告)号:CN110766155A
公开(公告)日:2020-02-07
申请号:CN201910922467.4
申请日:2019-09-27
Applicant: 东南大学
IPC: G06N3/08
Abstract: 本发明公开了一种基于混合精度存储的深度神经网络加速器,属于计算、推算、计数的技术领域。该加速器包括片上缓存模块、控制模块、位宽可控的乘加批计算模块、非线性计算模块、寄存器阵列以及基于双查找表的霍夫曼解码模块,将权值的有效比特位和符号位参数存储在同一个存储器中,实现了混合精度的数据存储和解析,实现了对混合精度的数据和权重的乘加操作。通过基于混合精度的数据存储解析和基于双重查找表的霍夫曼解码实现了对不同精度下数据和权重的压缩和存储,减少了数据流,实现了基于深度神经网络的低功耗的数据调度。
-
公开(公告)号:CN110750231A
公开(公告)日:2020-02-04
申请号:CN201910922468.9
申请日:2019-09-27
Applicant: 东南大学
Abstract: 本发明公开了一种面向卷积神经网络的双相系数可调模拟乘法计算电路,属于计算、推算、计数的技术领域。该乘法计算电路包括电流型网络数模转换模块、双相系数可调模拟乘法阵列、流水线型模数转换模块和计算单元控制模块,采用离散时间电路结构实现神经网络层的乘法计算,并新增了有符号乘数设计提供正向控制和负向控制,能实现带符号位的乘法,提供更宽范围的电压幅度。
-
公开(公告)号:CN110600019A
公开(公告)日:2019-12-20
申请号:CN201910862959.9
申请日:2019-09-12
Applicant: 东南大学
Abstract: 本发明公开了基于实时场景下语音信噪比预分级的卷积神经网络计算电路,属于计算、推算、计数的技术领域。在传统的“语音特征提取+卷积计算识别输出”的语音识别网络电路工作模式基础上,增设动态实时语音信噪比检测模块。动态实时语音信噪比检测模块通过智能感知计算实时输出当前语音场景下的电路工作模式控制信号,并动态调节后续位宽可控的卷积网络计算模块的数据运算位宽大小以及自适应语音特征提取计算模块的快速傅里叶变换的蝶形运算级数,从根本上解决了传统卷积网络计算电路结构存在的场景适应力差、冗余计算多、资源占用过多的问题。
-
公开(公告)号:CN110600019B
公开(公告)日:2022-02-15
申请号:CN201910862959.9
申请日:2019-09-12
Applicant: 东南大学
Abstract: 本发明公开了基于实时场景下语音信噪比预分级的卷积神经网络计算电路,属于计算、推算、计数的技术领域。在传统的“语音特征提取+卷积计算识别输出”的语音识别网络电路工作模式基础上,增设动态实时语音信噪比检测模块。动态实时语音信噪比检测模块通过智能感知计算实时输出当前语音场景下的电路工作模式控制信号,并动态调节后续位宽可控的卷积网络计算模块的数据运算位宽大小以及自适应语音特征提取计算模块的快速傅里叶变换的蝶形运算级数,从根本上解决了传统卷积网络计算电路结构存在的场景适应力差、冗余计算多、资源占用过多的问题。
-
公开(公告)号:CN110750231B
公开(公告)日:2021-09-28
申请号:CN201910922468.9
申请日:2019-09-27
Applicant: 东南大学
Abstract: 本发明公开了一种面向卷积神经网络的双相系数可调模拟乘法计算电路,属于计算、推算、计数的技术领域。该乘法计算电路包括电流型网络数模转换模块、双相系数可调模拟乘法阵列、流水线型模数转换模块和计算单元控制模块,采用离散时间电路结构实现神经网络层的乘法计算,并新增了有符号乘数设计提供正向控制和负向控制,能实现带符号位的乘法,提供更宽范围的电压幅度。
-
-
-
-
-
-
-
-
-