神经网络装置和操作神经网络的方法

    公开(公告)号:CN112183713B

    公开(公告)日:2025-02-18

    申请号:CN202010277417.8

    申请日:2020-04-08

    Abstract: 公开一种神经网络装置和操作神经网络的方法。一种神经网络装置包括:训练装置,被配置为:接收训练图像数据,并基于训练图像数据对神经网络进行预训练,其中,预训练的神经网络的至少一个层的参数值为M位浮点型,M是大于3的自然数;量化参数计算器,被配置为:获得预训练的神经网络的参数,并对预训练的神经网络的参数进行量化,使得量化的参数具有混合数据型;分析M位浮点型的参数值的统计分布;基于分析的统计分布获得统计地覆盖参数值的分布范围的每个参数的量化水平;和使用基于获得的每个参数的量化水平获得的量化参数,将M位浮点型的权重量化为N位浮点型的权重,N是大于1且小于M的自然数。

    神经网络装置和操作神经网络的方法

    公开(公告)号:CN112183713A

    公开(公告)日:2021-01-05

    申请号:CN202010277417.8

    申请日:2020-04-08

    Abstract: 公开一种神经网络装置和操作神经网络的方法。一种神经网络装置包括:训练装置,被配置为:接收训练图像数据,并基于训练图像数据对神经网络进行预训练,其中,预训练的神经网络的至少一个层的参数值为M位浮点型,M是大于3的自然数;量化参数计算器,被配置为:获得预训练的神经网络的参数,并对预训练的神经网络的参数进行量化,使得量化的参数具有混合数据型;分析M位浮点型的参数值的统计分布;基于分析的统计分布获得统计地覆盖参数值的分布范围的每个参数的量化水平;和使用基于获得的每个参数的量化水平获得的量化参数,将M位浮点型的权重量化为N位浮点型的权重,N是大于1且小于M的自然数。

Patent Agency Ranking