处理器和操作处理器的方法
    1.
    发明公开

    公开(公告)号:CN114546333A

    公开(公告)日:2022-05-27

    申请号:CN202111325168.6

    申请日:2021-11-10

    Abstract: 公开了处理器和操作处理器的方法。在一些实施例中,所述方法包括:形成第一组乘积以及形成第二组乘积。形成第一组乘积的步骤可包括:在第一乘法器、第二乘法器和第三乘法器中将第一激活值与第一最低有效子字、第二最低有效子字和最高有效子字相乘;以及将得到的第一部分乘积和得到的第二部分乘积相加。形成第二组乘积的步骤可包括形成第一浮点乘积,形成第一浮点乘积的步骤包括:在第一乘法器中将激活值的尾数的第一子字与权重的尾数的第一子字相乘,以形成第三部分乘积。

    加速器和加速器的操作方法
    2.
    发明公开

    公开(公告)号:CN113673689A

    公开(公告)日:2021-11-19

    申请号:CN202110493609.7

    申请日:2021-05-07

    Abstract: 提供了加速器和加速器的操作方法。所述操作方法包括:通过第一处理电路访问权重缓冲器,以执行权重缓冲器中的第一权重张量的区块内预处理,以在权重缓冲器中形成第一预处理后的权重张量,以及通过第一处理电路访问权重缓冲器,以执行第一预处理后的权重张量的区块间预处理,以在权重缓冲器中形成第二预处理后的权重张量,其中,区块内预处理包括:通过将第一权重张量的第一权重区块的第一元素存储在权重缓冲器的第二位置处,将第一元素沿向前方向或沿旁视方向移动一个位置,并且区块间预处理包括:通过将第一预处理后的权重张量的第一权重区块的第一行存储在权重缓冲器的第四位置处,将第一行沿向前方向移动一个位置或者沿旁视方向移动一个位置。

    使用具有负载平衡的空间融合的混合精度神经处理单元

    公开(公告)号:CN113496270A

    公开(公告)日:2021-10-12

    申请号:CN202110280201.1

    申请日:2021-03-16

    Abstract: 公开一种使用具有负载平衡的空间融合的混合精度神经处理单元。一种设备可包括机器学习系统。所述机器学习系统可包括:精度确定电路,被配置为确定数据的精度级别,并且将所述数据划分成数据子部分。所述机器学习系统可在每个子部分的计算期间利用稀疏性。所述机器学习系统可包括:负载平衡电路,被配置为选择负载平衡技术,其中,负载平衡技术包括用至少第一数据/权重子部分组合和第二数据/权重子部分组合交替地加载计算电路。负载平衡电路可被配置为:至少部分地基于负载平衡技术用选择的数据子部分和选择的权重子部分加载计算电路。所述机器学习系统可包括:计算电路,被配置为至少部分地基于选择的数据子部分和权重子部分计算部分计算结果。

    神经网络装置
    4.
    发明公开
    神经网络装置 审中-实审

    公开(公告)号:CN113496269A

    公开(公告)日:2021-10-12

    申请号:CN202011291921.X

    申请日:2020-11-18

    Abstract: 公开了一种神经网络装置,所述神经网络装置包括:第一存储器,针对CNN中的至少一个层的每个层,存储该层的预定数量的输入信道中的每个的IFM的激活值;流水线结构,从该层的预定数量的输入信道中的每个中的IFM选择激活值,流水线结构将被选激活值即时转换到Winograd域;第二存储器,存储该层的预定数量的输入信道中的每个的Winograd滤波器的元素;乘法器,将该层的Winograd域中的转换后的激活值与来自Winograd滤波器的被选元素相乘,以形成Winograd域中的对应的乘积值,Winograd滤波器中的每个被选元素对应于Winograd域中的激活值;加法器树,对该层的Winograd域中的各个乘积值进行求和以形成Winograd域中的特征图的元素;逆Winograd转换器,对Winograd域中的特征图的元素即时进行逆Winograd转换,以形成该层的OFM。

    乘法器及其操作的方法
    5.
    发明授权

    公开(公告)号:CN111176609B

    公开(公告)日:2024-11-26

    申请号:CN201911099085.2

    申请日:2019-11-12

    Abstract: 公开一种乘法器及其操作的方法。一种N×N乘法器可包括:N/2×N第一乘法器、N/2×N/2第二乘法器和N/2×N/2第三乘法器。N×N乘法器接收两个操作数进行相乘。如果操作数等于零或具有小值,则第一乘法器、第二乘法器和/或第三乘法器被选择性地禁用。如果所述操作数二者都小于2N/2,则第二乘法器或第三乘法器用于将操作数相乘。如果一个操作数小于2N/2而另一操作数等于或大于2N/2,则第一乘法器用于将操作数相乘,或者第二乘法器和第三乘法器用于将操作数相乘。如果两个操作数等于或大于2N/2,则第一乘法器、第二乘法器和第三乘法器用于将操作数相乘。

    神经网络处理器执行乘法运算的方法和神经网络处理器

    公开(公告)号:CN114548387A

    公开(公告)日:2022-05-27

    申请号:CN202111326201.7

    申请日:2021-11-10

    Abstract: 一种神经网络处理器执行乘法运算的方法和神经网络处理器。在一些实施例中,所述方法包括形成第一乘积集合和形成第二乘积集合。形成第一乘积集合的步骤可包括:在第一乘法器中将第一激活值与第一权重的最低有效子字和最高有效子字相乘,以形成第一部分乘积和第二部分乘积;以及将第一部分乘积与第二部分乘积相加。形成第二乘积集合的步骤可包括:在第一乘法器中将第二激活值与尾数的第一子字和第二子字相乘,以形成第三部分乘积和第四部分乘积;以及将第三部分乘积与第四部分乘积相加。

    视觉转换器和用于训练视觉转换器的方法

    公开(公告)号:CN117035016A

    公开(公告)日:2023-11-10

    申请号:CN202310356845.3

    申请日:2023-04-04

    Abstract: 公开视觉转换器和用于训练视觉转换器的方法。基于教师网络类标记和学生网络(训练期间的视觉转换器)的图单元重要性分数的输入图像的图单元蒸馏损失在视觉转换器的修剪层处被确定。在当前回合数为奇数时,输入图像的图单元的稀疏化被跳过,并且密集输入图像由修剪层之后的层处理。在当前回合数为偶数时,输入图像的图单元在修剪层处被修剪并且由修剪层之后的层处理。输入图像的标签损失和总损失由后续层确定,并且学生网络被更新。

Patent Agency Ranking