加速器和加速器的操作方法
    3.
    发明公开

    公开(公告)号:CN113673689A

    公开(公告)日:2021-11-19

    申请号:CN202110493609.7

    申请日:2021-05-07

    Abstract: 提供了加速器和加速器的操作方法。所述操作方法包括:通过第一处理电路访问权重缓冲器,以执行权重缓冲器中的第一权重张量的区块内预处理,以在权重缓冲器中形成第一预处理后的权重张量,以及通过第一处理电路访问权重缓冲器,以执行第一预处理后的权重张量的区块间预处理,以在权重缓冲器中形成第二预处理后的权重张量,其中,区块内预处理包括:通过将第一权重张量的第一权重区块的第一元素存储在权重缓冲器的第二位置处,将第一元素沿向前方向或沿旁视方向移动一个位置,并且区块间预处理包括:通过将第一预处理后的权重张量的第一权重区块的第一行存储在权重缓冲器的第四位置处,将第一行沿向前方向移动一个位置或者沿旁视方向移动一个位置。

    使用具有负载平衡的空间融合的混合精度神经处理单元

    公开(公告)号:CN113496270A

    公开(公告)日:2021-10-12

    申请号:CN202110280201.1

    申请日:2021-03-16

    Abstract: 公开一种使用具有负载平衡的空间融合的混合精度神经处理单元。一种设备可包括机器学习系统。所述机器学习系统可包括:精度确定电路,被配置为确定数据的精度级别,并且将所述数据划分成数据子部分。所述机器学习系统可在每个子部分的计算期间利用稀疏性。所述机器学习系统可包括:负载平衡电路,被配置为选择负载平衡技术,其中,负载平衡技术包括用至少第一数据/权重子部分组合和第二数据/权重子部分组合交替地加载计算电路。负载平衡电路可被配置为:至少部分地基于负载平衡技术用选择的数据子部分和选择的权重子部分加载计算电路。所述机器学习系统可包括:计算电路,被配置为至少部分地基于选择的数据子部分和权重子部分计算部分计算结果。

Patent Agency Ranking