公开(公告)号：CN111445004A

公开(公告)日：2020-07-24

申请号：CN202010048497.X

申请日：2020-01-16

Applicant: 三星电子株式会社

Inventor： 提塔许·瑞许特 ,  莱恩·M·海雀 ,  乔治·A·凯特尔 ,  博尔纳·J·奥布拉多维奇 ,  恩金·伊佩克

IPC: G06N3/04 ,  G06N3/063 ,  G06N3/08 ,  G06F17/16

Abstract: 一种在包括一系列集群的电路中存储用于被训练的人工神经网络的稀疏权重矩阵的方法。所述方法包括将稀疏权重矩阵分割成至少一个第一子区块及至少一个第二子区块。所述第一子区块仅包括零值权重且所述第二子区块包括非零值权重。所述方法还包括将所述至少一个第二子区块中的非零值权重指派给电路的所述一系列集群中的至少一个集群。所述电路被配置成在利用人工神经网络进行的推断过程期间执行所述至少一个第二子区块的非零值权重与输入向量之间的矩阵-向量乘法(MVM)。对所包含的所有元素均为零元素的子区块进行电力门控，从而降低用于推断的总能量消耗。也提供一种推断系统和一种计算机可读存储介质。

公开(公告)号：CN111445004B

公开(公告)日：2025-05-16

申请号：CN202010048497.X

申请日：2020-01-16

Applicant: 三星电子株式会社

Inventor： 提塔许·瑞许特 ,  莱恩·M·海雀 ,  乔治·A·凯特尔 ,  博尔纳·J·奥布拉多维奇 ,  恩金·伊佩克

IPC: G06N3/0495 ,  G06N3/063 ,  G06N3/08 ,  G06F17/16

Abstract: 一种在包括一系列集群的电路中存储用于被训练的人工神经网络的稀疏权重矩阵的方法。所述方法包括将稀疏权重矩阵分割成至少一个第一子区块及至少一个第二子区块。所述第一子区块仅包括零值权重且所述第二子区块包括非零值权重。所述方法还包括将所述至少一个第二子区块中的非零值权重指派给电路的所述一系列集群中的至少一个集群。所述电路被配置成在利用人工神经网络进行的推断过程期间执行所述至少一个第二子区块的非零值权重与输入向量之间的矩阵‑向量乘法(MVM)。对所包含的所有元素均为零元素的子区块进行电力门控，从而降低用于推断的总能量消耗。也提供一种推断系统和一种计算机可读存储介质。