-
公开(公告)号:CN111176609A
公开(公告)日:2020-05-19
申请号:CN201911099085.2
申请日:2019-11-12
Applicant: 三星电子株式会社
Inventor: 伊利亚·奥夫桑尼科夫 , 阿里·沙菲·阿得斯塔尼 , 约瑟夫·哈松 , 王磊
IPC: G06F7/52
Abstract: 公开一种乘法器及其操作的方法。一种N×N乘法器可包括:N/2×N第一乘法器、N/2×N/2第二乘法器和N/2×N/2第三乘法器。N×N乘法器接收两个操作数进行相乘。如果操作数等于零或具有小值,则第一乘法器、第二乘法器和/或第三乘法器被选择性地禁用。如果所述操作数二者都小于2N/2,则第二乘法器或第三乘法器用于将操作数相乘。如果一个操作数小于2N/2而另一操作数等于或大于2N/2,则第一乘法器用于将操作数相乘,或者第二乘法器和第三乘法器用于将操作数相乘。如果两个操作数等于或大于2N/2,则第一乘法器、第二乘法器和第三乘法器用于将操作数相乘。
-
公开(公告)号:CN117744724A
公开(公告)日:2024-03-22
申请号:CN202310997754.8
申请日:2023-08-09
Applicant: 三星电子株式会社
IPC: G06N3/063 , G06N3/0495 , G06N3/082 , G06F7/544
Abstract: 公开神经处理单元。权重缓冲器被配置为以从结构化权重稀疏性布置或随机权重稀疏性布置选择的权重稀疏性布置来存储权重值。权重复用器阵列被配置为基于选择的权重稀疏性布置来输出存储在权重缓冲器中的一个或多个权重值作为第一操作数值。激活缓冲器被配置为存储激活值。激活复用器阵列结合到激活缓存器,并且被配置为输出存储在激活缓存器中的一个或多个激活值作为第二操作数值,其中,每个相应的第二操作数值和相应的第一操作数值形成操作数值对。乘法器阵列被配置为输出每个操作数值对的乘积值。
-
公开(公告)号:CN113673689A
公开(公告)日:2021-11-19
申请号:CN202110493609.7
申请日:2021-05-07
Applicant: 三星电子株式会社
Inventor: 申宗勳 , 阿里·沙菲·阿得斯塔尼 , 哈姆扎·艾哈迈德·阿里·阿卜杜拉齐兹 , 约瑟夫·哈松
Abstract: 提供了加速器和加速器的操作方法。所述操作方法包括:通过第一处理电路访问权重缓冲器,以执行权重缓冲器中的第一权重张量的区块内预处理,以在权重缓冲器中形成第一预处理后的权重张量,以及通过第一处理电路访问权重缓冲器,以执行第一预处理后的权重张量的区块间预处理,以在权重缓冲器中形成第二预处理后的权重张量,其中,区块内预处理包括:通过将第一权重张量的第一权重区块的第一元素存储在权重缓冲器的第二位置处,将第一元素沿向前方向或沿旁视方向移动一个位置,并且区块间预处理包括:通过将第一预处理后的权重张量的第一权重区块的第一行存储在权重缓冲器的第四位置处,将第一行沿向前方向移动一个位置或者沿旁视方向移动一个位置。
-
公开(公告)号:CN113496270A
公开(公告)日:2021-10-12
申请号:CN202110280201.1
申请日:2021-03-16
Applicant: 三星电子株式会社
Inventor: 哈姆扎·艾哈迈德·阿里·阿卜杜拉齐兹 , 阿里·沙菲·阿得斯塔尼 , 约瑟夫·哈松
Abstract: 公开一种使用具有负载平衡的空间融合的混合精度神经处理单元。一种设备可包括机器学习系统。所述机器学习系统可包括:精度确定电路,被配置为确定数据的精度级别,并且将所述数据划分成数据子部分。所述机器学习系统可在每个子部分的计算期间利用稀疏性。所述机器学习系统可包括:负载平衡电路,被配置为选择负载平衡技术,其中,负载平衡技术包括用至少第一数据/权重子部分组合和第二数据/权重子部分组合交替地加载计算电路。负载平衡电路可被配置为:至少部分地基于负载平衡技术用选择的数据子部分和选择的权重子部分加载计算电路。所述机器学习系统可包括:计算电路,被配置为至少部分地基于选择的数据子部分和权重子部分计算部分计算结果。
-
公开(公告)号:CN113496269A
公开(公告)日:2021-10-12
申请号:CN202011291921.X
申请日:2020-11-18
Applicant: 三星电子株式会社
Inventor: 阿里·沙菲·阿得斯塔尼 , 约瑟夫·哈松
Abstract: 公开了一种神经网络装置,所述神经网络装置包括:第一存储器,针对CNN中的至少一个层的每个层,存储该层的预定数量的输入信道中的每个的IFM的激活值;流水线结构,从该层的预定数量的输入信道中的每个中的IFM选择激活值,流水线结构将被选激活值即时转换到Winograd域;第二存储器,存储该层的预定数量的输入信道中的每个的Winograd滤波器的元素;乘法器,将该层的Winograd域中的转换后的激活值与来自Winograd滤波器的被选元素相乘,以形成Winograd域中的对应的乘积值,Winograd滤波器中的每个被选元素对应于Winograd域中的激活值;加法器树,对该层的Winograd域中的各个乘积值进行求和以形成Winograd域中的特征图的元素;逆Winograd转换器,对Winograd域中的特征图的元素即时进行逆Winograd转换,以形成该层的OFM。
-
公开(公告)号:CN111176609B
公开(公告)日:2024-11-26
申请号:CN201911099085.2
申请日:2019-11-12
Applicant: 三星电子株式会社
Inventor: 伊利亚·奥夫桑尼科夫 , 阿里·沙菲·阿得斯塔尼 , 约瑟夫·哈松 , 王磊
IPC: G06F7/52
Abstract: 公开一种乘法器及其操作的方法。一种N×N乘法器可包括:N/2×N第一乘法器、N/2×N/2第二乘法器和N/2×N/2第三乘法器。N×N乘法器接收两个操作数进行相乘。如果操作数等于零或具有小值,则第一乘法器、第二乘法器和/或第三乘法器被选择性地禁用。如果所述操作数二者都小于2N/2,则第二乘法器或第三乘法器用于将操作数相乘。如果一个操作数小于2N/2而另一操作数等于或大于2N/2,则第一乘法器用于将操作数相乘,或者第二乘法器和第三乘法器用于将操作数相乘。如果两个操作数等于或大于2N/2,则第一乘法器、第二乘法器和第三乘法器用于将操作数相乘。
-
公开(公告)号:CN117744723A
公开(公告)日:2024-03-22
申请号:CN202310967526.6
申请日:2023-08-02
Applicant: 三星电子株式会社
IPC: G06N3/063 , G06N3/0464 , G06N3/082
Abstract: 提供神经处理单元。所述神经处理单元可被重新配置为处理从N:M=1:4、2:4、2:8和4:8细粒度结构化权重稀疏性布置选择的细粒度结构化权重稀疏性布置。权重缓冲器存储权重值,并且权重复用器阵列基于选择的细粒度结构化权重稀疏性布置来输出存储在权重缓冲器中的一个或多个权重值作为第一操作数值。激活缓冲器存储激活值,并且激活复用器阵列基于选择的细粒度结构化权重稀疏性布置输出存储在激活缓冲器中的一个或多个激活值作为第二操作数值,其中,每个相应的第二操作数值和相应的第一操作数值形成操作数值对。乘法器阵列输出每个操作数值对的乘积值。
-
公开(公告)号:CN115374777A
公开(公告)日:2022-11-22
申请号:CN202210485989.4
申请日:2022-05-06
Applicant: 三星电子株式会社 , 加利福尼亚大学董事会
Inventor: 大卫·菲利普·劳埃德·索斯利 , 金世训 , 沈晟 , 阿米尔·古拉米内贾德 , 约瑟夫·哈松 , 权祐奭
IPC: G06F40/284
Abstract: 公开了用于自然语言处理的方法和装置。所述方法使用多个子模型来训练所述自注意力模型;每个子模型接收词法单元的输入序列;每个词法单元的输入序列在每个子模型内被评分,以提供每个子模型的词法单元分数;每个子模型具有预定阈值分数。每个子模型从输入序列修剪具有低于子模型的预定阈值分数的分数的词法单元。每个子模型的修剪后的序列用作下一个子模型的输入序列。每个子模型的预定阈值分数不同。
-
公开(公告)号:CN114548387A
公开(公告)日:2022-05-27
申请号:CN202111326201.7
申请日:2021-11-10
Applicant: 三星电子株式会社
Inventor: 阿里·沙菲·阿得斯塔尼 , 约瑟夫·哈松
Abstract: 一种神经网络处理器执行乘法运算的方法和神经网络处理器。在一些实施例中,所述方法包括形成第一乘积集合和形成第二乘积集合。形成第一乘积集合的步骤可包括:在第一乘法器中将第一激活值与第一权重的最低有效子字和最高有效子字相乘,以形成第一部分乘积和第二部分乘积;以及将第一部分乘积与第二部分乘积相加。形成第二乘积集合的步骤可包括:在第一乘法器中将第二激活值与尾数的第一子字和第二子字相乘,以形成第三部分乘积和第四部分乘积;以及将第三部分乘积与第四部分乘积相加。
-
-
-
-
-
-
-
-