公开(公告)号：CN118891617A

公开(公告)日：2024-11-01

申请号：CN202380028157.2

申请日：2023-01-30

Applicant: 微软技术许可有限责任公司

Inventor： G·V·瓦拉特卡尔 ,  A·莫尔 ,  B·达尔维什·鲁哈尼 ,  M·C·赫德斯 ,  G·阿戈沃

IPC: G06F17/16 ,  G06N3/0495

Abstract: 本公开的实施例包括用于基于重叠窗口对针对神经网络模型的向量进行稀疏化的系统和方法。窗口用于选择元素向量中的第一元素集合。从第一元素集合选择具有最高绝对值的第一元素。将窗口沿向量滑动限定数目的元素。窗口用于选择向量中的第二元素集合，其中第一元素集合和第二元素集合共享至少一个共同的元素。从第二元素集合选择具有最高绝对值的第二元素。

公开(公告)号：CN118696506A

公开(公告)日：2024-09-24

申请号：CN202280091530.4

申请日：2022-11-29

Applicant: 微软技术许可有限责任公司

Inventor： M·C·赫德斯 ,  A·莫尔 ,  N·沙赫 ,  T·赫夫勒

IPC: H03M7/30

Abstract: 本公开的实施例包括用于多级压缩的数字电路和方法。使用多级压缩算法来压缩数字数据值并将其存储在存储器中。解压缩电路接收这些值并执行部分解压缩。将部分压缩的值提供给处理器，处理器执行最终解压缩。在一个实施例中，使用第一位掩码来将N长度压缩值的向量解压缩为具有非零值的两个N长度集合。使用两个M长度位掩码来将这两个N长度集合进一步解压缩成M长度稀疏向量，每个稀疏向量都具有非零值。

公开(公告)号：CN117529730A

公开(公告)日：2024-02-06

申请号：CN202280042941.4

申请日：2022-05-12

Applicant: 微软技术许可有限责任公司

Inventor： B·达尔维什·鲁哈尼 ,  V·埃兰戈 ,  E·S·钟 ,  D·C·伯格 ,  M·C·赫德斯 ,  N·沙阿 ,  R·沙菲布尔 ,  A·莫尔

IPC: G06N3/0495 ,  G06N3/048

Abstract: 本公开的实施例包括用于稀疏化用于神经网络的窄数据格式的系统和方法。将神经网络中的多个激活值被提供给复用单元。对多个权重值执行稀疏化操作集，以生成多个权重值的子集以及与多个权重值相关联的掩码值。将多个权重值的子集提供给矩阵乘法单元。复用单元基于掩码值生成多个激活值的子集，并将多个激活值的子集提供给矩阵乘法单元。矩阵乘法单元对多个权重值的子集和多个激活值的子集执行矩阵乘法操作集，以生成输出集。

公开(公告)号：CN118661383A

公开(公告)日：2024-09-17

申请号：CN202280091286.1

申请日：2022-11-29

Applicant: 微软技术许可有限责任公司

Inventor： A·莫尔 ,  M·C·赫德斯 ,  N·沙赫

IPC: H03M7/30 ,  G06N3/0495

Abstract: 本公开的实施例包括用于压缩输入数字值的数字电路和方法。多个输入数字值可以包括零值和非零值。在第一开关级的M个输入上接收输入数字值。第一开关级被布置成组，其根据压缩和移位在第一开关级输出上重新布置非零值。压缩和移位把非零值定位在被耦合到第二开关级的输入的输出上。第二开关级连续地将非零值耦合到N个输出，其中N小于M。