公开(公告)号：CN119416843A

公开(公告)日：2025-02-11

申请号：CN202411439909.7

申请日：2024-10-15

Applicant: 中国人民解放军国防科技大学

Inventor： 陈长林 ,  刘海军 ,  李清江 ,  周栖敏 ,  徐晖 ,  王义楠 ,  王伟 ,  刘森 ,  李智炜 ,  宋兵 ,  步凯 ,  曹荣荣 ,  于红旗 ,  王玺

IPC: G06N3/063 ,  G06N3/0464 ,  G06N3/0495 ,  G06F7/544

Abstract: 本发明涉及基于外积的计算稀疏卷积和稀疏注意力的统一硬件架构，通过将稀疏卷积和稀疏注意力层中的计算分解成基本的外积计算，并基于基本的外积计算设计了统一硬件结构实现稀疏卷积和稀疏注意力层，具有很高的硬件复用率。还设计了分层蝶形路由网络用于将外积计算中产生的乘法结果路由到累加缓存区，能够达到与crossbar相近的带宽但分层蝶形路由网络比crossbar消耗更少的面积，同时具有更好的可扩展性。还设计了一种紧凑的对齐编码算法对稀疏数据进行编码，从而使得在将数据加载到乘法器阵列时，乘法器的每个周期都能接近满载，从而提高了稀疏情况下乘法器的利用率。