-
公开(公告)号:CN114595802A
公开(公告)日:2022-06-07
申请号:CN202210068359.7
申请日:2022-01-20
Applicant: 鹏城实验室
Abstract: 本发明公开了一种基于数据压缩的脉冲神经网络加速方法和装置,所述方法包括:获取脉冲神经网络的神经元输出的第一数据,并将所述第一数据进行类型转换,得到第二数据;其中,所述第一数据由两个数字组成,分别为零和非零数字;将所述第二数据进行压缩处理,得到第三数据;基于量化和反量化的方式,将所述第三数据进行卷积运算,得到目标卷积结果。本发明实施例通过将神经元输出的数据进行类型转换和对第二数据的压缩处理来提高卷积运算的速率,从而提高脉冲神经网络训练的效率。
-
公开(公告)号:CN120068955A
公开(公告)日:2025-05-30
申请号:CN202510014343.1
申请日:2025-01-03
Applicant: 鹏城实验室
IPC: G06N3/049 , G06N3/042 , G06N3/0464 , G06N3/092
Abstract: 本申请提供了一种脉冲神经网络训练的部署优化方法以及相关设备,方法包括:构建多个物理计算单元对应的物理节点矩阵;对脉冲神经网络进行训练模型切分,基于多个逻辑计算单元对应,构建对应的邻接矩阵和节点特征矩阵;通过映射部署网络根据邻接矩阵和节点特征矩阵,预测多个逻辑计算单元映射到物理节点矩阵中多个节点上的映射坐标分布信息;通过强化学习激励网络根据映射坐标分布信息计算模型损失,并根据模型损失生成的激励信息,更新映射部署网络的网络参数,得到训练后的映射部署网络,基于训练后的映射部署网络,将多个逻辑计算单元部署到多个物理计算单元,能够实现脉冲神经网络训练的部署优化,可以有效提高模型的训练效率。
-
公开(公告)号:CN117291237A
公开(公告)日:2023-12-26
申请号:CN202311173877.6
申请日:2023-09-11
Applicant: 鹏城实验室
IPC: G06N3/049 , G06N3/0464
Abstract: 本申请实施例提供了一种数据流映射搜索方法、系统、电子设备及存储介质,从脉冲神经网络卷积过程中获取数据类型以及对应划分的维度数据,并形成多个数据流映射集合;获取集群节点数量以及处理器核心数,确定数据集群的总并行线程数,并创建并行线程;根据数据流映射集合和总并行线程数得到每个并行线程的数据流映射搜索数,为每个并行线程分配数据流映射,并根据每个存储层次的预设存储规则数据流映射进行筛选,得到多个候选数据流映射;在每个并行线程中,对每个候选数据流映射进行能量计算,并将能量计算结果与历史能量计算结果进行比较,若能量计算结果低于历史能量计算结果,将能量计算结果对应的候选数据流映射作为目标数据流映射。
-
公开(公告)号:CN119940458A
公开(公告)日:2025-05-06
申请号:CN202411827416.0
申请日:2024-12-11
Applicant: 鹏城实验室
IPC: G06N3/084 , G06N3/0464 , G06N3/063
Abstract: 本申请实施例提出的深度脉冲神经网络训练架构的能耗计算方法及相关设备,方法包括:首先,获取深度脉冲神经网络训练任务中脉冲卷积、膜电位梯度卷积和权重梯度中逻辑判别、浮点加和浮点乘的操作数量;其次,分别获取多个变量在深度脉冲神经网络训练架构的DRAM、SRAM和寄存器中进行读写操作的重用因子;接下来,基于操作数量、重用因子和各级存储器的单位读写能耗,计算得到任务读写能耗;然后,基于逻辑判别数量、浮点加和浮点乘累加操作对应的累加操作数量及其单位操作能耗,计算得到任务计算能耗;最后,累加任务读写能耗和任务计算能耗得到深度脉冲神经网络训练的任务能耗,可以精准地计算得到深度神经网络训练任务对应的任务能耗。
-
公开(公告)号:CN116245182A
公开(公告)日:2023-06-09
申请号:CN202310142138.4
申请日:2023-02-09
Applicant: 鹏城实验室
IPC: G06N5/04 , G06F8/60 , G06F8/41 , G06N3/0464 , G06N3/08
Abstract: 本申请公开了一种深度脉冲神经网络的分布式部署推理方法及相关装置,所述方法包括获取待部署的深度脉冲神经网络,并将所述深度脉冲神经网络拆分为若干子神经网络;对若干子神经网络中的各子神经网络进行编译,以得到各子神经网络对应的生成模型文件;将若干子神经网络对应的生成模型文件依次部署于类脑芯片,以通过若干子神经网络逐步对输入数据进行推理,以得到输入数据对应的输出数据。本申请通过将深度脉冲网络拆分为若干子神经网络,并分别编译和部署单个子神经网络,这样可以将深度脉冲神经网络部署于类脑芯片,使得类脑芯片使用大规模深度脉冲神经网络进行模型推理,扩展了深度脉冲神经网络的使用范围。
-
-
-
-