-
公开(公告)号:CN111738435B
公开(公告)日:2024-03-29
申请号:CN202010574063.3
申请日:2020-06-22
IPC: G06N3/082 , G06N3/084 , G06N3/0464 , G06N3/0495
Abstract: 本发明涉及一种基于移动设备的在线稀疏训练方法及系统。该方法包括:在云端对神经网络模型进行结构化剪枝,得到稀疏神经网络模型;对所述稀疏神经网络模型进行编码,得到编码后的神经网络模型;所述编码后的神经网络模型包括数据部分和控制部分,所述数据部分为所述稀疏神经网络模型中非零滤波器,所述控制部分用于记录所述稀疏神经网络模型的稀疏数据;在端侧移动设备上对所述编码后的神经网络模型进行稀疏训练。本发明可以提高移动设备数据处理的精度,提高移动设备端的性能。
-
公开(公告)号:CN111507473B
公开(公告)日:2023-05-12
申请号:CN202010310388.0
申请日:2020-04-20
Applicant: 上海交通大学
IPC: G06N3/082 , G06N3/0464
Abstract: 本发明涉及一种基于Crossbar架构的剪枝方法及系统,该方法包括:对神经网络当前层待处理的权值矩阵进行不考虑架构因素的结构化剪枝,得到第一权值矩阵;权值矩阵为神经网络的权值矩阵;根据第一权值矩阵的尺寸与crossbar的尺寸,确定剪枝方案;剪枝方案包括:基于区块的结构化剪枝、交叉阵列行剪枝和交叉阵列列剪枝;根据剪枝方案对第一权值矩阵进行剪枝,得到第二权值矩阵;第二权值矩阵用于映射至加速器中的crossbar阵列,通过加速器对神经网络进行加速。本发明可以降低Crossbar的资源占用,降低硬件资源的的浪费。
-
公开(公告)号:CN111738435A
公开(公告)日:2020-10-02
申请号:CN202010574063.3
申请日:2020-06-22
Abstract: 本发明涉及一种基于移动设备的在线稀疏训练方法及系统。该方法包括:在云端对神经网络模型进行结构化剪枝,得到稀疏神经网络模型;对所述稀疏神经网络模型进行编码,得到编码后的神经网络模型;所述编码后的神经网络模型包括数据部分和控制部分,所述数据部分为所述稀疏神经网络模型中非零滤波器,所述控制部分用于记录所述稀疏神经网络模型的稀疏数据;在端侧移动设备上对所述编码后的神经网络模型进行稀疏训练。本发明可以提高移动设备数据处理的精度,提高移动设备端的性能。
-
公开(公告)号:CN111507473A
公开(公告)日:2020-08-07
申请号:CN202010310388.0
申请日:2020-04-20
Applicant: 上海交通大学
Abstract: 本发明涉及一种基于Crossbar架构的剪枝方法及系统,该方法包括:对神经网络当前层待处理的权值矩阵进行不考虑架构因素的结构化剪枝,得到第一权值矩阵;权值矩阵为神经网络的权值矩阵;根据第一权值矩阵的尺寸与crossbar的尺寸,确定剪枝方案;剪枝方案包括:基于区块的结构化剪枝、交叉阵列行剪枝和交叉阵列列剪枝;根据剪枝方案对第一权值矩阵进行剪枝,得到第二权值矩阵;第二权值矩阵用于映射至加速器中的crossbar阵列,通过加速器对神经网络进行加速。本发明可以降低Crossbar的资源占用,降低硬件资源的的浪费。
-
-
-