用于神经网络剪枝的系统和神经网络的剪枝处理方法

    公开(公告)号:CN111582446A

    公开(公告)日:2020-08-25

    申请号:CN202010349768.5

    申请日:2020-04-28

    Abstract: 本申请涉及神经网络技术领域,公开了一种用于神经网络剪枝的系统和神经网络的剪枝处理方法,用以筛选出能够减少神经网络的参数量和提高神经网络的运算速度的剪枝率组。该系统包括剪枝器、性能检测仪和控制器,其中,剪枝器用于在控制器的控制下,根据当前剪枝率组对当前神经网络进行剪枝;性能检测仪用于在控制器的控制下,对加载了剪枝后的神经网络的加速器进行检测,确定剪枝后的神经网络的运行速度;控制器用于控制剪枝器和性能检测仪执行相应的操作,检测并筛选出运行速度符合第一筛选条件和参数量符合第二筛选条件的当前剪枝率组。从多个当前剪枝率组中筛选出能够减少神经网络的参数量,和提高神经网络的运算速度的剪枝率组。

    分类任务处理方法、装置、电子设备及存储介质

    公开(公告)号:CN113900820B

    公开(公告)日:2024-11-05

    申请号:CN202111255496.3

    申请日:2021-10-27

    Abstract: 本公开关于一种分类任务处理方法、装置、电子设备及存储介质,该方法包括基于加速处理器接收目标分类任务的处理请求,处理请求包括目标分类任务对应的待分类信息;基于加速处理器,获取目标分类任务对应的目标分类模型的目标模型结构信息,目标模型结构信息为预先基于目标分类模型的模型文件进行格式转换后,按照目标格式存储的结点信息;目标格式为加速处理器的可读格式,结点信息为目标分类模型对应的决策树中的结点信息;控制加速处理器,执行基于待分类信息和目标模型结构信息进行分类任务处理的操作,得到目标分类任务的分类结果信息。利用本公开实施例可以有效降低分类任务处理的时延,提升分类任务处理的速度和效率。

    存储系统、数据处理方法、装置、电子设备及存储介质

    公开(公告)号:CN113157609B

    公开(公告)日:2024-10-25

    申请号:CN202110423700.1

    申请日:2021-04-20

    Abstract: 本公开关于一种键值存储系统、数据处理方法、装置、电子设备、存储介质及计算机程序产品,中央处理器上挂载有持久内存,且持久内存通过总线与加速处理器连接,通过加速处理器网口获取查询请求;加速处理器对查询请求进行解析,得到查询请求携带的目标键;加速处理器通过高速串行总线访问持久内存,根据目标键在持久内存进行查找,得到目标键所对应的目标数据,并向客户端返回目标数据,可见,本公开中数据查询操作由加速处理器完成,通过加速处理器网口获取数量量级更多的查询请求不仅可以缩短请求延时,提升响应速度。

    数据处理方法、装置、电子设备和存储介质

    公开(公告)号:CN110955390B

    公开(公告)日:2023-08-08

    申请号:CN201911159697.6

    申请日:2019-11-22

    Abstract: 本公开关于一种数据处理方法、装置和电子设备,上述方法包括:若检测到数据缓存区存储有服务器主机写入的数据块,则对数据块进行第一异构加速处理;服务器主机用于接收客户端单次发送的待处理数据,将待处理数据分成至少两个数据块,分别将各个数据块写入到数据缓存区;统计数据缓存区中已完成第一异构加速处理的数据块的数量;若数据缓存区中已完成第一异构加速处理的数据块的数量达到待处理数据所分成的数据块的数量,则对各个数据块对应的处理结果进行第二异构加速处理,得到待处理数据的目标处理结果。采用该方法可以解决相关技术中服务器的数据处理效率较低的问题,从而提高了服务器的数据处理效率。

    模型存储方法及装置
    15.
    发明公开

    公开(公告)号:CN115952226A

    公开(公告)日:2023-04-11

    申请号:CN202310028320.7

    申请日:2023-01-09

    Abstract: 本公开关于一种模型存储方法及装置。本公开针对存储形式为浮点数的参数,将该参数划分两部分,并仅存储包括该参数符号位、指数位和部分尾数位的部分,使得该参数在存储的时候,无需存储包含该参数剩余尾数位的部分,降低了这类参数的所占用的存储空间,同时还将去除该参数剩余尾数位的部分所带来的偏差一并进行存储,避免了压缩后恢复该参数所带来的失真。

    用于神经网络剪枝的系统和神经网络的剪枝处理方法

    公开(公告)号:CN111582446B

    公开(公告)日:2022-12-06

    申请号:CN202010349768.5

    申请日:2020-04-28

    Abstract: 本申请涉及神经网络技术领域,公开了一种用于神经网络剪枝的系统和神经网络的剪枝处理方法,用以筛选出能够减少神经网络的参数量和提高神经网络的运算速度的剪枝率组。该系统包括剪枝器、性能检测仪和控制器,其中,剪枝器用于在控制器的控制下,根据当前剪枝率组对当前神经网络进行剪枝;性能检测仪用于在控制器的控制下,对加载了剪枝后的神经网络的加速器进行检测,确定剪枝后的神经网络的运行速度;控制器用于控制剪枝器和性能检测仪执行相应的操作,检测并筛选出运行速度符合第一筛选条件和参数量符合第二筛选条件的当前剪枝率组。从多个当前剪枝率组中筛选出能够减少神经网络的参数量,和提高神经网络的运算速度的剪枝率组。

    数据处理方法、装置、电子设备及存储介质

    公开(公告)号:CN113157629A

    公开(公告)日:2021-07-23

    申请号:CN202110424865.0

    申请日:2021-04-20

    Abstract: 本公开关于一种数据处理方法、装置、电子设备及存储介质,该方法通过加速处理器网口获取客户端发送的键值查询请求,在加速处理器的第一存储器中查询是否存在键值查询请求中携带的目标键;若第一存储器中存在目标键,则从第一存储器中获取目标键对应的值数据,并返回值数据;其中,加速处理器与中央处理器相连,加速处理器的第一存储器存储的数据为缓存中央处理器的第二存储器中的数据至第一存储器得到。从而可以通过加速处理器访问自身的第一存储器得到对应的值数据,键值存储系统的访问吞吐量不再受限于高速串行总线带宽,进而提升了加速处理器访问键值存储系统的吞吐量,并缩短加速处理器访问键值存储系统的延时。

    存储系统、数据处理方法、装置、存储系统及电子设备

    公开(公告)号:CN113157628A

    公开(公告)日:2021-07-23

    申请号:CN202110424855.7

    申请日:2021-04-20

    Abstract: 本公开关于一种存储系统、数据处理方法、装置、存储系统、电子设备、存储介质及程序产品,网卡接收携带有外部请求的网络数据包,且网卡通过网口连接加速处理器,加速处理器上挂载有用于存储所述读写操作所对应的数据的内存,则加速处理器判断所述外部请求是否为读写请求,在判断出所述外部请求为读写请求的情况下,调用内存执行读写操作,本公开中利用数据读写操作由加速处理器完成,通过加速处理器直接访问其上挂载的内存即可执行数据读写操作,不再需要通过PCIe总线访问中央处理器CPU的存储器,缩短了访问路径,从而缩小访问时延。

    存储系统、数据处理方法、装置、电子设备及存储介质

    公开(公告)号:CN113157609A

    公开(公告)日:2021-07-23

    申请号:CN202110423700.1

    申请日:2021-04-20

    Abstract: 本公开关于一种键值存储系统、数据处理方法、装置、电子设备、存储介质及计算机程序产品,中央处理器上挂载有持久内存,且持久内存通过总线与加速处理器连接,通过加速处理器网口获取查询请求;加速处理器对查询请求进行解析,得到查询请求携带的目标键;加速处理器通过高速串行总线访问持久内存,根据目标键在持久内存进行查找,得到目标键所对应的目标数据,并向客户端返回目标数据,可见,本公开中数据查询操作由加速处理器完成,通过加速处理器网口获取数量量级更多的查询请求不仅可以缩短请求延时,提升响应速度。

    一种数据处理方法、装置、电子设备及存储介质

    公开(公告)号:CN117785031A

    公开(公告)日:2024-03-29

    申请号:CN202311596203.7

    申请日:2023-11-27

    Abstract: 本公开关于一种数据处理方法、装置、电子设备及存储介质,该方法包括:响应于对目标输入特征图的数据处理指令,从所述目标输入特征图在内存对应的输入数据块排布中获取目标输入数据块;所述输入数据块排布基于通用矩阵处理引擎在每个时钟周期的数据吞吐量,将所述目标输入特征图划分为多个输入数据块并按照预设排布方式存入所述内存得到;对所述目标输入数据块进行缓存;基于缓存的所述目标输入数据块,利用所述通用矩阵处理引擎进行矩阵乘法运算处理,得到数据处理结果。本公开实施例提高了基于Img2Col的数据处理效率,进而提高了电子设备基于深度学习网络的数据处理效率。

Patent Agency Ranking