处理数据的方法和数据处理装置

    公开(公告)号:CN111291240B

    公开(公告)日:2023-12-08

    申请号:CN201811489176.2

    申请日:2018-12-06

    Inventor: 李翀 张臻 毛坤

    Abstract: 本申请提供一种处理数据的方法和数据处理装置,该方法包括:数据处理装置获取对应于输入数据的输入张量;该数据处理装置确定M1个第一类张量块和M2个第二类张量块;该数据处理装置中的P个处理单元并行处理该M个张量块,其中在第一时间段内,该P个运算单元并行处理的张量块均为第一类张量块;在第二时间段内,该P个运算单元并行处理的张量块均为第二类张量块。上述技术方案中,数据处理装置根据张量块的属性,从M个张量块内确定出了属性相同的张量块,数据处理装置内的处理单元可以根据张量块的属性,对属性相同的张量块进行并行处理,这样,可以提高该数据处理装置处理数据的速

    内存分配方法、相关设备及计算机可读存储介质

    公开(公告)号:CN114327844A

    公开(公告)日:2022-04-12

    申请号:CN202011057095.2

    申请日:2020-09-29

    Abstract: 本申请提供了一种内存分配方法、相关设备及计算机可读存储介质,该方法包括:获取神经网络对应的计算图;基于M个张量数据的排序结果,依次给M个张量数据分配内存空间,其中,若M个张量数据中的一个张量数据可复用已分配的内存空间中的至少一部分,则将张量数据可复用的至少一部分内存空间分配给张量数据,已分配的内存空间为在张量数据之前,已经分配给M个张量数据的内存空间,排序结果指示为M个张量数据分配内存空间时的顺序,排序结果与M个张量数据中每个张量数据的信息有关。实施本申请,可避免内存分配不合理。

    数据处理方法、模型优化装置和模型执行装置

    公开(公告)号:CN112529169A

    公开(公告)日:2021-03-19

    申请号:CN201910883288.4

    申请日:2019-09-18

    Inventor: 张臻 鲍翀 袁鹏

    Abstract: 本申请实施例公开了人工智能领域中的一种数据处理方法,用于减少神经网络模型载入时长。本申请实施例方法包括:获取神经网络模型;确定基于所述神经网络模型进行推理运算所需的内存空间的内存尺寸;更新所述神经网络模型,以得到目标神经网络模型,所述目标神经网络模型携带指示所述内存尺寸的信息。

Patent Agency Ranking