显存分配方法、系统及非暂时性存储介质

    公开(公告)号:CN115309539A

    公开(公告)日:2022-11-08

    申请号:CN202210748218.X

    申请日:2022-06-29

    Abstract: 本说明书提供的显存分配方法、系统及非暂时性存储介质,用于对串行的多个子任务进行显存分配,通过对串行的每个子任务产生的目标数据进行标记,将目标数据分为不会被后续的子任务使用的第一数据和可以被后续的子任务使用的第二数据,并使多个子任务的第一数据共享同一个目标物理内存地址,从而节省显存消耗。

    操作执行方法、装置和电子设备

    公开(公告)号:CN113220306A

    公开(公告)日:2021-08-06

    申请号:CN202110602180.0

    申请日:2021-05-31

    Abstract: 本说明书实施例提出了一种操作执行方法、装置和电子设备,其中,上述操作执行方法中,获取源代码中待编译的算子之后,在缓存中查找与上述待编译的算子模式相同的算子,如果查找到与上述待编译的算子模式相同的算子,则从缓存中获取上述模式相同的算子的编译代码,这样,就无需对待编译的算子执行编译优化的过程,可以直接获取上述待编译的算子的输入数据,根据上述模式相同的算子的编译代码,对上述待编译的算子的输入数据进行计算,获得计算结果,最后执行与上述计算结果对应的操作,从而可以减少占据的代码空间,节省编译优化时间。

    一种基于可信执行环境的模型训练方法和装置

    公开(公告)号:CN111935179A

    公开(公告)日:2020-11-13

    申请号:CN202011012420.3

    申请日:2020-09-23

    Abstract: 本说明书披露一种基于可信执行环境的模型训练方法和装置。在一个实施例中,该方法,包括:从加密训练样本集中获取若干加密目标样本;将所述若干加密目标样本输入可信执行环境,在可信执行环境中对所述加密目标样本解密并将解密后的目标样本输入特征提取模型,得到样本特征;将所述可信执行环境输出的样本特征确定为用于本次迭代的目标样本特征;利用所述目标样本特征对目标模型进行本次迭代训练。

    机器学习模型保护方法和设备
    4.
    发明公开

    公开(公告)号:CN113254885A

    公开(公告)日:2021-08-13

    申请号:CN202010090978.7

    申请日:2020-02-13

    Abstract: 提供了基于领域特定语言编译器的机器学习模型保护方法和保护设备。该保护方法包括针对所述机器学习模型的一种或多种保护策略中的每种保护策略,接收用户的指令以调用相应的函数、并且接收所述函数的输入参数值;和基于分别针对所述一种或多种保护策略的一个或多个函数以及相应的输入参数值,自动生成用于对所述机器学习模型进行保护的机器可执行代码。

    数据处理方法及装置
    5.
    发明公开

    公开(公告)号:CN112099959A

    公开(公告)日:2020-12-18

    申请号:CN202011310504.5

    申请日:2020-11-20

    Abstract: 本说明书实施例提供一种数据处理方法及装置,在数据处理方法中,获取待处理的目标数组,其中包括第一数目个元素。构建基于第一数目所确定大小的、多个维度的策略空间。该多个维度至少包括,与用于处理目标数组的并行计算单元数相对应的第一维度。在策略空间中,搜索处理目标数组所需时间最短的目标点。将目标点的第一维度的取值作为目标数目,并根据目标数目,对目标数组进行切分。通过调用目标数目个并行计算单元,对切分后的目标数组进行并行处理。

    数据处理方法及装置
    6.
    发明授权

    公开(公告)号:CN112099959B

    公开(公告)日:2021-03-02

    申请号:CN202011310504.5

    申请日:2020-11-20

    Abstract: 本说明书实施例提供一种数据处理方法及装置,在数据处理方法中,获取待处理的目标数组,其中包括第一数目个元素。构建基于第一数目所确定大小的、多个维度的策略空间。该多个维度至少包括,与用于处理目标数组的并行计算单元数相对应的第一维度。在策略空间中,搜索处理目标数组所需时间最短的目标点。将目标点的第一维度的取值作为目标数目,并根据目标数目,对目标数组进行切分。通过调用目标数目个并行计算单元,对切分后的目标数组进行并行处理。

    深度学习模型的更新方法及装置

    公开(公告)号:CN112329941A

    公开(公告)日:2021-02-05

    申请号:CN202011217898.X

    申请日:2020-11-04

    Abstract: 本说明书实施例中提供了一种深度学习模型的更新方法及装置。该方法包括对深度学习模型进行多轮更新。在进行任意一轮更新时,可以首先确定第一内存区域,深度学习模型的N个权重参数对应的当前参数值,在第一内存区域中按照第一参数顺序依次连续存储。接着确定N个权重参数在本轮更新中各自对应的梯度值,以及确定第二内存区域。然后按照第一参数顺序,向第二内存区域依次连续写入N个权重参数各自对应的梯度值。最后通过读取N个当前参数值和N个梯度值,计算N个权重参数各自对应的目标值,利用N个目标值分别对应更新N个当前参数值,N个当前参数值通过同一逻辑算子从第一内存区域中读取,N个梯度值通过同一逻辑算子从第二内存区域中读取。

    一种基于可信执行环境的模型训练方法和装置

    公开(公告)号:CN111935179B

    公开(公告)日:2021-01-12

    申请号:CN202011012420.3

    申请日:2020-09-23

    Abstract: 本说明书披露一种基于可信执行环境的模型训练方法和装置。在一个实施例中,该方法,包括:从加密训练样本集中获取若干加密目标样本;将所述若干加密目标样本输入可信执行环境,在可信执行环境中对所述加密目标样本解密并将解密后的目标样本输入特征提取模型,得到样本特征;将所述可信执行环境输出的样本特征确定为用于本次迭代的目标样本特征;利用所述目标样本特征对目标模型进行本次迭代训练。

    深度学习模型的更新方法及装置

    公开(公告)号:CN112329941B

    公开(公告)日:2022-04-12

    申请号:CN202011217898.X

    申请日:2020-11-04

    Abstract: 本说明书实施例中提供了一种深度学习模型的更新方法及装置。该方法包括对深度学习模型进行多轮更新。在进行任意一轮更新时,可以首先确定第一内存区域,深度学习模型的N个权重参数对应的当前参数值,在第一内存区域中按照第一参数顺序依次连续存储。接着确定N个权重参数在本轮更新中各自对应的梯度值,以及确定第二内存区域。然后按照第一参数顺序,向第二内存区域依次连续写入N个权重参数各自对应的梯度值。最后通过读取N个当前参数值和N个梯度值,计算N个权重参数各自对应的目标值,利用N个目标值分别对应更新N个当前参数值,N个当前参数值通过同一逻辑算子从第一内存区域中读取,N个梯度值通过同一逻辑算子从第二内存区域中读取。

Patent Agency Ranking