-
公开(公告)号:CN112329941B
公开(公告)日:2022-04-12
申请号:CN202011217898.X
申请日:2020-11-04
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例中提供了一种深度学习模型的更新方法及装置。该方法包括对深度学习模型进行多轮更新。在进行任意一轮更新时,可以首先确定第一内存区域,深度学习模型的N个权重参数对应的当前参数值,在第一内存区域中按照第一参数顺序依次连续存储。接着确定N个权重参数在本轮更新中各自对应的梯度值,以及确定第二内存区域。然后按照第一参数顺序,向第二内存区域依次连续写入N个权重参数各自对应的梯度值。最后通过读取N个当前参数值和N个梯度值,计算N个权重参数各自对应的目标值,利用N个目标值分别对应更新N个当前参数值,N个当前参数值通过同一逻辑算子从第一内存区域中读取,N个梯度值通过同一逻辑算子从第二内存区域中读取。
-
公开(公告)号:CN113220306A
公开(公告)日:2021-08-06
申请号:CN202110602180.0
申请日:2021-05-31
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F8/41 , G06F16/2455
Abstract: 本说明书实施例提出了一种操作执行方法、装置和电子设备,其中,上述操作执行方法中,获取源代码中待编译的算子之后,在缓存中查找与上述待编译的算子模式相同的算子,如果查找到与上述待编译的算子模式相同的算子,则从缓存中获取上述模式相同的算子的编译代码,这样,就无需对待编译的算子执行编译优化的过程,可以直接获取上述待编译的算子的输入数据,根据上述模式相同的算子的编译代码,对上述待编译的算子的输入数据进行计算,获得计算结果,最后执行与上述计算结果对应的操作,从而可以减少占据的代码空间,节省编译优化时间。
-
公开(公告)号:CN112099959A
公开(公告)日:2020-12-18
申请号:CN202011310504.5
申请日:2020-11-20
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种数据处理方法及装置,在数据处理方法中,获取待处理的目标数组,其中包括第一数目个元素。构建基于第一数目所确定大小的、多个维度的策略空间。该多个维度至少包括,与用于处理目标数组的并行计算单元数相对应的第一维度。在策略空间中,搜索处理目标数组所需时间最短的目标点。将目标点的第一维度的取值作为目标数目,并根据目标数目,对目标数组进行切分。通过调用目标数目个并行计算单元,对切分后的目标数组进行并行处理。
-
公开(公告)号:CN112099959B
公开(公告)日:2021-03-02
申请号:CN202011310504.5
申请日:2020-11-20
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种数据处理方法及装置,在数据处理方法中,获取待处理的目标数组,其中包括第一数目个元素。构建基于第一数目所确定大小的、多个维度的策略空间。该多个维度至少包括,与用于处理目标数组的并行计算单元数相对应的第一维度。在策略空间中,搜索处理目标数组所需时间最短的目标点。将目标点的第一维度的取值作为目标数目,并根据目标数目,对目标数组进行切分。通过调用目标数目个并行计算单元,对切分后的目标数组进行并行处理。
-
公开(公告)号:CN112329941A
公开(公告)日:2021-02-05
申请号:CN202011217898.X
申请日:2020-11-04
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例中提供了一种深度学习模型的更新方法及装置。该方法包括对深度学习模型进行多轮更新。在进行任意一轮更新时,可以首先确定第一内存区域,深度学习模型的N个权重参数对应的当前参数值,在第一内存区域中按照第一参数顺序依次连续存储。接着确定N个权重参数在本轮更新中各自对应的梯度值,以及确定第二内存区域。然后按照第一参数顺序,向第二内存区域依次连续写入N个权重参数各自对应的梯度值。最后通过读取N个当前参数值和N个梯度值,计算N个权重参数各自对应的目标值,利用N个目标值分别对应更新N个当前参数值,N个当前参数值通过同一逻辑算子从第一内存区域中读取,N个梯度值通过同一逻辑算子从第二内存区域中读取。
-
-
-
-