-
公开(公告)号:CN111291869A
公开(公告)日:2020-06-16
申请号:CN202010384216.8
申请日:2020-05-09
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种并行训练业务模型的方法,在并行训练业务模型的过程中,就参与并行训练的多个设备中的单个设备而言,仅保存一部分模型参数的当前值,在其他设备需要相关模型参数时,实时从该单个设备获取这些参数。在参数调整更新过程中,其他设备将相关模型参数的当前梯度反馈给该单个设备,由该单个设备综合考虑各个当前梯度,对所保存的模型参数进行当前值的调整。由于各个设备分别处理部分模型参数,可以有效缩短计算和通信时间,从而提高模型并行训练效率。
-
公开(公告)号:CN111679891B
公开(公告)日:2020-12-04
申请号:CN202010817867.1
申请日:2020-08-14
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本申请的一个或多个实施例提出容器复用方法、装置、设备以及存储介质。其中,上述方法可以包括,确定第一JOB任务包括的各容器的工作状态。然后,当上述各容器的工作状态为空闲时,从预先配置的配置信息集合中获取配置信息,并将获取的配置信息分发至上述各容器,以使上述各容器基于上述获取的配置信息执行上述第一JOB任务。
-
公开(公告)号:CN111291869B
公开(公告)日:2020-11-24
申请号:CN202010384216.8
申请日:2020-05-09
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书实施例提供一种并行训练业务模型的方法,在并行训练业务模型的过程中,就参与并行训练的多个设备中的单个设备而言,仅保存一部分模型参数的当前值,在其他设备需要相关模型参数时,实时从该单个设备获取这些参数。在参数调整更新过程中,其他设备将相关模型参数的当前梯度反馈给该单个设备,由该单个设备综合考虑各个当前梯度,对所保存的模型参数进行当前值的调整。由于各个设备分别处理部分模型参数,可以有效缩短计算和通信时间,从而提高模型并行训练效率。
-
公开(公告)号:CN111679891A
公开(公告)日:2020-09-18
申请号:CN202010817867.1
申请日:2020-08-14
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本申请的一个或多个实施例提出容器复用方法、装置、设备以及存储介质。其中,上述方法可以包括,确定第一JOB任务包括的各容器的工作状态。然后,当上述各容器的工作状态为空闲时,从预先配置的配置信息集合中获取配置信息,并将获取的配置信息分发至上述各容器,以使上述各容器基于上述获取的配置信息执行上述第一JOB任务。
-
-
-