一种运行在云计算平台上的任务处理方法、装置及设备

    公开(公告)号:CN119537040A

    公开(公告)日:2025-02-28

    申请号:CN202510103643.7

    申请日:2025-01-22

    Abstract: 本申请公开了一种运行在云计算平台上的任务处理方法、装置及设备,涉及云计算技术领域。云计算平台可以根据任务类型和业务容器组的任务处理性动态调整待推理任务的调度策略,能够避免相关板卡的硬件资源被长时间占用。在节省硬件资源的同时提升任务处理的灵活性。该方法包括:获取待推理任务的任务信息以及业务容器组的能力信息;根据待推理任务的任务类型以及多个调度策略中每个调度策略对应的业务容器组的能力信息从该多个调度策略中确定目标调度策略,该每个调度策略用于指示调度该每个调度策略对应的业务容器组处理该每个调度策略对应的推理任务;调度该目标调度策略对应的业务容器组处理该待推理任务。

Patent Agency Ranking