公开(公告)号：CN117032935B

公开(公告)日：2024-05-31

申请号：CN202311182106.3

申请日：2023-09-13

Applicant: 星环信息科技(上海)股份有限公司

Inventor： 蔚滢璐 ,  杨超 ,  张耒 ,  侯雨希

IPC: G06F9/48 ,  G06F9/50

Abstract: 本发明公开了一种基于K8s的异构加速卡的管理调度系统及方法。资源发现模块用于检测异构加速卡资源信息；资源管理模块用于从接口服务获取异构加速卡资源信息，以对异构加速度卡资源信息进行管理；调度模块用于基于接口服务模块发送的资源请求向资源管理模块获取异构加速卡资源信息，根据异构加速卡资源信息确定目标加速卡，将容器集调度至目标加速卡所在的节点上以及将目标加速卡的资源信息发送至资源发现模块进行缓存；容器运行时模块用于向资源发现模块获取目标加速卡的资源信息，根据目标加速卡的资源信息在容器集中创建容器。可以降低对异构加速卡的管理及调度的复杂度。

公开(公告)号：CN117032935A

公开(公告)日：2023-11-10

申请号：CN202311182106.3

申请日：2023-09-13

Applicant: 星环信息科技(上海)股份有限公司

Inventor： 蔚滢璐 ,  杨超 ,  张耒 ,  侯雨希

IPC: G06F9/48 ,  G06F9/50

Abstract: 本发明公开了一种基于K8s的异构加速卡的管理调度系统及方法。资源发现模块用于检测异构加速卡资源信息；资源管理模块用于从接口服务获取异构加速卡资源信息，以对异构加速度卡资源信息进行管理；调度模块用于基于接口服务模块发送的资源请求向资源管理模块获取异构加速卡资源信息，根据异构加速卡资源信息确定目标加速卡，将容器集调度至目标加速卡所在的节点上以及将目标加速卡的资源信息发送至资源发现模块进行缓存；容器运行时模块用于向资源发现模块获取目标加速卡的资源信息，根据目标加速卡的资源信息在容器集中创建容器。可以降低对异构加速卡的管理及调度的复杂度。