面向GPU远程调用的细粒度资源池调度方法及系统

    公开(公告)号:CN117056041A

    公开(公告)日:2023-11-14

    申请号:CN202310885917.3

    申请日:2023-07-18

    Inventor: 刘文豪 孙毓忠

    Abstract: 本发明提出一种面向GPU远程调用的细粒度资源池调度方法,包括:将服务器端的GPU资源进行多粒度分片后,放入资源池;当客户端启动任务进程,构建该客户端与该服务器端的RPC连接;于该服务器端的运行层对该任务进程进行资源分配,从该资源池中选取至少一种粒度的GPU资源分配给该任务进程。本发明还提出一种面向GPU远程调用的细粒度资源池调度系统,以及一种用于实现面向GPU远程调用的细粒度资源池调度的数据处理装置。

Patent Agency Ranking