一种多处理卡间的存储区域分配方法和系统

    公开(公告)号:CN116450055B

    公开(公告)日:2023-10-27

    申请号:CN202310714241.1

    申请日:2023-06-15

    Abstract: 本说明书实施例提供一种多处理卡间的存储区域分配方法和系统,多处理卡之间具有直连通道和/或间接通道,间接通道包括两跳以上的直连通道;技术要点包括:通过存储客户端接收应用进程的调用进而向存储服务进程发起存储区域分配请求;所述存储区域分配请求包括所需区域大小;通过存储服务进程从多处理卡中选出目标处理卡并在其上确定待分配的目标存储区域,将所述目标存储区域的标识返回给所述存储客户端;通过存储客户端基于所述标识将所述目标存储区域提供给所述应用进程使用。

    显存分配处理方法、装置、设备及系统

    公开(公告)号:CN114168316B

    公开(公告)日:2024-12-13

    申请号:CN202111304911.X

    申请日:2021-11-05

    Abstract: 本说明书提供一种显存分配处理方法、装置、设备及系统,通过对智能学习模型中的模型参数进行哈希运算,通过比较模型参数的哈希值确定待部署模型的模型参数是否与已经部署的模型参数重复,若重复则不需要分配新的物理显存,利用虚拟指针的方式将重复的模型参数映射到对应的物理显存处,实现相同内容的共享,对于相同的模型参数不需要重复保存,实现了相同内容的数据共享,大大节省物理显存空间,进而可以实现在有限的显存空间内部署更多的实例,提升了系统性能。

    一种多处理卡间的数据传输方法和系统

    公开(公告)号:CN116450564B

    公开(公告)日:2023-11-28

    申请号:CN202310707879.2

    申请日:2023-06-15

    Abstract: 本说明书实施例提供一种多处理卡间的数据传输方法和系统,涉及计算机技术领域,其技术要点包括:通过数据传输客户端接收应用进程的调用向数据传输服务进程发起卡间数据传输请求;通过数据传输服务进程从源地址对应的第一处理卡到目标地址对应的第二处理卡之间的两条以上通道中选择一条以上的目标通道,并将目标通道标识返回给所述数据传输客户端;通过数据传输客户端基于目标通道的数量和待传输数据得到所述待传输数据的一个以上数据子集;通过数据传输客户端基于所述一个以上数据子集,向与目标通道相关的处理卡上的传输进程发起数据传输指令;通过与目标通道相关的处理卡上的传输进程将相应数据子集进行传输。

    一种多处理卡间的数据传输方法和系统

    公开(公告)号:CN116450564A

    公开(公告)日:2023-07-18

    申请号:CN202310707879.2

    申请日:2023-06-15

    Abstract: 本说明书实施例提供一种多处理卡间的数据传输方法和系统,涉及计算机技术领域,其技术要点包括:通过数据传输客户端接收应用进程的调用向数据传输服务进程发起卡间数据传输请求;通过数据传输服务进程从源地址对应的第一处理卡到目标地址对应的第二处理卡之间的两条以上通道中选择一条以上的目标通道,并将目标通道标识返回给所述数据传输客户端;通过数据传输客户端基于目标通道的数量和待传输数据得到所述待传输数据的一个以上数据子集;通过数据传输客户端基于所述一个以上数据子集,向与目标通道相关的处理卡上的传输进程发起数据传输指令;通过与目标通道相关的处理卡上的传输进程将相应数据子集进行传输。

    一种多处理卡间的存储区域分配方法和系统

    公开(公告)号:CN116450055A

    公开(公告)日:2023-07-18

    申请号:CN202310714241.1

    申请日:2023-06-15

    Abstract: 本说明书实施例提供一种多处理卡间的存储区域分配方法和系统,多处理卡之间具有直连通道和/或间接通道,间接通道包括两跳以上的直连通道;技术要点包括:通过存储客户端接收应用进程的调用进而向存储服务进程发起存储区域分配请求;所述存储区域分配请求包括所需区域大小;通过存储服务进程从多处理卡中选出目标处理卡并在其上确定待分配的目标存储区域,将所述目标存储区域的标识返回给所述存储客户端;通过存储客户端基于所述标识将所述目标存储区域提供给所述应用进程使用。

    显存分配方法、系统及非暂时性存储介质

    公开(公告)号:CN115309539A

    公开(公告)日:2022-11-08

    申请号:CN202210748218.X

    申请日:2022-06-29

    Abstract: 本说明书提供的显存分配方法、系统及非暂时性存储介质,用于对串行的多个子任务进行显存分配,通过对串行的每个子任务产生的目标数据进行标记,将目标数据分为不会被后续的子任务使用的第一数据和可以被后续的子任务使用的第二数据,并使多个子任务的第一数据共享同一个目标物理内存地址,从而节省显存消耗。

    一种多处理卡间的数据传输方法
    7.
    发明公开

    公开(公告)号:CN117290280A

    公开(公告)日:2023-12-26

    申请号:CN202311484181.5

    申请日:2023-06-15

    Abstract: 本说明书实施例提供一种多处理卡间的数据传输方法,多处理卡之间具有直连通道和间接通道,间接通道包括两跳以上的直连通道;多处理卡位于同一处理设备的主板上;该方法包括:接收卡间数据传输请求;确定从源地址对应的第一处理卡到目标地址对应的第二处理卡之间的两条以上通道;从两条以上通道中选出一条以上的目标通道,用于传输待传输数据;基于目标通道的数量和待传输数据得到待传输数据的一个以上数据子集,一个以上数据子集通过一个以上的目标通道进行传输;基于一个以上数据子集,向与目标通道相关的处理卡发起数据传输指令,通过与目标通道相关的处理卡将相应数据子集进行传输,进而将待传输数据传输至目标地址。

    显存分配处理方法、装置、设备及系统

    公开(公告)号:CN114168316A

    公开(公告)日:2022-03-11

    申请号:CN202111304911.X

    申请日:2021-11-05

    Abstract: 本说明书提供一种显存分配处理方法、装置、设备及系统,通过对智能学习模型中的模型参数进行哈希运算,通过比较模型参数的哈希值确定待部署模型的模型参数是否与已经部署的模型参数重复,若重复则不需要分配新的物理显存,利用虚拟指针的方式将重复的模型参数映射到对应的物理显存处,实现相同内容的共享,对于相同的模型参数不需要重复保存,实现了相同内容的数据共享,大大节省物理显存空间,进而可以实现在有限的显存空间内部署更多的实例,提升了系统性能。

Patent Agency Ranking