一种计算系统、模型训练方法、装置及设备、介质和产品

    公开(公告)号:CN118709745B

    公开(公告)日:2024-11-26

    申请号:CN202411162431.8

    申请日:2024-08-23

    Abstract: 本申请公开了一种计算系统、模型训练方法、装置及设备、介质和产品,涉及计算机技术领域,该人工智能计算系统包括多个计算节点,多计算节点包括主机、计算设备和网卡;计算设备包括第一硬件接口、第一设备一致性维护引擎、第一计算核心,计算设备通过第一硬件接口连接主机;网卡包括第二硬件接口、第二设备一致性维护引擎,网卡通过第二硬件接口连接主机;计算设备通过缓存的刷新操作与网卡的网卡内存之间传输梯度数据,网卡用于与其他计算节点同步梯度数据。本申请提高了计算设备与网卡梯度数据的传输效率,进而提高了人工智能模型的训练效率。

    一种多源异构分布式系统、内存访问方法和存储介质

    公开(公告)号:CN117806553A

    公开(公告)日:2024-04-02

    申请号:CN202311843443.2

    申请日:2023-12-28

    Abstract: 本发明涉及数据存储技术领域,公开了一种多源异构分布式系统、内存访问方法和存储介质,第一统一互连总线单元通过协议适配接口模块接收第一设备发送的读请求,将第一内存单元的缓存状态设置为无效状态;将读请求封装得到的请求报文发送至第二设备的第二统一互连总线单元。第二统一互连总线单元从第二内存单元中读取数据;将第二内存单元的缓存状态设置为共享状态,将响应报文发送至第一统一互连总线单元。第一统一互连总线单元将响应报文携带的数据存储至第一内存单元;将第一内存单元的缓存状态设置为共享状态。通过在每个设备上部署统一互连总线单元,实现各设备间的一致性内存通信,实现内存共享,提升了多源异构分布式系统的性能。

    CXL单元的时延测试方法、装置、系统、设备及介质

    公开(公告)号:CN119276755A

    公开(公告)日:2025-01-07

    申请号:CN202310833825.0

    申请日:2023-07-07

    Abstract: 本发明涉及CXL技术领域,具体公开了一种CXL单元的时延测试方法、装置、系统、设备及介质,通过应用消息管理器直接经过与待测计算机快速互联单元对应的计算机快速互联接口模块向待测计算机快速互联单元收发报文并记录收发时间戳,计算机快速互联接口模块包括计算机快速互联根端口模块和/或计算机快速互联终端接口模块,实现直接基于硬件获取计算机快速互联单元的报文收发时间戳,避免了系统级测试中引入的链路误差,实现了对计算机快速互联单元时延性能的直接测量,从而实现了计算机快速互联单元的对时延性能的准确测试。

    一种异构计算资源的处理方法、系统、产品、设备及介质

    公开(公告)号:CN118963970A

    公开(公告)日:2024-11-15

    申请号:CN202411252003.4

    申请日:2024-09-06

    Abstract: 本发明公开了一种异构计算资源的处理方法、系统、产品、设备及介质,涉及资源调用技术领域。该方法中,由于在主机中根据机框内的异构加速器资源和用于表征申请异构加速器资源的信息启动和配置目标异构加速器,在目标异构加速器中不用进行启动和配置这样的通用操作,减少了芯片资源的浪费,提高异构加速器资源的利用率以及性能;将异构加速器资源池化,使得多个主机可共用异构加速器中的资源,提高了资源利用率,同时,异构加速器资源池与主机通过计算加速链接连接,实现了异构加速器与主机之间的高效互连,保证了主机与异构加速器之间的缓存一致性;资源调用方采用直连调用启动和配置后的目标异构加速器的资源,降低了时延,提高了资源调用效率。

    计算快速链路设备的测试方法、装置、系统及设备和介质

    公开(公告)号:CN117555768A

    公开(公告)日:2024-02-13

    申请号:CN202311575775.7

    申请日:2023-11-23

    Abstract: 本申请公开了一种计算快速链路设备的测试方法、装置、系统及设备和介质,涉及计算机技术领域,计算快速链路设备的性能测试系统包括主机、与主机连接的计算快速链路设备、与主机连接的高速外围设备互连总线标准设备,该方法包括:根据不同组件之间的数据传输获取基本测试项对应的性能指标;其中,组件包括主机、计算快速链路设备、高速外围设备互连总线标准设备;对比不同的基本测试项对应的性能指标,以生成计算快速链路设备的性能测试结果。本申请实现了对各场景下的计算快速链路设备的全面的性能测试。

    一种设备互联系统、方法、设备、介质及程序产品

    公开(公告)号:CN119052199A

    公开(公告)日:2024-11-29

    申请号:CN202411247080.0

    申请日:2024-09-06

    Abstract: 本申请公开了计算机技术领域内的一种设备互联系统、方法、设备、介质及程序产品。本申请将不同硬件资源设备,如内存设备、硬件加速设备或计算设备等,纳入不同资源池;并且,各资源池中的至少一个交换芯片的至少一个上游端口连接其他资源池中的至少一个交换芯片的上游端口,实现了不同资源池之间的互联;各资源池中的至少一个交换芯片的至少一个下游端口连接硬件资源设备,以尽可能少的端口数量实现了系统内设备的互联,下游设备无需两两相连,减少了连接线数量和布线布局复杂度,通信延迟能够相应降低,满足了低延迟要求业务的通信需求。

    一种计算系统、模型训练方法、装置及设备、介质和产品

    公开(公告)号:CN118709745A

    公开(公告)日:2024-09-27

    申请号:CN202411162431.8

    申请日:2024-08-23

    Abstract: 本申请公开了一种计算系统、模型训练方法、装置及设备、介质和产品,涉及计算机技术领域,该人工智能计算系统包括多个计算节点,多计算节点包括主机、计算设备和网卡;计算设备包括第一硬件接口、第一设备一致性维护引擎、第一计算核心,计算设备通过第一硬件接口连接主机;网卡包括第二硬件接口、第二设备一致性维护引擎,网卡通过第二硬件接口连接主机;计算设备通过缓存的刷新操作与网卡的网卡内存之间传输梯度数据,网卡用于与其他计算节点同步梯度数据。本申请提高了计算设备与网卡梯度数据的传输效率,进而提高了人工智能模型的训练效率。

Patent Agency Ranking