一种用于异构图神经网络的推理加速器及加速推理方法

    公开(公告)号:CN118036688A

    公开(公告)日:2024-05-14

    申请号:CN202410248479.4

    申请日:2024-03-05

    Abstract: 本发明提供一种用于异构图神经网络的推理加速器,示意性地在该加速器中增加了图解耦器和图重组器来对异构图进行结解耦和重组的方式来进行子图划分,并将其发送至下游处理部件进行处理以实现对异构图神经网络的推理。采用本发明上述实施例通过在加速器中增加图解耦器和图重组器将异构图对应的语义图划分为局部性较强的多个子图,从而缓解了加速器在处理过程中产生的缓存抖动,同时对语义图对应的多个子图的处理等价为对原语义图的处理,在保证了处理正确性的同时也提升了加速器的执行性能。

    一种基于异构图神经网络的异构图数据加速处理方法

    公开(公告)号:CN118536564A

    公开(公告)日:2024-08-23

    申请号:CN202410652421.6

    申请日:2024-05-24

    Abstract: 本发明提供了一种基于异构图神经网络的异构图数据加速处理方法,所述方法执行特征映射计算步骤、以及语义融合计算步骤以完成异构图数据的处理,其中,在邻居聚合计算步骤中,基于映射后的子图中目标节点和各个源节点的特征向量对该子图进行剪枝计算以筛选出该子图中对目标节点符合预设重要性要求的多个源节点,并基于映射后的目标节点和筛选出的各个源节点的特征向量执行邻居聚合计算以得到子图中目标节点对应的结构特征向量。本发明的方案能够在保证异构图神经网络准确地捕捉图数据中的重要信息的同时减小异构图神经网络处理异构图数据过程中的计算复杂度和片外访存带宽的需求,从而提高异构图神经网络处理异构图数据时的执行效率。

    一种分配语义图至多个硬件处理单元处理的方法

    公开(公告)号:CN117973432A

    公开(公告)日:2024-05-03

    申请号:CN202311562519.4

    申请日:2023-11-22

    Abstract: 本发明提供了一种分配语义图至多个硬件处理单元处理的方法,包括步骤:A1、获取多个语义图,确定多个语义图中每两个语义图之间的相似度;A2、构建超图,将步骤A1计算的相似度作为对应的两个顶点间边的权值;A3、根据删除边的权值之和局部或者全局最小化的方式,将超图划分为M个超图子图;A4、为每个超图子图增加两个虚拟点作为起点和终点,并在起点与每个顶点间以及终点与每个顶点间分别增加相同权值的边,得到经调整的超图子图;A5、针对每个经调整的超图子图,在经过每个顶点且每个顶点仅经过一次的条件下,确定对应超图子图中各语义图的处理顺序信息;A6、将每个超图子图所含所有顶点对应的各语义图及对应的处理顺序信息分配给硬件处理单元。

    一种基于图神经网络加速器的异构图神经网络的推理方法

    公开(公告)号:CN117709463A

    公开(公告)日:2024-03-15

    申请号:CN202311690313.X

    申请日:2023-12-11

    Abstract: 本发明提供了一种基于图神经网络加速器的异构图神经网络的推理方法,所述图神经网络加速器中存储有异构图神经网络的权重参数以及异构图数据经语义图构建处理后得到的多个语义图,所述方法包括:将每个语义图分别与所述异构图神经网络的权重参数进行计算,并使不同语义图之间的计算并行执行,其中:将每个语义图分别与所述异构图神经网络的权重参数进行特征映射阶段、邻居聚合阶段、本地语义融合阶段或全局语义融合阶段的计算,并使每个语义图的特征映射阶段、邻居聚合阶段、本地语义融合阶段或全局语义融合阶段的计算与其他语义图的特征映射阶段、邻居聚合阶段、本地语义融合阶段或全局语义融合阶段的计算并行执行。

Patent Agency Ranking