面向新一代异构超算大模型并行训练与推理适配优化方法

    公开(公告)号:CN119783812A

    公开(公告)日:2025-04-08

    申请号:CN202411785151.2

    申请日:2024-12-06

    Applicant: 湖南大学

    Abstract: 本申请涉及一种面向新一代异构超算大模型并行训练与推理适配优化方法,获取模型上下文关系与层间张量依赖关系,基于模型上下文关系与层间张量依赖关系构建有向无环依赖关系图,并根据有向无环依赖关系图封装算子,得到迭代执行队列;分配通信模块至并行计算中各计算节点,由各计算节点根据迭代执行队列执行相应的批量迭代任务;在迭代执行队列执行过程中,各计算节点在分配的通信模块内启动算子引擎,切分并重排张量数据,通过通信模块进行计算节点内并行张量计算,直至迭代执行队列内数据处理完毕;归集各计算节点的计算结果,得到迭代任务计算结果。采用批量划分手段将迭代批量任务划分至各个计算节点进行并行计算,实现了高效的数据处理。

    分布式RDF图查询方法、装置、设备及存储介质

    公开(公告)号:CN114356977A

    公开(公告)日:2022-04-15

    申请号:CN202210256310.4

    申请日:2022-03-16

    Applicant: 湖南大学

    Abstract: 本发明提供了一种分布式RDF图查询方法、装置、设备及存储介质,方法包括:基于顶点不相交的分区方法以及用户输入的分区信息,对RDF数据图的每个顶点进行分区,将RDF数据图划分为n个子数据库图分片;将n个子数据库图分片存入n个gStore节点中;获取用户输入的查询语句Q和查询的数据库名称;将所述查询语句重写为所有可能的局部查询集;所述局部查询集包括一组局部查询语句q;将所述局部查询语句发送到所有gStore节点进行评估以获得局部查询结果;将所有的局部查询结果连接在一起形成最终查询结果。本发明通过将查询语句重写为局部查询语句,实现基于查询重写的部分求值,不需要修改每个站点上的单机RDF图系统。

    分布式RDF图查询方法、装置、设备及存储介质

    公开(公告)号:CN114356977B

    公开(公告)日:2023-02-10

    申请号:CN202210256310.4

    申请日:2022-03-16

    Applicant: 湖南大学

    Abstract: 本发明提供了一种分布式RDF图查询方法、装置、设备及存储介质,方法包括:基于顶点不相交的分区方法以及用户输入的分区信息,对RDF数据图的每个顶点进行分区,将RDF数据图划分为n个子数据库图分片;将n个子数据库图分片存入n个gStore节点中;获取用户输入的查询语句Q和查询的数据库名称;将所述查询语句重写为所有可能的局部查询集;所述局部查询集包括一组局部查询语句q;将所述局部查询语句发送到所有gStore节点进行评估以获得局部查询结果;将所有的局部查询结果连接在一起形成最终查询结果。本发明通过将查询语句重写为局部查询语句,实现基于查询重写的部分求值,不需要修改每个站点上的单机RDF图系统。

Patent Agency Ranking