-
公开(公告)号:CN119003599A
公开(公告)日:2024-11-22
申请号:CN202411476564.2
申请日:2024-10-22
Applicant: 中国空气动力研究与发展中心计算空气动力研究所
IPC: G06F16/2455 , G06F16/242 , G06F16/25
Abstract: 本发明公开了一种面向超算平台进行多源异构数据采集、存储与读取的方法及系统,该方法包括:通过统一的API接口对各超算平台的多源异构数据进行采集,并按照不同的应用场景将采集的数据进行分布式存储,当用户读取多源异构的超算平台数据时,调用预制查询语句库构建出针对不同数据源的查询语句,对分布式存储的多源异构数据进行查询后依据优先级进行整合,当查询预加载数据时,每执行完成一次查询与数据整合后,根据当前轮次数据查询与整合所用时间动态调整后续执行各查询语句与数据整合的优先级顺序。本发明通过统一的API接口采集超算平台数据,并将数据进行分布式存储,既减小了存储空间的压力,同时也方便根据应用场景读取、整合所需超算数据。
-
公开(公告)号:CN119003599B
公开(公告)日:2025-01-28
申请号:CN202411476564.2
申请日:2024-10-22
Applicant: 中国空气动力研究与发展中心计算空气动力研究所
IPC: G06F16/2455 , G06F16/242 , G06F16/25
Abstract: 本发明公开了一种面向超算平台进行多源异构数据采集、存储与读取的方法及系统,该方法包括:通过统一的API接口对各超算平台的多源异构数据进行采集,并按照不同的应用场景将采集的数据进行分布式存储,当用户读取多源异构的超算平台数据时,调用预制查询语句库构建出针对不同数据源的查询语句,对分布式存储的多源异构数据进行查询后依据优先级进行整合,当查询预加载数据时,每执行完成一次查询与数据整合后,根据当前轮次数据查询与整合所用时间动态调整后续执行各查询语句与数据整合的优先级顺序。本发明通过统一的API接口采集超算平台数据,并将数据进行分布式存储,既减小了存储空间的压力,同时也方便根据应用场景读取、整合所需超算数据。
-