-
公开(公告)号:CN118193560A
公开(公告)日:2024-06-14
申请号:CN202211565695.9
申请日:2022-12-07
Applicant: 华为云计算技术有限公司
IPC: G06F16/242 , G06F16/28 , G06F16/2453 , G06F16/2455
Abstract: 本申请提供了一种数据分析方法,由数据分析系统执行,该系统包括协调节点、元数据管理装置和多个计算集群,计算集群中包括元数据缓存,元数据管理装置中记录有元数据缓存的状态,该方法包括:协调节点接收查询语句,向元数据管理装置下发一致性判断请求,元数据管理装置根据元数据缓存的状态,获得至少一个计算集群的元数据缓存的一致性判断结果,然后向协调节点返回一致性判断结果,接着根据一致性判断结果,从多个计算集群中确定目标计算集群,目标计算集群根据协调节点下发的分析请求,进行数据分析。由于无需在下发的执行计划中携带元数据,降低网络诉求。并且,基于一致性判断结果可以精准获取数据,减少同步次数,降低网络诉求。
-
公开(公告)号:CN119719096A
公开(公告)日:2025-03-28
申请号:CN202311824307.9
申请日:2023-12-26
Applicant: 华为云计算技术有限公司
IPC: G06F16/22
Abstract: 本申请例提供了一种数据处理方法,用于减少对存储资源的占用,节约存储资源。方法应用于网络设备,包括:获取基表和M个聚合表,基表包括网络设备实际存储的数据,M个聚合表中是根据M个聚合定义对基表包括的数据处理得到的,且M个聚合表各自对应的聚合定义不同,每个聚合定义包括键值对,用于指示处理基表包括的数据的方式。根据M个聚合定义包括的键,从M个聚合表中确定待合并的N个聚合表。对待合并的N个聚合表进行合并,得到合并后的聚合表,合并后的聚合表的数据量小于待合并的N个聚合表的数据量之和。其中,M和N均为大于或等于2的整数,且N小于或等于M。
-
公开(公告)号:CN119271661A
公开(公告)日:2025-01-07
申请号:CN202310786187.1
申请日:2023-06-29
Applicant: 华为云计算技术有限公司
Abstract: 一种元数据的处理方法、系统以及计算设备,该方法包括:数据生产集群生成共享数据的元数据,数据生产集群将共享数据和元数据存储至共享存储,共享存储生成元数据的路径信息;数据消费集群从共享存储获取元数据的路径信息,并基于元数据的路径信息从共享存储获取元数据,并基于元数据从共享存储获取共享数据。该方法能够降低共享数据的元数据的存储成本。
-
公开(公告)号:CN117312353A
公开(公告)日:2023-12-29
申请号:CN202210714147.1
申请日:2022-06-22
Applicant: 华为云计算技术有限公司
IPC: G06F16/242 , G06F16/2455 , G06F16/28
Abstract: 本申请公开了一种数据管理的方法、装置、系统及存储介质,属于通信领域。所述方法包括:获取第一描述信息,所述第一描述信息用于描述第一行组,所述第一行组是第一存储系统在指定时间段内保存的行组,所述第一行组包括至少一行数据;基于所述第一描述信息将所述第一行组保存到第二存储系统中。本申请能够降低运营成本以及维护难度。
-
-
-