-
公开(公告)号:CN117951141A
公开(公告)日:2024-04-30
申请号:CN202211298222.7
申请日:2022-10-21
Applicant: 华为云计算技术有限公司
IPC: G06F16/23 , G06F16/22 , G06F16/215 , G06F9/46 , G06F16/2453
Abstract: 本申请公开了一种数据处理方法及装置,属于数据库技术领域。分析处理引擎获取来自事务处理引擎的增量数据。分析处理引擎根据增量数据更新存储表。该存储表采用列式存储格式。该存储表包括数据信息列和有效性指示信息列。增量数据以数据行的形式存储在数据信息列中。有效性指示信息列用于指示数据信息列中的数据行有效或无效。分析处理引擎可基于有效性指示信息列过滤数据信息列中的无效数据行而读取数据信息列中的有效数据行,从而实现快速数据去重,有效性指示信息列的数据量较小且能够实现对数据有效性的快速更新,节约了存储资源且提高了数据时效性。
-
公开(公告)号:CN115705333A
公开(公告)日:2023-02-17
申请号:CN202110943513.6
申请日:2021-08-17
Applicant: 华为云计算技术有限公司
IPC: G06F16/242 , G06F16/2453 , G06F16/2455
Abstract: 本申请提供了一种数据查询方法,由数据库集群执行,数据库集群包括计算节点和存储节点,该方法包括:计算节点根据数据查询语句,从第一查询范围中确定第二查询范围,该第二查询范围小于第一查询范围,然后计算节点根据第二查询范围,获得数据查询请求,该数据查询请求用于查询第二查询范围中的数据,接着计算节点向存储节点发送数据查询请求。由于预先对查询范围进行缩减,避免计算下推之后存储层进行无意义的计算,提高了存储层中计算资源的利用率,以及存储层的计算效率。
-
公开(公告)号:CN118277478A
公开(公告)日:2024-07-02
申请号:CN202211659524.2
申请日:2022-12-22
Applicant: 华为云计算技术有限公司
Abstract: 本申请公开了一种处理数据库的方法、装置及存储介质,属于数据存储技术领域。所述方法应用于AP引擎包括的代理模块,AP引擎还包括多个目的数据库。在所述方法中,代理模块接收TP引擎发送的第一逻辑日志,TP引擎包括多个源数据库,该多个源数据库与该多个目的数据库对应,每个目的数据库分别包括每个目的数据库对应的源数据库中的数据,第一逻辑日志用于描述TP引擎处理第一数据库所使用的第一处理操作,该多个源数据库包括第一数据库。代理模块确定第一数据库对应的第二数据库,该多个目的数据库包括第二数据库。代理模块基于第一逻辑日志处理第二数据库。本申请能够减少网络资源的占用。
-
公开(公告)号:CN116301566A
公开(公告)日:2023-06-23
申请号:CN202111585803.4
申请日:2021-12-20
Applicant: 华为云计算技术有限公司
IPC: G06F3/06
Abstract: 一种存储系统、数据访问方法、装置以及设备,本申请实中,计算节点在确定需要访问目标数据时,可以先确定该目标数据是否满足计算下推条件,在确定目标数据满足计算下推条件后,向存储节点发送数据访问请求,数据访问请求用于访问目标数据,数据访问请求中携带计算指示,计算指示用于表征访问目标数据需执行的计算业务。该存储节点在接收到数据访问请求后,获取目标数据所属的数据集合,根据计算指示执行计算业务,访问数据集合中的目标数据;向计算节点反馈访问结果。计算节点能够自行判断适合计算下推的场景,以便能够充分利用存储节点的资源,保证计算下推的有效性。
-
-
-