-
公开(公告)号:CN117311605B
公开(公告)日:2025-05-23
申请号:CN202311070279.6
申请日:2023-08-23
Applicant: 深圳华为云计算技术有限公司
IPC: G06F3/06 , H04L67/1097
Abstract: 本申请涉及计算机技术领域,公开了分布式存储方法、数据索引方法、设备及存储介质。其中,分布式存储方法包括:若检测到第一数据的存储请求,基于第一数据对应的第一存储分区确定第一数据对应的第一标识中的第一内部标识;接着,分布式系统确定第一数据对应的第一标识中的第二内部标识,其中第一数据对应的第二内部标识,与第一存储节点内其他数据对应的第二内部标识相对于第一存储分区的单存储节点数据最大容纳量的取余结果不同;最后将第二内部标识与第一数据在第一存储分区内的逻辑存储空间所对应的逻辑区块地址建立关联。基于上述方法,可以实现通过制定分布式系统中数据唯一标识的生成规则,提高分布式存储系统的存储和索引数据的效率。
-
公开(公告)号:CN118819389A
公开(公告)日:2024-10-22
申请号:CN202311027176.1
申请日:2023-08-15
Applicant: 华为云计算技术有限公司
IPC: G06F3/06
Abstract: 一种数据存储方法、装置及系统,可应用于数据处理和云存储技术领域。该方法包括:依次接收存储请求端发送的N个存储请求,N是大于1的正整数,其中每个存储请求携带有待写入数据和用于指示待写入数据在磁盘中的存储位置的偏移地址;根据每个存储请求的偏移地址,对N个存储请求进行排序以产生响应顺序;按照N个存储请求的接收顺序,以追加写的方式将N个存储请求的待写入数据写入到磁盘中;根据响应顺序,依次向存储请求端发送N个存储响应。该方法可以在避免磁盘空洞的同时,实现存储请求的先接收先存储,提高了存储效率和磁盘带宽利用率。
-
公开(公告)号:CN117675097A
公开(公告)日:2024-03-08
申请号:CN202211053757.8
申请日:2022-08-30
Applicant: 华为云计算技术有限公司 , 中国科学技术大学
IPC: H04L1/00 , H04L67/1097
Abstract: 本申请涉及存储领域,提供了一种数据编码的方法及装置,该方法包括:获取目标数据;将所述目标数据拆分为n个数据集合,所述n为大于1的正整数;搭建所述n个数据集合的编码环境;在所述编码环境中对所述n个数据集合依次进行编码。该方法能够提高编码计算的效率。
-
公开(公告)号:CN119105692A
公开(公告)日:2024-12-10
申请号:CN202311256325.1
申请日:2023-09-26
Applicant: 华为云计算技术有限公司
IPC: G06F3/06
Abstract: 本申请提供了一种垃圾回收方法、分布式存储系统及计算机可读存储介质。分布式存储系统包括访问包括多个擦除单元的存储设备的服务端、客户端,客户端包括用于指示多个数据单元和其所属的擦除单元的第一维护信息,服务端包括用于指示多个擦除单元的第二维护信息;该方法包括:客户端基于第一维护信息,确定包括至少一个待删除的数据单元的标识的第一数据删除请求,并发送;服务端将接收的第一数据删除请求中的至少一个待删除的数据单元的标识加入数据单元标识集合中;基于第二维护信息和数据单元标识集合,指示存储设备对目标擦除单元中的多个待删除的数据单元进行回收。通过对擦除单元中的多个数据单元进行集中回收,减小写放大,提高回收效率。
-
公开(公告)号:CN117311605A
公开(公告)日:2023-12-29
申请号:CN202311070279.6
申请日:2023-08-23
Applicant: 深圳华为云计算技术有限公司
IPC: G06F3/06 , H04L67/1097
Abstract: 本申请涉及计算机技术领域,公开了分布式存储方法、数据索引方法、设备及存储介质。其中,分布式存储方法包括:若检测到第一数据的存储请求,基于第一数据对应的第一存储分区确定第一数据对应的第一标识中的第一内部标识;接着,分布式系统确定第一数据对应的第一标识中的第二内部标识,其中第一数据对应的第二内部标识,与第一存储节点内其他数据对应的第二内部标识相对于第一存储分区的单存储节点数据最大容纳量的取余结果不同;最后将第二内部标识与第一数据在第一存储分区内的逻辑存储空间所对应的逻辑区块地址建立关联。基于上述方法,可以实现通过制定分布式系统中数据唯一标识的生成规则,提高分布式存储系统的存储和索引数据的效率。
-
公开(公告)号:CN111797062B
公开(公告)日:2023-10-27
申请号:CN201910282391.3
申请日:2019-04-09
Applicant: 华为云计算技术有限公司
Inventor: 刘强
Abstract: 本申请公开了数据处理方法、装置和分布式数据库系统,涉及数据处理技术领域,有助于降低存储成本,且提高系统整体性能。该分布式数据库系统包括多个节点,多个节点上部署有日志管理模块、数据管理模块和多个数据执行模块;日志管理模块,用于在确定待处理日志成功写入多个节点中的M个节点之后,向数据管理模块发送待处理日志;其中,M是大于或等于3的整数,待处理日志用于记录对待处理数据进行更新的更新操作;数据管理模块,用于向多个数据执行模块中的N个数据执行模块发送待处理日志;其中,N是大于或等于1的整数;N个数据执行模块中的每个数据执行模块,用于根据待处理日志中记录的更新操作,对待处理数据进行更新。
-
公开(公告)号:CN114090551A
公开(公告)日:2022-02-25
申请号:CN202010747359.0
申请日:2020-07-29
Applicant: 华为云计算技术有限公司
Inventor: 刘强
IPC: G06F16/215 , G06F16/23 , G06F16/27 , H04L67/1097
Abstract: 本申请实施例公开了一种存储数据的方法、装置及系统,涉及计算机领域,在保证分布式数据服务系统可用性的前提下,降低了系统的存储成本。具体方案为:给复制组配置持久服务器及临时服务器,持久服务器用于长期存储数据,临时服务器用于临时存储数据,复制组用于采用复制协议向其包含的服务器写入相同数据;复制组中的每个持久服务器分别执行更新操作,将自身的存储数据中满足第一条件的存储数据,更新为复制组中所有服务器内存储的满足第一条件的数据的并集;复制组中的每个临时服务器分别确定其自身的存储数据中满足第二条件的数据已存储于复制组中的持久服务器后,每个临时服务器分别执行删除操作,删除满足第二条件的数据。
-
公开(公告)号:CN116301610A
公开(公告)日:2023-06-23
申请号:CN202310175002.3
申请日:2023-02-17
Applicant: 深圳华为云计算技术有限公司
IPC: G06F3/06
Abstract: 本申请公开了一种数据处理方法以及相关设备,应用于存储场景。该方法包括:存储节点接收第一指令,存储节点的中央处理器CPU基于第一指令创建存储空间,该存储空间用于存储数据。存储节点接收第二指令,存储节点的卸载模块基于第二指令对存储空间中存储的数据进行处理,其中,卸载模块功耗低于CPU。本申请中,对存储节点的控制面操作和数据面操作进行了分离,由存储节点的CPU执行控制面操作,而将数据面操作卸载到卸载模块中执行。由于卸载模块功耗低于CPU,因此与当前控制面操作和数据面操作都由CPU执行相比,由卸载模块执行数据面操作可以大大降低存储系统的功耗。
-
公开(公告)号:CN110825706B
公开(公告)日:2022-09-16
申请号:CN201810893734.5
申请日:2018-08-07
Applicant: 华为云计算技术有限公司
IPC: G06F16/174 , G06F16/17
Abstract: 本申请提供了一种数据压缩的方法和相关装置。其中,该方法包括:存储节点获取多个数据块,其中,所述多个数据块关联存储在所述存储节点中;对所述多个数据块进行压缩,以得到压缩数据。本申请实施例通过在存储节点执行压缩任务,实现压缩功能,可以提升数据库的性能。
-
公开(公告)号:CN120010747A
公开(公告)日:2025-05-16
申请号:CN202311524253.4
申请日:2023-11-15
Applicant: 华为云计算技术有限公司
Abstract: 本申请提供一种数据块处理方法,应用于存储系统,存储系统包括客户端和服务端,客户端和服务端通过硬件卸载设备进行硬件卸载,实现IO硬件直通硬盘,该方法包括客户端接收上层应用发送的第一写请求,第一写请求携带待写入数据;客户端对待写入数据进行处理,得到至少一个第一数据块,其中,每个第一数据块包括待写入数据块和DIF数据块,DIF数据块中包括公共DIF信息;客户端向服务端发送第二写请求;服务端响应第二写请求,对至少一个数据块进行DIF校验,若DIF校验通过则将至少一个第一数据块存储至硬盘中。本申请客户端在IO直通路径之前,将IO数据统一为带DIF的数据格式,简化微码的处理逻辑。
-
-
-
-
-
-
-
-
-