-
公开(公告)号:CN117675097A
公开(公告)日:2024-03-08
申请号:CN202211053757.8
申请日:2022-08-30
Applicant: 华为云计算技术有限公司 , 中国科学技术大学
IPC: H04L1/00 , H04L67/1097
Abstract: 本申请涉及存储领域,提供了一种数据编码的方法及装置,该方法包括:获取目标数据;将所述目标数据拆分为n个数据集合,所述n为大于1的正整数;搭建所述n个数据集合的编码环境;在所述编码环境中对所述n个数据集合依次进行编码。该方法能够提高编码计算的效率。
-
公开(公告)号:CN120029817A
公开(公告)日:2025-05-23
申请号:CN202410050635.6
申请日:2024-01-12
Applicant: 华为云计算技术有限公司
Abstract: 本申请实施例公开了一种数据写入方法以及装置,用于降低分布式存储系统中客户端的内存消耗。本申请实施例方法包括:客户端接收用户写入的第一数据块,第一数据块用于写入存储设备中的目标条带。客户端基于第一数据块生成第一临时校验块。客户端将第一数据块和第一临时校验块发送至服务端。服务端将第一数据块和第一临时校验块存储至存储设备。服务端确定第一数据块为目标条带的尾部数据块,将第一临时校验块和第二临时校验块进行纠删码合并,得到合并后的目标校验块,第二临时校验块包括目标条带中除第一数据块之外的其他数据块生成的一个或多个临时校验块。服务端将目标校验块存储至存储设备。
-
公开(公告)号:CN115934409A
公开(公告)日:2023-04-07
申请号:CN202211482377.6
申请日:2022-11-24
Applicant: 中国科学技术大学
IPC: G06F11/10 , G06F3/06 , G11C29/42 , G06F12/0877
Abstract: 本发明涉及计算机分布式存储系统中的纠删码技术领域,公开了一种寄存器友好的高效异或纠删码编码方法,包括数据块和校验块的拆分,校验子块的计算和校验子块的合并步骤;相比于现有的编码方法,本发明将数据从寄存器到内存或者缓存的存储次数降到最低,即所有数据只需要从寄存器存储到内存一次,减少了数据存储延迟;还将数据从内存或者缓存到寄存器的读取次数减少接近一半,提高了数据加载效率。本发明通过减少编码过程中数据在寄存器与内存或者与缓存之间的读取和存储次数,提高了编码速度。
-
公开(公告)号:CN115865105A
公开(公告)日:2023-03-28
申请号:CN202211481654.1
申请日:2022-11-24
Applicant: 中国科学技术大学
IPC: H03M13/15
Abstract: 本发明涉及计算机分布式存储系统中的纠删码技术领域,公开了一种计算和缓存友好的高效里德‑所罗门码编码方法。本发明通过拆分数据块和校验块,寻找公共异或部分,计算被匹配的两个校验包。相比于现有的编码流程,兼顾计算高效性和缓存高效性,将数据块和校验块拆分成合适大小的数据包和校验包进行编码。相比于现有的减少异或计算量的方法,利用有限的寄存器,将两个校验包的公共异或部分的计算结果存储在寄存器中,直到完成它们的计算,在减少异或计算量和数据读取量的同时,没有引入额外的数据传输。本发明通过均衡编码的计算高效性和缓存高效性以及减少编码过程中异或计算量,提高了编码性能。
-
公开(公告)号:CN111506428B
公开(公告)日:2022-09-02
申请号:CN202010313968.5
申请日:2020-04-20
Applicant: 中国科学技术大学
IPC: G06F9/50
Abstract: 本发明公开了一种基于纠删码存储系统的负载均衡修复调度方法,特征是包含对负载均衡状态评估,分批调度重构任务和选择源节点,为不饱和的任务补充源节点的连接,和选择替代节点步骤。本发明方法由于采用更新最大流的方式来动态的选择重构任务和源节点,相比于传统的按顺序分批执行修复和随机选择源节点的方式,能够动态的构建均匀的数据布局以及实现源节点的负载均衡;由于替代节点的选择采用寻找完美匹配的方式,克服了传统随机选择替代节点做不到均衡的缺点;本发明通过动态的调度重构任务,提高了系统的修复速度,并减少了在修复过程中对前端任务的干扰,提高了分布式存储系统的服务质量和性能。
-
公开(公告)号:CN111506428A
公开(公告)日:2020-08-07
申请号:CN202010313968.5
申请日:2020-04-20
Applicant: 中国科学技术大学
IPC: G06F9/50
Abstract: 本发明公开了一种基于纠删码存储系统的负载均衡修复调度方法,特征是包含对负载均衡状态评估,分批调度重构任务和选择源节点,为不饱和的任务补充源节点的连接,和选择替代节点步骤。本发明方法由于采用更新最大流的方式来动态的选择重构任务和源节点,相比于传统的按顺序分批执行修复和随机选择源节点的方式,能够动态的构建均匀的数据布局以及实现源节点的负载均衡;由于替代节点的选择采用寻找完美匹配的方式,克服了传统随机选择替代节点做不到均衡的缺点;本发明通过动态的调度重构任务,提高了系统的修复速度,并减少了在修复过程中对前端任务的干扰,提高了分布式存储系统的服务质量和性能。
-
-
-
-
-