-
公开(公告)号:CN115237665A
公开(公告)日:2022-10-25
申请号:CN202210893252.6
申请日:2022-07-27
Applicant: 华中科技大学 , 济南浪潮数据技术有限公司 , 浪潮电子信息产业股份有限公司
Abstract: 本发明公开一种面向高密度存储服务器的快速磁盘修复方法和系统,属于计算机存储领域。包括:根据故障磁盘确定需要修复的所有条带;从正常磁盘中读取需要修复条带的所有幸存块;计算各幸存块从磁盘被读入内存所需要的时间;构建所有可能的[a,b]组合;根据各幸存块从磁盘被读入内存所需要的时间,计算各个[a,b]组合下磁盘修复时间T;采用磁盘修复时间最小对应的[a,b]组合,进行故障磁盘的修复;a表示条带内并行度,b表示条带间并行度,且a*b=内存中可容纳数据块的数量。本发明根据当前的服务器内所有磁盘的传输速度状况,选择合理的条带内并行度和条带间并行度,使得磁盘修复时间得以最小化,从而尽可能快地修复出丢失数据,提升修复性能与系统的可靠性。
-
公开(公告)号:CN118466859B
公开(公告)日:2024-10-11
申请号:CN202410924980.8
申请日:2024-07-11
Applicant: 浪潮电子信息产业股份有限公司 , 华中科技大学
Abstract: 本发明公开了一种数据处理方法、系统、存储集群、设备及可读存储介质,涉及存储领域,为解决采用多层耦合码修复速度慢的问题,该数据处理方法包括通过多层耦合码将原始数据划分为若干个数据块和校验块,并将各个数据块和各个校验块均划分为若干个子块后进行编码,得到每一子块的原始编码;获取格雷码序列,按格雷码序列及原始编码调整各个子块的排列顺序,按照调整后的排列顺序将各个子块写入对应的存储节点;当满足单块数据修复条件时,通过多层耦合码确定故障块,从存储节点中读取故障块对应的待访问子块,通过待访问子块对故障块进行数据修复。本发明能够将对子块大量的随机访问转换为少量的顺序访问,从而减少修复访问数量,提高修复效率。
-
公开(公告)号:CN116774931A
公开(公告)日:2023-09-19
申请号:CN202310686114.5
申请日:2023-06-09
Applicant: 浪潮电子信息产业股份有限公司 , 华中科技大学
IPC: G06F3/06 , G06F16/22 , G06F16/2455 , G06F9/48
Abstract: 本申请公开了一种元数据存储方法、系统、设备及存储介质,应用于存储技术领域,包括:接收一个批次的元数据请求并为该批次的元数据请求分配线程;基于元数据索引树的路径,确定出各个元数据请求各自指向的叶子节点;进行节点重分配,以使得指向相同叶子节点的各个请求,均由唯一对应的1个线程进行请求的执行;基于该批次的元数据请求,更新元数据索引树;利用进行了节点重分配之后的各个线程执行相应的元数据请求以实现数据读写,并反馈执行结果。应用本申请的方案,可以有效地进行元数据存储,避免了写性能抖动,并且元数据索引树可以采用设计,有利于提高并发性,即提高了系统性能。
-
公开(公告)号:CN118466859A
公开(公告)日:2024-08-09
申请号:CN202410924980.8
申请日:2024-07-11
Applicant: 浪潮电子信息产业股份有限公司 , 华中科技大学
Abstract: 本发明公开了一种数据处理方法、系统、存储集群、设备及可读存储介质,涉及存储领域,为解决采用多层耦合码修复速度慢的问题,该数据处理方法包括通过多层耦合码将原始数据划分为若干个数据块和校验块,并将各个数据块和各个校验块均划分为若干个子块后进行编码,得到每一子块的原始编码;获取格雷码序列,按格雷码序列及原始编码调整各个子块的排列顺序,按照调整后的排列顺序将各个子块写入对应的存储节点;当满足单块数据修复条件时,通过多层耦合码确定故障块,从存储节点中读取故障块对应的待访问子块,通过待访问子块对故障块进行数据修复。本发明能够将对子块大量的随机访问转换为少量的顺序访问,从而减少修复访问数量,提高修复效率。
-
公开(公告)号:CN118585585A
公开(公告)日:2024-09-03
申请号:CN202410726943.6
申请日:2024-06-06
Applicant: 华中科技大学 , 济南浪潮数据技术有限公司
IPC: G06F16/27 , G06F16/2458 , G06F16/22 , G06F18/23
Abstract: 本发明公开了一种面向云数据分析场景的水平数据分区方法,其自适应识别历史查询负载在各属性的热点查询区间、具有局部性的查询模式和离群查询区间,由此对历史查询负载灵活泛化,兼顾未来查询负载与历史查询负载的相似性和差异性;设计了基于概率的成本模型,准确地评估泛化查询负载的开销,并考虑了数据属性间的相关性,以更精确地量化分区动作的收益,从而优化分区决策;设计了基于概率成本模型的两阶段水平分区方法,首先使用轴垂直超平面切割,使得分区方案尽可能细粒度地对齐泛化查询负载,保证数据跳过效率;针对轴垂直超平面切割面对倾斜数据失效的问题,设计了排序二分切割作为补充,增强分区方法鲁棒性的同时,进一步提升数据跳过效率。
-
公开(公告)号:CN115826885B
公开(公告)日:2023-05-09
申请号:CN202310140582.2
申请日:2023-02-21
Applicant: 浪潮电子信息产业股份有限公司
IPC: G06F3/06
Abstract: 本申请公开了一种数据迁移方法、装置及电子设备和存储介质,涉及存储技术领域,该方法包括:接收用户态的应用程序发送的数据传输请求;将所述数据传输请求对应的读写数据划分为多个数据子段;利用多个数据迁移线程并行对多个所述数据子段在所述用户态的应用程序和内核态的缓存之间进行数据迁移;其中,所述数据迁移线程与所述数据子段一一对应。本申请提高了用户态和内核态之间的数据迁移效率。
-
公开(公告)号:CN115826885A
公开(公告)日:2023-03-21
申请号:CN202310140582.2
申请日:2023-02-21
Applicant: 浪潮电子信息产业股份有限公司
IPC: G06F3/06
Abstract: 本申请公开了一种数据迁移方法、装置及电子设备和存储介质,涉及存储技术领域,该方法包括:接收用户态的应用程序发送的数据传输请求;将所述数据传输请求对应的读写数据划分为多个数据子段;利用多个数据迁移线程并行对多个所述数据子段在所述用户态的应用程序和内核态的缓存之间进行数据迁移;其中,所述数据迁移线程与所述数据子段一一对应。本申请提高了用户态和内核态之间的数据迁移效率。
-
公开(公告)号:CN115952110B
公开(公告)日:2023-06-06
申请号:CN202310219993.0
申请日:2023-03-09
Applicant: 浪潮电子信息产业股份有限公司
IPC: G06F12/0806 , G06F3/06
Abstract: 本申请涉及数据存储技术领域,公开了一种数据缓存方法、装置、设备和计算机可读存储介质,在接收到写请求时,从多个缓存区域中选取与写请求携带的目标逻辑地址匹配的目标缓存区域。在目标缓存区域无对应的内存数据管理结构时,对目标缓存区域建立内存数据管理结构并标记申请时间,并将内存数据管理结构挂载到时间队列;将写请求携带的数据写入到内存数据管理结构。在目标缓存区域有对应的内存数据管理结构时,基于内存数据管理结构的申请时间与当前时间的偏差,将写请求携带的数据写入到满足时间偏差要求的目标内存数据管理结构中。依据逻辑地址、内存数据管理结构的申请时间缓存数据,实现了对数据空间局部性和时间局部性的兼顾。
-
公开(公告)号:CN115934007B
公开(公告)日:2023-05-23
申请号:CN202310247233.0
申请日:2023-03-15
Applicant: 浪潮电子信息产业股份有限公司
IPC: G06F3/06
Abstract: 本申请公开了一种分布式存储系统的数据存储方法、系统、设备及存储介质,应用于存储技术领域,分布式存储系统中包括多个硬盘集群,1个硬盘集群中包括多个型号相同的硬盘,且均在同一批次加入分布式存储系统,包括:接收待写入数据并划分出数据类型当待写入数据的数据类型为第i数据类型时,判断当前是否存在第i状态的硬盘集群;如果是,则选取出1个第i状态的硬盘集群;将待写入数据写入选取出的该第i状态的硬盘集群中;其中,待写入数据在第一时长内的修改次数预估值越低,该待写入数据被写入磨损度越高的硬盘集群中。应用本申请的方案,实现了分布式存储系统的全局磨损均衡,保障硬盘耐久度,可以避免出现频繁进行坏盘更换的情况。
-
公开(公告)号:CN115951841B
公开(公告)日:2023-06-20
申请号:CN202310166827.9
申请日:2023-02-27
Applicant: 浪潮电子信息产业股份有限公司
IPC: G06F3/06
Abstract: 本申请公开了一种存储系统及创建方法、数据处理方法、装置、设备和介质,涉及存储技术领域,该存储系统包括第一存储空间,用于处理非块大小对齐的读写请求;其中,所述第一存储空间具体为包含多个存储设备的持久内存区域的存储空间;与所述第一存储空间连接的第二存储空间,用于处理第一块大小对齐的读写请求;与所述第二存储空间连接的第三存储空间,用于处理第二块大小对齐的读写请求;其中,所述第二块大小大于所述第一块大小。本申请提高了小IO读写性能,同时实现了高可靠性和高性价比的存储系统。
-
-
-
-
-
-
-
-
-