一种面向高密度存储服务器的快速磁盘修复方法和系统

    公开(公告)号:CN115237665A

    公开(公告)日:2022-10-25

    申请号:CN202210893252.6

    申请日:2022-07-27

    Abstract: 本发明公开一种面向高密度存储服务器的快速磁盘修复方法和系统,属于计算机存储领域。包括:根据故障磁盘确定需要修复的所有条带;从正常磁盘中读取需要修复条带的所有幸存块;计算各幸存块从磁盘被读入内存所需要的时间;构建所有可能的[a,b]组合;根据各幸存块从磁盘被读入内存所需要的时间,计算各个[a,b]组合下磁盘修复时间T;采用磁盘修复时间最小对应的[a,b]组合,进行故障磁盘的修复;a表示条带内并行度,b表示条带间并行度,且a*b=内存中可容纳数据块的数量。本发明根据当前的服务器内所有磁盘的传输速度状况,选择合理的条带内并行度和条带间并行度,使得磁盘修复时间得以最小化,从而尽可能快地修复出丢失数据,提升修复性能与系统的可靠性。

    数据处理方法、系统、存储集群、设备及可读存储介质

    公开(公告)号:CN118466859B

    公开(公告)日:2024-10-11

    申请号:CN202410924980.8

    申请日:2024-07-11

    Abstract: 本发明公开了一种数据处理方法、系统、存储集群、设备及可读存储介质,涉及存储领域,为解决采用多层耦合码修复速度慢的问题,该数据处理方法包括通过多层耦合码将原始数据划分为若干个数据块和校验块,并将各个数据块和各个校验块均划分为若干个子块后进行编码,得到每一子块的原始编码;获取格雷码序列,按格雷码序列及原始编码调整各个子块的排列顺序,按照调整后的排列顺序将各个子块写入对应的存储节点;当满足单块数据修复条件时,通过多层耦合码确定故障块,从存储节点中读取故障块对应的待访问子块,通过待访问子块对故障块进行数据修复。本发明能够将对子块大量的随机访问转换为少量的顺序访问,从而减少修复访问数量,提高修复效率。

    一种多级缓存管理方法、装置、设备及可读存储介质

    公开(公告)号:CN115509962A

    公开(公告)日:2022-12-23

    申请号:CN202211238751.8

    申请日:2022-10-10

    Abstract: 本申请公开了一种多级缓存管理方法、装置、设备及可读存储介质,该方法包括:每次命中多级缓存中底层缓存层的I/O请求数据后,利用命中信息动态更新对应上层缓存层的概率值;在需要驱逐上层缓存层中的一个目标I/O请求数据时,生成随机数;若随机数小于概率值,则利用LRU算法选出目标I/O请求数据;若随机数大于等于概率值,则利用LFU算法选出目标I/O请求数据;驱逐目标I/O请求数据。本申请面对复杂场景下的I/O请求,能够较为灵活地匹配不同的访问模式,从而自适应对当前的I/O请求数据进行合理调度和替换。即,本申请可以将底层缓存层与上次缓存层动态结合起来进行管理,从而实现多层缓存层的相互协同,最终有效提升缓存命中率。

    数据处理方法、系统、存储集群、设备及可读存储介质

    公开(公告)号:CN118466859A

    公开(公告)日:2024-08-09

    申请号:CN202410924980.8

    申请日:2024-07-11

    Abstract: 本发明公开了一种数据处理方法、系统、存储集群、设备及可读存储介质,涉及存储领域,为解决采用多层耦合码修复速度慢的问题,该数据处理方法包括通过多层耦合码将原始数据划分为若干个数据块和校验块,并将各个数据块和各个校验块均划分为若干个子块后进行编码,得到每一子块的原始编码;获取格雷码序列,按格雷码序列及原始编码调整各个子块的排列顺序,按照调整后的排列顺序将各个子块写入对应的存储节点;当满足单块数据修复条件时,通过多层耦合码确定故障块,从存储节点中读取故障块对应的待访问子块,通过待访问子块对故障块进行数据修复。本发明能够将对子块大量的随机访问转换为少量的顺序访问,从而减少修复访问数量,提高修复效率。

    一种面向云数据分析场景的水平数据分区方法和系统

    公开(公告)号:CN118585585A

    公开(公告)日:2024-09-03

    申请号:CN202410726943.6

    申请日:2024-06-06

    Abstract: 本发明公开了一种面向云数据分析场景的水平数据分区方法,其自适应识别历史查询负载在各属性的热点查询区间、具有局部性的查询模式和离群查询区间,由此对历史查询负载灵活泛化,兼顾未来查询负载与历史查询负载的相似性和差异性;设计了基于概率的成本模型,准确地评估泛化查询负载的开销,并考虑了数据属性间的相关性,以更精确地量化分区动作的收益,从而优化分区决策;设计了基于概率成本模型的两阶段水平分区方法,首先使用轴垂直超平面切割,使得分区方案尽可能细粒度地对齐泛化查询负载,保证数据跳过效率;针对轴垂直超平面切割面对倾斜数据失效的问题,设计了排序二分切割作为补充,增强分区方法鲁棒性的同时,进一步提升数据跳过效率。

    一种数据迁移方法、装置及电子设备和存储介质

    公开(公告)号:CN115826885B

    公开(公告)日:2023-05-09

    申请号:CN202310140582.2

    申请日:2023-02-21

    Inventor: 李雪生 张凯 孙斌

    Abstract: 本申请公开了一种数据迁移方法、装置及电子设备和存储介质,涉及存储技术领域,该方法包括:接收用户态的应用程序发送的数据传输请求;将所述数据传输请求对应的读写数据划分为多个数据子段;利用多个数据迁移线程并行对多个所述数据子段在所述用户态的应用程序和内核态的缓存之间进行数据迁移;其中,所述数据迁移线程与所述数据子段一一对应。本申请提高了用户态和内核态之间的数据迁移效率。

    一种数据迁移方法、装置及电子设备和存储介质

    公开(公告)号:CN115826885A

    公开(公告)日:2023-03-21

    申请号:CN202310140582.2

    申请日:2023-02-21

    Inventor: 李雪生 张凯 孙斌

    Abstract: 本申请公开了一种数据迁移方法、装置及电子设备和存储介质,涉及存储技术领域,该方法包括:接收用户态的应用程序发送的数据传输请求;将所述数据传输请求对应的读写数据划分为多个数据子段;利用多个数据迁移线程并行对多个所述数据子段在所述用户态的应用程序和内核态的缓存之间进行数据迁移;其中,所述数据迁移线程与所述数据子段一一对应。本申请提高了用户态和内核态之间的数据迁移效率。

    放置组成员选择方法、装置、设备及可读存储介质

    公开(公告)号:CN115202589A

    公开(公告)日:2022-10-18

    申请号:CN202211112880.2

    申请日:2022-09-14

    Abstract: 本申请公开了计算机技术领域内的一种放置组成员选择方法、装置、设备及可读存储介质。本申请先确定作为基准的第一放置组的各成员所在的目标节点,若第一放置组的成员个数不小于要选择成员的第二放置组的成员个数,则在目标节点中选择N个节点,在N个节点中的每个节点中选择一个磁盘得到第二放置组的N个成员,那么第二放置组的各成员所在节点与目标节点重合,后续可方便使第一放置组和第二放置组的主成员在同一节点上,那么这两个放置组的数据转发就能够在同一节点上完成,而不用经过网络,由此可提高相互对应的放置组的数据转发效率。本申请提供的一种放置组成员选择装置、设备及可读存储介质,也同样具有上述技术效果。

    一种通信方法及相关组件

    公开(公告)号:CN114710515A

    公开(公告)日:2022-07-05

    申请号:CN202210627358.1

    申请日:2022-06-06

    Inventor: 张凯 李杰 张在贵

    Abstract: 本申请公开了一种通信方法及相关组件,应用于通信领域。该方案中,首先建立了两个网络栈,然后对客户端与每个服务器节点之间及任意两个服务器节点的进程之间的全部连接关系进行划分,得到两种连接关系。其中,两种连接关系是分别基于两个网络栈构建的,且两种连接关系中的一个的个数与QP的数量相关。因此,相比于现有技术中的方案而言,本申请通过使用两个网络栈实现客户端与每个服务器节点之间及任意两个服务器节点的进程之间的通信,对于整个分布式存储系统而言,可以在一定程度上减少QP的数量,进而可以提高分布式存储系统的性能及通信效率。

    一种SSD的管理方法、系统、服务器、装置及存储介质

    公开(公告)号:CN115904257A

    公开(公告)日:2023-04-04

    申请号:CN202310159782.2

    申请日:2023-02-24

    Abstract: 本发明公开了一种SSD的管理方法、系统、服务器、装置及存储介质,应用于存储领域,获取SSD中的block的信息;根据信息确定block的数据水位,数据水位为block中的有效数据占存储空间的比例;在数据水位小于第一阈值时,根据磨损情况确定待回收的block;将待回收的block中的有效数据保存至预设的存储空间;基于所述SSD的存储空间将读写指令或有效数据及读写指令合并为新的读写指令发送至SSD。根据block的信息确定待回收的block,基于存储空间进行数据迁移,将迁移的有效数据与读写指令合并发送至SSD,数据回收不影响对SSD的读写,避免造成用户请求的性能波动和延时波动。

Patent Agency Ranking