-
公开(公告)号:CN112817540B
公开(公告)日:2022-11-04
申请号:CN202110203507.7
申请日:2021-02-23
Applicant: 上海交通大学
IPC: G06F3/06
Abstract: 本申请公开了一种基于磁盘阵列扩展的数据块重分布方法及装置,该方法包括:获取原始磁盘阵列中各磁盘之间的当前IO访问量;调用神经网络预测模型对所述原始磁盘阵列中每个磁盘的当前IO访问量进行预测,得到每个磁盘对应的预测IO访问量;根据所述预测IO访问量,确定所述原始磁盘阵列中的热访问磁盘;从所述热访问磁盘中选取当前IO访问量超过所述热访问磁盘对应的平均访问量的数据块,作为热访问数据块;按照预设的迁移规则,将所述热访问数据块迁移重写入扩展磁盘阵列的新增磁盘中。通过实施本申请,能够解决现有技术中存在的无法实现IO访问的整体平衡等问题。
-
公开(公告)号:CN112799872B
公开(公告)日:2022-08-12
申请号:CN202110191784.0
申请日:2021-02-19
Applicant: 上海交通大学
Abstract: 本申请公开了一种基于键值对存储系统的纠删码编码方法及装置,该方法包括:获取键值对存储系统中关键字之间的关联关系;根据所述关键字之间的关联关系,从所述键值对存储系统中获取对应的具有强关联性或强时间局限性的至少两个目标数据;将至少两个所述目标数据分到同一编码组中进行编码,得到对应的数据块和校验块;采用负载均衡将得到的所述数据块和所述校验块写入对应的存储节点中。通过实施本申请,能将传统纠删码技术与新型键值对存储系统进行结合设计,同时结合考虑键值对存储系统中的数据间关系,以减少数据访问的次数和时间,提升数据恢复效率。
-
公开(公告)号:CN112783688B
公开(公告)日:2022-06-03
申请号:CN202110184248.8
申请日:2021-02-10
Applicant: 上海交通大学
IPC: G06F11/10
Abstract: 本申请公开了一种基于可用分区级的纠删码数据恢复方法及装置,该方法包括:获取数据恢复请求;响应所述数据恢复请求,在数据恢复过程中若发生节点故障,则确定节点故障类型;根据所述节点故障类型,选择对应的目标恢复策略;根据所述目标恢复策略,恢复所述节点故障对应的节点数据,并实现所述第一节点的丢失数据块的恢复。通过实施本申请,能有效解决数据恢复过程中出现的节点故障问题,减少数据恢复所占的带宽、减少网络延迟,还能加快数据恢复效率,提升数据恢复性能。
-
公开(公告)号:CN112783688A
公开(公告)日:2021-05-11
申请号:CN202110184248.8
申请日:2021-02-10
Applicant: 上海交通大学
IPC: G06F11/10
Abstract: 本申请公开了一种基于可用分区级的纠删码数据恢复方法及装置,该方法包括:获取数据恢复请求;响应所述数据恢复请求,在数据恢复过程中若发生节点故障,则确定节点故障类型;根据所述节点故障类型,选择对应的目标恢复策略;根据所述目标恢复策略,恢复所述节点故障对应的节点数据,并实现所述第一节点的丢失数据块的恢复。通过实施本申请,能有效解决数据恢复过程中出现的节点故障问题,减少数据恢复所占的带宽、减少网络延迟,还能加快数据恢复效率,提升数据恢复性能。
-
公开(公告)号:CN112783661A
公开(公告)日:2021-05-11
申请号:CN202110184307.1
申请日:2021-02-08
Applicant: 上海交通大学
IPC: G06F9/50
Abstract: 本申请公开了一种适用于容器环境下的内存重删方法及装置,该方法包括:获取内存中的所有匿名物理页面;对所有所述匿名物理页面进行轻量级的聚类和维护处理得到等待队列;采用分层采样从所述等待队列中获取至少一个待处理页面;将至少一个所述待处理页面进行比较,确定可归并页面;对所述可归并页面进行归并,并释放所述可归并页面所占的内存空间。通过实施本申请,能够减少页面扫描开销、提升页面归并效率。
-
公开(公告)号:CN106293525B
公开(公告)日:2019-06-28
申请号:CN201610637529.3
申请日:2016-08-05
Applicant: 上海交通大学
IPC: G06F3/06
Abstract: 本发明公开了一种提高缓存使用效率的方法及系统,该方法包括:给定一个数值作为分块长度的大小;读取写入的数据流,每读到一个分块长度大小的数据,将其截断,做成一个数据块;计算获得每个数据块的指纹;检查数据块的指纹,当指纹符合某一个指定的特征时,把该数据块作为索引块,对于每一个索引块,检查内存中是否已经存在与其指纹完全相同的数据块,若不存在,将其指纹保存在内存中,赋予其初始热度,并建立一个其所属的容器,若已存在,则增加其热度,而减小其他不相同的数据块的热度,通过本发明,能够用较少的内存尽可能多地节约磁盘空间,减少数据的冗余。
-
-
公开(公告)号:CN107957848A
公开(公告)日:2018-04-24
申请号:CN201610898862.X
申请日:2016-10-14
Applicant: 上海交通大学 , 腾讯科技(深圳)有限公司
IPC: G06F3/06
Abstract: 本发明公开了一种重删处理方法及存储设备,属于存储技术领域。方法应用于存储设备中,所述存储设备包括多个存储器,每个存储器包括至少一个物理块,所述方法包括:获取至少一个存储器的参数信息,所述存储器的参数信息至少包括所述存储器中至少一个物理块的权值和所述存储器的空间占用率中的至少一项,所述物理块的权值用于指示所述物理块的下一个写入时间点;根据所述至少一个存储器的参数信息,计算所述至少一个存储器的重删权值;从所述至少一个存储器中选取重删权值最大的存储器,对选取的存储器中的物理块进行重删处理。本发明选取存储器的过程不需要对样本物理块进行重删处理,简化了选取过程,节省了选取时间,提高了重删处理的效率。
-
公开(公告)号:CN104866244B
公开(公告)日:2018-03-06
申请号:CN201510291854.4
申请日:2015-05-31
Applicant: 上海交通大学
IPC: G06F3/06
Abstract: 本发明提供了一种平衡条带写的RAID‑6 I/O调度方法,通过分析写请求的输入输出分布,重组这些请求,从而通过校验共享,将相应校验的修改数量最小化,将输入输出碎片和到来的相同条带中的写请求被聚合成一个新的写请求,并将新的写请求一次性写入磁盘,标记下在重组过程中生成的非法数据块,将非法数据块记录到内存中,将所述非法数据块进行垃圾回收,保存非法数据块的元数据信息用于准备重新分配,可以减少写操作并均衡RAID存储系统中的磁盘负载,本发明基本思想是在对相应校验有全局了解的基础上进行条带写,通过重组数据块的分布,来减少条带写所需修改校验数量。
-
公开(公告)号:CN106407226A
公开(公告)日:2017-02-15
申请号:CN201510468057.9
申请日:2015-07-31
Abstract: 本发明公开了一种数据处理方法、备份服务器及存储系统,用于解决因指纹比对消耗大量I/O资源导致数据存储的效率较低的问题。该数据处理方法包括:根据指纹索引表中的索引指纹以及待存储数据块的指纹确定第一指纹集合;根据所述第一索引指纹获得第一指纹表中包含有与所述待存储数据块的指纹相同的指纹的第一概率,并根据所述第二索引指纹获得所述第二指纹表中包含有与所述待存储数据块的指纹相同的指纹的第二概率;根据所述第一概率和第二概率确定第二指纹集合;获得所述第一索引指纹所代表的多个指纹与所述待存储数据块的指纹的匹配结果。
-
-
-
-
-
-
-
-
-