-
公开(公告)号:CN111444036B
公开(公告)日:2021-04-20
申请号:CN202010196333.1
申请日:2020-03-19
Applicant: 华中科技大学
IPC: G06F11/10
Abstract: 本发明公开了一种数据关联性感知的纠删码内存替换方法、设备及内存系统,属于计算机存储领域,包括:(1)按照读请求的顺序将数据分块加载进内存,并以副本方式存放;(2)若已执行的读请求数量number达到阈值K2,则进行垃圾回收,之后转入步骤(4);否则,转入步骤(3);(3)若number达到阈值K1,则进行纠删码归档,使相关联的数据分块位于同一个条带中,之后转入步骤(4);否则,直接转入步骤(4);(4)若用户请求已经执行完毕,则操作结束;否则,获取下一条未执行的读请求作为当前读请求,并转入步骤(1)。本发明通过增大同一条带中的数据分块被同时淘汰的概率,能够减少归档后由于替换而造成的更新开销,降低用户访问延迟。
-
公开(公告)号:CN109960588B
公开(公告)日:2020-12-08
申请号:CN201910213623.X
申请日:2019-03-20
Applicant: 华中科技大学
IPC: G06F9/50
Abstract: 本发明公开了一种针对异构内存集群的读请求调度方法及系统,属于计算机系统结构领域,方法包括:(1)根据应用需求确定读请求的调度策略;(2)根据所确定的调度策略估计待调度的读请求序列中各读请求的访问代价,并确定各读请求所对应的目标物理分块序列;(3)根据所估计的访问代价,按照访问代价从小到大的顺序对读请求序列中的读请求进行排序,以完成对异构内存集群的读请求调度;其中,目标物理分块序列包括一个或多个存储于内存或者磁盘中的物理分块。对应地,系统包括:调度策略选择模块、访问代价估计模块以及调度模块,分别用于执行方法各步骤。本发明能够更好地满足各类应用需求,提高异构内存集群I/O调度的整体性能。
-
公开(公告)号:CN111444036A
公开(公告)日:2020-07-24
申请号:CN202010196333.1
申请日:2020-03-19
Applicant: 华中科技大学
IPC: G06F11/10
Abstract: 本发明公开了一种数据关联性感知的纠删码内存替换方法、设备及内存系统,属于计算机存储领域,包括:(1)按照读请求的顺序将数据分块加载进内存,并以副本方式存放;(2)若已执行的读请求数量number达到阈值K2,则进行垃圾回收,之后转入步骤(4);否则,转入步骤(3);(3)若number达到阈值K1,则进行纠删码归档,使相关联的数据分块位于同一个条带中,之后转入步骤(4);否则,直接转入步骤(4);(4)若用户请求已经执行完毕,则操作结束;否则,获取下一条未执行的读请求作为当前读请求,并转入步骤(1)。本发明通过增大同一条带中的数据分块被同时淘汰的概率,能够减少归档后由于替换而造成的更新开销,降低用户访问延迟。
-
公开(公告)号:CN108073472B
公开(公告)日:2020-05-19
申请号:CN201711318689.2
申请日:2017-12-12
Applicant: 华中科技大学
Abstract: 本发明公开了一种基于热度感知的内存纠删码分布方法,属于计算机存储技术领域。本发明方法根据数据分块访问频次的变化,定期执行下述步骤,首先对内存中的数据分块进行热度等级的划分,访问频次越高的数据分块热度等级越高;其次,对热度等级由低变高的数据分块进行副本备份,提高访问的并行性;之后,针对热度等级由高变低的数据分块进行副本删除或者替换,节约内存空间,提高利用率。本发明方法利用访问频度感知策略,动态调整内存数据分块,对低访问频度数据采用纠删码存储方案,对高访问频度数据采用副本方案,兼顾系统的内存利用率和访问并发性,优化系统的负载均衡。
-
公开(公告)号:CN110825733A
公开(公告)日:2020-02-21
申请号:CN201910951134.4
申请日:2019-10-08
Applicant: 华中科技大学
IPC: G06F16/22 , G06F16/2458
Abstract: 本发明公开了一种面向多采样流的时间序列数据管理方法及系统,属于数据存储领域,包括:将传感器采集到的数据点组织为数据元组后,按时间顺序插入到对应的相关流单表中;当相关流单表中的数据达到第一阈值后,按照时间范围将其中的数据划分为不同的子表,并将子表的索引信息插入到对应的时间分区弹性索引中;将子表的地址插入到时间合并树中,以使得其叶子节点索引所有传感器在相同时间范围内产生的子表;定期检查时间合并树最左端的叶子节点,若已索引到所有传感器的子表,或者长时间持续未接收到新数据,则将该叶子节点索引的所有子表通过一次写操作写入存储介质中,并回收该叶子节点。本发明能够提高多采样流时间序列数据的管理效率。
-
公开(公告)号:CN105824578B
公开(公告)日:2018-11-30
申请号:CN201610139298.3
申请日:2016-03-11
Applicant: 华中科技大学
Abstract: 本发明公开了一种减少RAID‑6解码I/O数据量的方程选择方法:一次只选择一个校验方程,而且遵循每次都选择具有最多可重用块的校验方程的原则,直到选定的校验方程数量与条带中丢失的数据块数量一致为止;为了快速选出可重用块数量最多的校验方程,维持一个按可重用块数量排序的校验方程序列,每次从序列顺序选择校验方程。使用本发明方法选择校验方程子集用于解码时,解码I/O的数据量要少于传统解码方法使用的数据量,这有助于减少解码时从磁盘读取数据的时间,从而提高解码性能。
-
公开(公告)号:CN106951340A
公开(公告)日:2017-07-14
申请号:CN201710149372.4
申请日:2017-03-14
Applicant: 华中科技大学
CPC classification number: G06F11/085 , G06F3/0604 , G06F3/064 , G06F3/0689
Abstract: 本发明公开了一种基于局部性优先的RS纠删码数据布局方法及系统,本发明方法在每轮构建条带时,由包含待选分块最多的节点依次提供待选分块构建条带所需的数据分块,并将计算所得校验分块分开迁移至未提供待选分块的节点,若计算校验分块的待选分块数量不够时,则依次从包含待选分块最多的节点中迁移一个待选分块到本轮不包含待选分块的节点中,其中所述待选分块为还未参与构建条带的数据分块。本发明还实现了一种基于局部性优先的RS纠删码数据布局系统。采用本发明技术方案能够实现构建条带的过程中节点之间的网络传输量最少,除此之外还能实现同一条带的数据分块和校验分块均匀分布在集群的每个节点中,因此可提升集群系统的整体性能。
-
公开(公告)号:CN104484126B
公开(公告)日:2017-06-13
申请号:CN201410640456.4
申请日:2014-11-13
Applicant: 华中科技大学
IPC: G06F3/06
Abstract: 本发明公开了一种基于纠删码的数据安全删除方法,包括:将源数据均分为k个相同大小的数据块,标识为D0、D1、…、Dk‑1,选择一个随机数或伪随机数nonce,使用密钥Key对其进行加密,以得到一个与数据块D0相同大小的块,利用得到的块对D0、D1、…、Dk‑1进行按位异或,以得到新的数据块C0、C1、…、Ck‑1,将随机数或伪随机数nonce均分为k份,并将其分别附加到数据块C0、C1、…、Ck‑1末尾,以得到数据块C0’、C1’、…、Ck‑1’,采用系统纠删码算法对k个数据块C0’、C1’、…、Ck‑1’进行编码计算,以得到r个校验块P0、P1、…、Pr‑1。本发明能够解决现有方法中由于重复覆盖写引起的高写开销和对磁盘造成的损伤,以及采用数据副本方式以增强数据可用性时增加覆盖写开销的技术问题。
-
公开(公告)号:CN106021034A
公开(公告)日:2016-10-12
申请号:CN201610307007.7
申请日:2016-05-11
Applicant: 华中科技大学
IPC: G06F11/20
CPC classification number: G06F11/2089
Abstract: 本发明公开了一种容多个设备和扇区错的编码的优化方法,包括:获取用户输入的编码单元的系统参数,根据用户输入的编码单元的系统参数创建一个标记数组a[r],该标记数组的每一个元素对应于编码单元的一行,对于编码单元中只有磁盘失效的行进行解码,对于编码单元中既有磁盘失效也有扇区失效的行进行解码。本发明能够解决现有方法中存在的SD编码的编解码速度较低的技术问题。
-
公开(公告)号:CN103927231B
公开(公告)日:2016-10-05
申请号:CN201410124657.9
申请日:2014-03-31
Applicant: 华中科技大学
IPC: G06F9/50
Abstract: 本发明公开了一种面向数据处理的能耗优化数据集分配方法,包括:把待分配数据集按照IOPS属性值从大到小依次排序形成待分配数据集队列,数据中心服务器也按照IOPS能力从大到小依次排序构成待分配服务器队列;同时创建已分配服务器队列和各个数据中心服务器的已分配数据集队列,从上述待分配数据集队列头部取出第一个待分配数据集,同时判断已分配服务器队列是否为空,若已分配服务器队列为空,则从待分配服务器队列头部选取第一台服务器作为当前数据中心服务器。本方法使得IOPS需求大的热点数据集得以集中分配在数据中心服务器上,避免了处理大规模数据过程中虚拟机的放置和迁移问题,达到了全面优化数据中心能耗值、平衡服务器负载的目的。
-
-
-
-
-
-
-
-
-