-
公开(公告)号:CN105610921A
公开(公告)日:2016-05-25
申请号:CN201510979326.8
申请日:2015-12-23
Applicant: 华中科技大学
IPC: H04L29/08
Abstract: 本发明公开了一种集群下基于数据缓存的纠删码归档方法,包括以下步骤:(1)根据用户访问请求,将所需数据分块从其所在生产节点读取到节点缓冲区,并将数据分块发送给访问节点,同时根据归档数据状态表将其转发给归档节点;(2)归档节点根据接收到的数据分块,更新每个数据节点的数据分块个数;判断归档节点是否接收到当前条带的全部数据分块,若是,则将当前条带进行归档;若否,则从生产集群读取冷数据块,将条带凑齐之后进行归档;本发明提供的这种纠删码归档方法,由于采用了用户访问缓存的数据分块,相比于普通纠删码归档方法,可大幅度减少归档节点从生产集群中读取数据分块的次数,可以在不影响用户访问的情况下进行纠删码归档操作,提高归档效率。
-
公开(公告)号:CN104391759A
公开(公告)日:2015-03-04
申请号:CN201410631962.7
申请日:2014-11-11
Applicant: 华中科技大学
IPC: G06F11/14
Abstract: 本发明公开了一种纠删码存储中负载感知的数据归档方法,包括步骤:获取纠删码存储集群中生产集群的每个节点的负载权重值,并将负载权重值存储在数组中,并根据节点负载权重值来确定不同条带在生产集群中的归档节点集合。对第i个条带,初始化其归档节点集合为空,从第i个条带的数据分布集合中选择负载权重值最高的节点,并判断该节点的负载权重值是否大于该节点的数据块个数,如果为是,则将该节点对应的数据块填充在该条带的归档节点集合中,并更新所涉及节点的负载权重值;如果为否,则选择该条带数据分布集合中负载权值第二高的节点。本发明解决了现有方法中编码节点不考虑节点权值,仅从固定节点获取条带上所有数据块而导致的性能瓶颈问题。
-
公开(公告)号:CN105610921B
公开(公告)日:2018-09-07
申请号:CN201510979326.8
申请日:2015-12-23
Applicant: 华中科技大学
IPC: H04L29/08
Abstract: 本发明公开了一种集群下基于数据缓存的纠删码归档方法,包括以下步骤:(1)根据用户访问请求,将所需数据分块从其所在生产节点读取到节点缓冲区,并将数据分块发送给访问节点,同时根据归档数据状态表将其转发给归档节点;(2)归档节点根据接收到的数据分块,更新每个数据节点的数据分块个数;判断归档节点是否接收到当前条带的全部数据分块,若是,则将当前条带进行归档;若否,则从生产集群读取冷数据块,将条带凑齐之后进行归档;本发明提供的这种纠删码归档方法,由于采用了用户访问缓存的数据分块,相比于普通纠删码归档方法,可大幅度减少归档节点从生产集群中读取数据分块的次数,可以在不影响用户访问的情况下进行纠删码归档操作,提高归档效率。
-
公开(公告)号:CN104391759B
公开(公告)日:2017-06-13
申请号:CN201410631962.7
申请日:2014-11-11
Applicant: 华中科技大学
IPC: G06F11/14
Abstract: 本发明公开了一种纠删码存储中负载感知的数据归档方法,包括步骤:获取纠删码存储集群中生产集群的每个节点的负载权重值,并将负载权重值存储在数组中,并根据节点负载权重值来确定不同条带在生产集群中的归档节点集合。对第i个条带,初始化其归档节点集合为空,从第i个条带的数据分布集合中选择负载权重值最高的节点,并判断该节点的负载权重值是否大于该节点的数据块个数,如果为是,则将该节点对应的数据块填充在该条带的归档节点集合中,并更新所涉及节点的负载权重值;如果为否,则选择该条带数据分布集合中负载权值第二高的节点。本发明解决了现有方法中编码节点不考虑节点权值,仅从固定节点获取条带上所有数据块而导致的性能瓶颈问题。
-
公开(公告)号:CN103645861B
公开(公告)日:2016-04-13
申请号:CN201310651547.3
申请日:2013-12-03
Applicant: 华中科技大学
Abstract: 本发明公开了一种纠删码存储集群中失效节点的重构方法,包括:1)有节点失效时,根据节点的负载和网络带宽,初始化所有存活节点的权重值;2)选取权重值最大的K个存活节点,作为恢复该失效节点中的数据块读取分布,其中K为存储集群中数据节点的数目;3)将上述K个存活节点的权重值分别减1;4)判断权值大于0的节点数量是否小于K,若是则转到步骤5),若否则转到步骤2);5)根据所有数据块读取分布,解码出失效节点上对应偏移地址的数据块中的数据。本发明根据权重值选择重构失效节点的数据节点,减少了负载不均衡时的响应时间;同时降低了纠删码存储集群中各个节点因频繁的超负载而崩溃的概率,提高整个纠删码存储集群的可靠性。
-
公开(公告)号:CN103645861A
公开(公告)日:2014-03-19
申请号:CN201310651547.3
申请日:2013-12-03
Applicant: 华中科技大学
Abstract: 本发明公开了一种纠删码存储集群中失效节点的重构方法,包括:1)有节点失效时,根据节点的负载和网络带宽,初始化所有存活节点的权重值;2)选取权重值最大的K个存活节点,作为恢复该失效节点中的数据块读取分布,其中K为存储集群中数据节点的数目;3)将上述K个存活节点的权重值分别减1;4)判断权值大于0的节点数量是否小于K,若是则转到步骤5),若否则转到步骤2);5)根据所有数据块读取分布,解码出失效节点上对应偏移地址的数据块中的数据。本发明根据权重值选择重构失效节点的数据节点,减少了负载不均衡时的响应时间;同时降低了纠删码存储集群中各个节点因频繁的超负载而崩溃的概率,提高整个纠删码存储集群的可靠性。
-
-
-
-
-