-
公开(公告)号:CN105468298A
公开(公告)日:2016-04-06
申请号:CN201510802190.3
申请日:2015-11-19
Applicant: 中国科学院信息工程研究所
IPC: G06F3/06
CPC classification number: G06F3/0613 , G06F3/0643 , G06F3/0676
Abstract: 本发明公开了一种基于日志结构合并树的键值存储方法。本方法为:1)为每一数据存储组件在内存中设置一缓存组件,并对每一缓存组件设置一布隆过滤器;为每个SSTable的每一数据块设置一布隆过滤器;2)对于待合并的数据存储组件Ci,采用布隆过滤器逐级对Ci当前数据块的每一键值对进行跳转判断:若跳跃至Ci+M,则Ci+M及其之前各级组件中没有对应键任何版本的键值对,而Bi+M+1中包含对应版本的键值对;然后将该键值对置于Bi+M中;若跳跃至Bi+N,则Bi+N及其之前各级组件中没有对应键任何版本的键值对,而Ci+N中包含对应版本的键值对;3)对于Bi中待合并的键值对采用相似方法进行处理。
-
公开(公告)号:CN105302487A
公开(公告)日:2016-02-03
申请号:CN201510684785.3
申请日:2015-10-20
Applicant: 中国科学院信息工程研究所
Abstract: 本发明公开了一种基于流量控制的树状存储结构写放大优化方法。本方法:1)在存储系统中设置一流量监听器;其中,该存储系统的磁盘空间和内存空间采用树状存储结构进行数据存储;2)该流量监听器根据磁盘空间的每一待监控组件的当前数据量,判断所述磁盘空间是否需要进行流量控制;如果需要控制,则选取若干待监控组件的当前数据量计算一流量控制力度;3)该流量监听器根据该流量监控力度计算一延长时间,然后根据该延长时间延长写请求的到达时间间隔。本发明能够有效降低写放大,提升LSM-Tree的整体性能;使用本发明提供的方式优化LSM-Tree,可以将LSM-Tree的整体写吞吐量提升30%以上。
-
公开(公告)号:CN105487820B
公开(公告)日:2018-11-16
申请号:CN201510859463.8
申请日:2015-11-30
Applicant: 中国科学院信息工程研究所
IPC: G06F3/06
Abstract: 本发明公开了一种基于时间片轮转机制的树状存储结构写放大优化方法。本方法为:1)选取磁盘空间中一待合并的组件,赋予其占用时间片的权限;其中,磁盘空间为多组件的树状存储结构;2)根据所选组件当前数据量的大小,动态调整时间片的阈值大小;3)所选组件在占用时间片的过程中连续进行若干次合并操作。本发明对拥有时间片的组件具有最高的合并选择优先级,不能进行合并操作的组件将自动放弃时间片,避免不必要的长期占用,导致系统资源空闲,可以将LSM‑Tree的整体写吞吐量提升40%以上。
-
公开(公告)号:CN105677255B
公开(公告)日:2018-10-30
申请号:CN201610011762.0
申请日:2016-01-08
Applicant: 中国科学院信息工程研究所
Abstract: 本发明涉及一种磁盘阵列日志数据旋转分布和同步方法,其步骤包括:1)将磁盘分为若干主磁盘以及对应的若干镜像磁盘,仅将某一个镜像磁盘作为值日日志磁盘,其处于活动状态,其他镜像磁盘处于待机状态;2)将写请求的数据同时写到主磁盘与值日日志磁盘,当值日日志磁盘的剩余可用空间小于预定义的阈值时,将下一个镜像磁盘作为值日日志磁盘,该下一个镜像磁盘从待机状态切换到活动状态。进一步可对上一次值日日志磁盘中与其对应主磁盘中不一致的数据进行同步操作,并将旧的日志空间回收,形成无限循环的逻辑日志空间资源池。本发明以牺牲一小部分能耗为代价,利用分散式延迟同步方法,能够有效提高系统的整体性能。
-
公开(公告)号:CN105302487B
公开(公告)日:2018-05-22
申请号:CN201510684785.3
申请日:2015-10-20
Applicant: 中国科学院信息工程研究所
Abstract: 本发明公开了一种基于流量控制的树状存储结构写放大优化方法。本方法:1)在存储系统中设置一流量监听器;其中,该存储系统的磁盘空间和内存空间采用树状存储结构进行数据存储;2)该流量监听器根据磁盘空间的每一待监控组件的当前数据量,判断所述磁盘空间是否需要进行流量控制;如果需要控制,则选取若干待监控组件的当前数据量计算一流量控制力度;3)该流量监听器根据该流量监控力度计算一延长时间,然后根据该延长时间延长写请求的到达时间间隔。本发明能够有效降低写放大,提升LSM‑Tree的整体性能;使用本发明提供的方式优化LSM‑Tree,可以将LSM‑Tree的整体写吞吐量提升30%以上。
-
公开(公告)号:CN105487820A
公开(公告)日:2016-04-13
申请号:CN201510859463.8
申请日:2015-11-30
Applicant: 中国科学院信息工程研究所
IPC: G06F3/06
CPC classification number: G06F3/0634 , G06F3/0608 , G06F3/0613
Abstract: 本发明公开了一种基于时间片轮转机制的树状存储结构写放大优化方法。本方法为:1)选取磁盘空间中一待合并的组件,赋予其占用时间片的权限;其中,磁盘空间为多组件的树状存储结构;2)根据所选组件当前数据量的大小,动态调整时间片的阈值大小;3)所选组件在占用时间片的过程中连续进行若干次合并操作。本发明对拥有时间片的组件具有最高的合并选择优先级,不能进行合并操作的组件将自动放弃时间片,避免不必要的长期占用,导致系统资源空闲,可以将LSM-Tree的整体写吞吐量提升40%以上。
-
公开(公告)号:CN105468298B
公开(公告)日:2018-11-13
申请号:CN201510802190.3
申请日:2015-11-19
Applicant: 中国科学院信息工程研究所
IPC: G06F3/06
Abstract: 本发明公开了一种基于日志结构合并树的键值存储方法。本方法为:1)为每一数据存储组件在内存中设置一缓存组件,并对每一缓存组件设置一布隆过滤器;为每个SSTable的每一数据块设置一布隆过滤器;2)对于待合并的数据存储组件Ci,采用布隆过滤器逐级对Ci当前数据块的每一键值对进行跳转判断:若跳跃至Ci+M,则Ci+M及其之前各级组件中没有对应键任何版本的键值对,而Bi+M+1中包含对应版本的键值对;然后将该键值对置于Bi+M中;若跳跃至Bi+N,则Bi+N及其之前各级组件中没有对应键任何版本的键值对,而Ci+N中包含对应版本的键值对;3)对于Bi中待合并的键值对采用相似方法进行处理。
-
公开(公告)号:CN105677255A
公开(公告)日:2016-06-15
申请号:CN201610011762.0
申请日:2016-01-08
Applicant: 中国科学院信息工程研究所
CPC classification number: G06F3/061 , G06F3/0655 , G06F3/0689 , G06F11/1461 , G06F11/1464
Abstract: 本发明涉及一种磁盘阵列日志数据旋转分布和同步方法,其步骤包括:1)将磁盘分为若干主磁盘以及对应的若干镜像磁盘,仅将某一个镜像磁盘作为值日日志磁盘,其处于活动状态,其他镜像磁盘处于待机状态;2)将写请求的数据同时写到主磁盘与值日日志磁盘,当值日日志磁盘的剩余可用空间小于预定义的阈值时,将下一个镜像磁盘作为值日日志磁盘,该下一个镜像磁盘从待机状态切换到活动状态。进一步可对上一次值日日志磁盘中与其对应主磁盘中不一致的数据进行同步操作,并将旧的日志空间回收,形成无限循环的逻辑日志空间资源池。本发明以牺牲一小部分能耗为代价,利用分散式延迟同步方法,能够有效提高系统的整体性能。
-
-
-
-
-
-
-