基于日志结构的持久性内存存储引擎装置及控制方法

    公开(公告)号:CN110377531A

    公开(公告)日:2019-10-25

    申请号:CN201910656133.7

    申请日:2019-07-19

    Applicant: 清华大学

    Abstract: 本发明提供一种基于日志结构的持久性内存存储引擎装置和控制方法,包括持久性内存分配器、持久性操作日志和易失性索引结构;所述基于日志结构的存储引擎控制方法包括:所述持久性内存分配器为每个处理器分配新空间用于存储更新后的键值对;将获取的操作信息组织为紧凑的日志项,通过第一预设规则追加到所述持久性操作日志中;在所述易失性索引结构中更新索引项,以指向新的键值对,本申请通过重新设计日志结构存储格式和批量持久化方式,来充分发掘降低持久化开销的机会,设计高效的基于日志结构的持久性内存键值存储引擎,在降低延迟的同时保证系统的高吞吐率。

    主机与设备协同工作的闪存转换层构建方法及装置

    公开(公告)号:CN110309077A

    公开(公告)日:2019-10-08

    申请号:CN201910580066.5

    申请日:2019-06-28

    Applicant: 清华大学

    Abstract: 本发明公开了一种主机与设备协同工作的闪存转换层构建方法及装置,其中,方法包括:通过CMB使主机和设备共享数据;记录逻辑地址到物理地址的映射关系和闪存块的闪存页信息;在垃圾回收时,将待回收闪存块地址、闪存页有效状态和逻辑地址、有效页迁移的目的地址组成的信息写入CMB,并向设备发送垃圾回收请求,从CMB读取信息,并迁移有效页数据至目的地址,擦除无效闪存块,将闪存信息表更新写入CMB,向主机报告垃圾回收完成信息,从CMB获取闪存信息表的更新数据,并修改主机的地址映射表和闪存信息表。该方法能够利用CMB和设备的计算资源,减少垃圾回收的主机与设备间的数据传输,优化少量持久化写操作,降低开销,提供更低更稳定的I/O延迟。

    本地与分布式协同设计的可靠闪存存储方法及系统

    公开(公告)号:CN109739777A

    公开(公告)日:2019-05-10

    申请号:CN201811587813.X

    申请日:2018-12-25

    Applicant: 清华大学

    Abstract: 本发明公开了一种本地与分布式协同设计的可靠闪存存储方法及系统,该方法包括:闪存设备连接到主机系统时闪存转换层将闪存可靠性信息发给主机,在闪存设备读取数据出错时,将出错数据信息发送给主机;主机对出错数据进行数据恢复,利用分布式容错机制,从远程副本或纠删码中获取正确数据帮助恢复出错数据,主机从先完成数据恢复的一方获取正确数据发送给分布式存储系统;分布式容错机制无法提供恢复出错数据需要的正确数据时,分布式存储系统从正确数据副本所在的闪存设备中的获取原始数据以恢复出错数据。该方法能综合管理分布式存储系统和本地闪存设备的可靠性机制,降低系统读操作延迟,提高闪存设备本地恢复数据的效率,增强存储系统可靠性。

    多线程持久性B+树数据结构设计与实现方法

    公开(公告)号:CN109407979A

    公开(公告)日:2019-03-01

    申请号:CN201811129623.3

    申请日:2018-09-27

    Applicant: 清华大学

    Abstract: 本发明公开了一种多线程持久性B+树数据结构设计与实现方法,方法包括:在预设的B+树中引入一层基于链式结构的影子叶节点;通过基于混合主存的数据布局策略将基于链表的叶节点存储在NVM中,以生成基于数组结构的树层,并且将索引数据结构的其他部分存储在DRAM中,以生成基于链表结构的链层,使得通过分层的易失性树结构和持久性链表结构的设计避免平衡和排序的持久化开销;设计嵌入式的细粒度锁机制和乐观写机制,以分别用于读写操作之间和写写操作之间的并发控制。该方法使用非易失性内存和易失性内存的混合主存数据结构,增加数据检索的并发性和实现数据持久存储,解决放大的锁开销问题,并加速数据结构的系统恢复过程。

    针对云存储系统中重复冗余数据的高效去重方法

    公开(公告)号:CN105487818B

    公开(公告)日:2018-11-09

    申请号:CN201510848801.8

    申请日:2015-11-27

    Applicant: 清华大学

    Abstract: 本发明提出一种针对云存储系统中重复冗余数据的高效去重方法,包括以下步骤:多个客户端接收用户的上传数据,以数据超块作为数据路由单位,并提取其中的路由特征指纹,用于数据路由选择;元数据服务器与数据服务器集群根据路由策略来处理客户端的数据路由选择请求,其中,数据服务器集群对路由特征指纹进行相似指纹匹配确定相似路由节点,元数据服务器根据负载均衡策略确定最终的数据路由地址;客户端与相应的数据服务器交互,接收到相似冗余数据的数据服务器对冗余数据进行高效快速去重。本发明的方法能够使云存储系统在保持高性能、大规模、高吞吐的系统特性的同时,达到高效的重复冗余数据去重效果,提升磁盘使用率,降低数据管理成本。

    基于NVRAM的高效文件系统构建方法

    公开(公告)号:CN105404673B

    公开(公告)日:2018-11-09

    申请号:CN201510808309.8

    申请日:2015-11-19

    Applicant: 清华大学

    Abstract: 本发明提出一种基于NVRAM的高效文件系统构建方法,包括以下步骤:S1:判断文件系统的文件操作的类型,其中,文件操作的类型包括:文件读操作、非持久文件写操作及持久文件写操作;S2:如果文件操作的类型为非持久文件写操作,则文件系统将非持久文件写操作的内容写入动态随机存取存储器DRAM,并更新相应的DRAM缓存块索引,并在预设时间点将非持久文件写操作的内容异步刷回至非易失性随机访问存储器NVRAM中,否则文件系统直接在NVRAM/DRAM和用户缓存之间拷贝相关数据。本发明的方法既能避免额外的拷贝和传统软件层的开销,又能充分利用DRAM的写性能高特性来提高NVRAM文件系统的写性能,从而提升系统的整体性能。

    基于裸闪存的对象存储构建方法及装置

    公开(公告)号:CN108509353A

    公开(公告)日:2018-09-07

    申请号:CN201810210410.7

    申请日:2018-03-14

    Applicant: 清华大学

    Abstract: 本发明提出了一种基于裸闪存的对象存储构建方法及装置,其中,方法包括:将闪存介质以裸闪存设备的形式接入主机端,在主机端构建软件驱动级的对象存储管理层;本地存储系统或分布式存储系统通过对象存储管理层提供的对象式访问接口,向对象存储管理层传递对象数据操作参数;对象存储管理层通过对象存储管理机制、闪存转换层功能和裸闪存访问管理机制,将存储系统的对象数据操作参数转化为对应的裸闪存读/写/擦除命令;将操作命令发送给裸闪存设备,完成对象数据操作。该方法能够减少传统基于闪存的对象存储架构的功能冗余,提供更低的对象数据访问延迟,并能够减少成本,带来良好的客户体验。

    一种分布式闪存事务处理方法

    公开(公告)号:CN105005535B

    公开(公告)日:2018-04-20

    申请号:CN201510435889.0

    申请日:2015-07-22

    Applicant: 清华大学

    Abstract: 本发明公开了一种分布式闪存事务处理方法,包括以下步骤:S1:进行事务两阶段提交,去除两阶段提交协议的状态日志记录,内化为事务接口中的闪存元数据操作,以协调者最后提交作为分布式事务结束标识;S2:事务进行过程中,数据临时对象存储为影子版本,使用影子映射表存储所述影子版本的地址或页在事务处理中的状态、页元数据记录事务信息、事务元数据页记录事务状态和事务状态表记录事务元数据页地址;S3:当协调者或参与者故障时,扫描部分存储,读取闪存元数据,恢复FTL映射表、影子映射表、事务状态表,从而确定事务在两阶段提交中的状态。本发明具有如下优点:减少日志,提高分布式闪存环境下事务处理效率。

    存储设备的写入方法及写入装置

    公开(公告)号:CN104658608B

    公开(公告)日:2018-03-06

    申请号:CN201310597968.2

    申请日:2013-11-22

    Abstract: 本发明实施例提供了一种存储设备的写入方法及写入装置,该写入方法包括:获取需要写入的n个数值;确定与其对应的n个比特位,以及n个比特位包含的固定型故障的信息;将n个比特位分成B组比特位,以使得满足分组条件,并且使得当将n个比特位表示为B行A列的二维数组时,属于同一个组的任何两个比特位所在的行和列均不同或所在的行相同;根据B组比特位中的每一组比特位包含的固定型故障的信息和与之对应的需要写入的数值,将n个数值对应写入。本发明实施例通过调整同一组中相邻两个比特位的间隔,确定分组,并根据每一组包含的固定型故障的信息,将需要写入的n个数值对应写入,能够有效地防止阻抗性存储设备中的固定型故障导致的写入错误。

    持久性内存事务处理缓存管理方法与装置

    公开(公告)号:CN104881371B

    公开(公告)日:2018-02-09

    申请号:CN201510289418.3

    申请日:2015-05-29

    Applicant: 清华大学

    Inventor: 舒继武 陆游游

    Abstract: 本发明提供一种持久性内存事务处理缓存管理方法与装置,该方法包括:在事务开始时,事务从非易失性内存中读取原版数据至处理器缓存,并由处理器执行事务;在事务执行过程中,事务为产生的新版数据分配空间,并采用缓存窃取写回技术以允许对未提交数据进行持久化;在事务提交或中止时,将事务数据或状态强制持久化至非易失性内存;在事务数据或状态已持久化至非易失性内存之后,将事务数据写回至原数据地址,并采用缓存非强制写回技术不强制已提交数据持久化至非易失性内存;事务周期性以强制整体刷回的形式将缓存数据持久化至非易失性内存;当系统发生故障时,对事务数据进行故障恢复处理。该方法可减少持久性内存中的数据复制、数据持久化频率。

Patent Agency Ranking