-
公开(公告)号:CN105487818B
公开(公告)日:2018-11-09
申请号:CN201510848801.8
申请日:2015-11-27
Applicant: 清华大学
IPC: G06F3/06
Abstract: 本发明提出一种针对云存储系统中重复冗余数据的高效去重方法,包括以下步骤:多个客户端接收用户的上传数据,以数据超块作为数据路由单位,并提取其中的路由特征指纹,用于数据路由选择;元数据服务器与数据服务器集群根据路由策略来处理客户端的数据路由选择请求,其中,数据服务器集群对路由特征指纹进行相似指纹匹配确定相似路由节点,元数据服务器根据负载均衡策略确定最终的数据路由地址;客户端与相应的数据服务器交互,接收到相似冗余数据的数据服务器对冗余数据进行高效快速去重。本发明的方法能够使云存储系统在保持高性能、大规模、高吞吐的系统特性的同时,达到高效的重复冗余数据去重效果,提升磁盘使用率,降低数据管理成本。
-
公开(公告)号:CN105404673B
公开(公告)日:2018-11-09
申请号:CN201510808309.8
申请日:2015-11-19
Applicant: 清华大学
IPC: G06F17/30
Abstract: 本发明提出一种基于NVRAM的高效文件系统构建方法,包括以下步骤:S1:判断文件系统的文件操作的类型,其中,文件操作的类型包括:文件读操作、非持久文件写操作及持久文件写操作;S2:如果文件操作的类型为非持久文件写操作,则文件系统将非持久文件写操作的内容写入动态随机存取存储器DRAM,并更新相应的DRAM缓存块索引,并在预设时间点将非持久文件写操作的内容异步刷回至非易失性随机访问存储器NVRAM中,否则文件系统直接在NVRAM/DRAM和用户缓存之间拷贝相关数据。本发明的方法既能避免额外的拷贝和传统软件层的开销,又能充分利用DRAM的写性能高特性来提高NVRAM文件系统的写性能,从而提升系统的整体性能。
-
公开(公告)号:CN108509353A
公开(公告)日:2018-09-07
申请号:CN201810210410.7
申请日:2018-03-14
Applicant: 清华大学
IPC: G06F12/02
Abstract: 本发明提出了一种基于裸闪存的对象存储构建方法及装置,其中,方法包括:将闪存介质以裸闪存设备的形式接入主机端,在主机端构建软件驱动级的对象存储管理层;本地存储系统或分布式存储系统通过对象存储管理层提供的对象式访问接口,向对象存储管理层传递对象数据操作参数;对象存储管理层通过对象存储管理机制、闪存转换层功能和裸闪存访问管理机制,将存储系统的对象数据操作参数转化为对应的裸闪存读/写/擦除命令;将操作命令发送给裸闪存设备,完成对象数据操作。该方法能够减少传统基于闪存的对象存储架构的功能冗余,提供更低的对象数据访问延迟,并能够减少成本,带来良好的客户体验。
-
公开(公告)号:CN108427648A
公开(公告)日:2018-08-21
申请号:CN201710080651.X
申请日:2017-02-14
Applicant: 中兴通讯股份有限公司 , 清华大学
IPC: G06F12/0868 , G06F12/0882 , G06F17/30
Abstract: 本发明公开了一种存储系统页内脏数据索引方法装置,该方法包括:获取存储页的存储点的点数量以及脏数据分布信息;根据点数量和脏数据分布信息创建位图;根据脏数据分布信息创建扩展段集合,并获取扩展段集合中扩展段的当前扩展段个数;根据点数量,获取目标存储页以位图索引脏数据的第一存储代价;根据当前扩展段个数和段容量,获取目标存储页以扩展段索引脏数据的第二存储代价;根据第一存储代价和第二存储代价,确定基于位图方式或扩展段方式索引目标存储页中的脏数据。本发明降低了写入数据量,降低了同步操作的延时,间接提高了系统的性能,同时也降低了闪存设备的磨损,提高了闪存设备的使用寿命。
-
公开(公告)号:CN105005535B
公开(公告)日:2018-04-20
申请号:CN201510435889.0
申请日:2015-07-22
Applicant: 清华大学
CPC classification number: G06F12/1009 , G06F3/0604 , G06F3/0631 , G06F3/064 , G06F3/0679 , G06F9/467 , G06F11/00 , G06F12/0246 , G06F2212/1016 , G06F2212/7201 , G06F2212/7207
Abstract: 本发明公开了一种分布式闪存事务处理方法,包括以下步骤:S1:进行事务两阶段提交,去除两阶段提交协议的状态日志记录,内化为事务接口中的闪存元数据操作,以协调者最后提交作为分布式事务结束标识;S2:事务进行过程中,数据临时对象存储为影子版本,使用影子映射表存储所述影子版本的地址或页在事务处理中的状态、页元数据记录事务信息、事务元数据页记录事务状态和事务状态表记录事务元数据页地址;S3:当协调者或参与者故障时,扫描部分存储,读取闪存元数据,恢复FTL映射表、影子映射表、事务状态表,从而确定事务在两阶段提交中的状态。本发明具有如下优点:减少日志,提高分布式闪存环境下事务处理效率。
-
公开(公告)号:CN104658608B
公开(公告)日:2018-03-06
申请号:CN201310597968.2
申请日:2013-11-22
IPC: G11C29/38
CPC classification number: G06F3/0659 , G06F3/0619 , G06F3/0673 , G06F11/1008 , G11C11/419 , G11C13/0035 , G11C16/10 , G11C29/08 , G11C2029/4402
Abstract: 本发明实施例提供了一种存储设备的写入方法及写入装置,该写入方法包括:获取需要写入的n个数值;确定与其对应的n个比特位,以及n个比特位包含的固定型故障的信息;将n个比特位分成B组比特位,以使得满足分组条件,并且使得当将n个比特位表示为B行A列的二维数组时,属于同一个组的任何两个比特位所在的行和列均不同或所在的行相同;根据B组比特位中的每一组比特位包含的固定型故障的信息和与之对应的需要写入的数值,将n个数值对应写入。本发明实施例通过调整同一组中相邻两个比特位的间隔,确定分组,并根据每一组包含的固定型故障的信息,将需要写入的n个数值对应写入,能够有效地防止阻抗性存储设备中的固定型故障导致的写入错误。
-
公开(公告)号:CN104881371B
公开(公告)日:2018-02-09
申请号:CN201510289418.3
申请日:2015-05-29
Applicant: 清华大学
IPC: G06F12/0802 , G06F11/07
CPC classification number: G06F11/14 , G06F12/0238 , G06F2212/1032 , G06F2212/22 , G06F2212/60 , G06F2212/601 , G06F2212/604
Abstract: 本发明提供一种持久性内存事务处理缓存管理方法与装置,该方法包括:在事务开始时,事务从非易失性内存中读取原版数据至处理器缓存,并由处理器执行事务;在事务执行过程中,事务为产生的新版数据分配空间,并采用缓存窃取写回技术以允许对未提交数据进行持久化;在事务提交或中止时,将事务数据或状态强制持久化至非易失性内存;在事务数据或状态已持久化至非易失性内存之后,将事务数据写回至原数据地址,并采用缓存非强制写回技术不强制已提交数据持久化至非易失性内存;事务周期性以强制整体刷回的形式将缓存数据持久化至非易失性内存;当系统发生故障时,对事务数据进行故障恢复处理。该方法可减少持久性内存中的数据复制、数据持久化频率。
-
公开(公告)号:CN106874383A
公开(公告)日:2017-06-20
申请号:CN201710016284.7
申请日:2017-01-10
Applicant: 清华大学
IPC: G06F17/30
Abstract: 本发明公开了一种分布式文件系统元数据的解耦合分布方法,包括:对分布式文件系统的元数据进行分离,以得到目录的元数据、目录项的元数据和文件的元数据;将所述目录元数据集中存储在目录元数据索引节点,并不包含指向目录项的指针。根据所述目录索引节点执行目录操作。将每个目录项元数据分割之后与之相关的文件元数据存放在同一个节点,并建立指向目录元数据的反向索引。本发明具有如下优点:减少了分布式文件系统访问元数据时各个节点之间的信息交互,降低了元数据访问的延迟,同时,通过分离目录内容的方法,解耦合了文件和目录之间的强关联性,能够达到很高的吞吐量,从而提高了分布式文件系统对于元数据的处理效率。
-
公开(公告)号:CN103458023B
公开(公告)日:2016-12-28
申请号:CN201310388418.X
申请日:2013-08-30
Applicant: 清华大学
IPC: H04L29/08
Abstract: 本发明提出一种分布式闪存存储系统,包括:分布式文件系统层,用于提供对文件数据的分布管理,并使文件元数据操作具有事务性特征;分布式闪存转换层,用于对闪存存储设备进行空间分配以及对多个闪存存储设备之间进行负载均衡;以及高速存储设备层,用于对分布式存储系统提供并发的存储单元和数据存储空间,以对文件数据进行存储。根据本发明实施例的系统,能够充分发挥闪存存储设备的存储和处理性能,提升整个系统的性能。
-
公开(公告)号:CN103309742B
公开(公告)日:2016-07-06
申请号:CN201310278650.8
申请日:2013-07-04
Applicant: 清华大学
Abstract: 本发明提出一种云存储系统数据高效编码方法,其中,云存储系统包括多个接入客户端和多个数据存储服务器,该方法包括以下步骤:每个接入客户端根据一个生成柯西矩阵的启发式算法生成一个柯西矩阵,并根据多个生成调度算法生成多个调度策略,并从中选择执行异或操作次数最少的第一调度策略;数据存储服务器对每个接入客户端的第一调度策略进行比较,以得到执行异或操作次数最少的最优调度策略;接入客户端利用所得最优调度策略对接收的用户数据进行编码,并将用户数据和编码所得冗余数据存储到数据存储服务器上。本发明的实施例能够为云存储系统针对每种柯西编码的配置参数快速地给出目前技术水平下最优的编码方案,提高了数据编码的性能。
-
-
-
-
-
-
-
-
-