元数据处理的方法和装置

    公开(公告)号:CN103207916B

    公开(公告)日:2017-09-19

    申请号:CN201310145878.X

    申请日:2013-04-24

    Abstract: 本发明公开了一种元数据处理的方法和装置,该方法包括:将需要存储的元数据存储至内存中,当内存中已存储的元数据达到预设值的情况下,在内存中建立数据结构;对于需要存储的新元数据,生成新元数据的索引并将生成的索引存储至数据结构中。本发明通过将需要存储的元数据存储至内存中,当内存中已存储的元数据达到预设值的情况下,在内存中建立数据结构,对于需要存储的新元数据,生成新元数据的索引并将生成的索引存储至数据结构中,能够节省元数据在内存中的存储空间,并且保证了系统的可靠性。

    数据修复方法、装置和系统

    公开(公告)号:CN103186678B

    公开(公告)日:2016-09-14

    申请号:CN201310144430.6

    申请日:2013-04-24

    Abstract: 本发明公开了一种数据修复方法、装置和系统,该方法包括:将事物号发送至数据服务器;接收数据服务器反馈的存储结果,其中,数据服务器反馈的存储结果用于表示该数据服务器对事物号的存储情况;根据存储结果判断存储出现异常的数据服务器,并根据其他数据服务器存储的数据对该数据服务器的数据进行修复。本发明通过判断出现异常的数据服务器,并根据其他数据服务器存储的数据对该异常数据服务器的数据进行修复,能够借助尽可能少的信令开销准确地获知出现异常的数据服务器,避免对元数据服务器进行大量访问,并且能够有效提高数据一致性。

    事务日志的管理方法和装置

    公开(公告)号:CN104156420A

    公开(公告)日:2014-11-19

    申请号:CN201410383979.5

    申请日:2014-08-06

    CPC classification number: G06F17/30156 G06F17/30191

    Abstract: 本发明公开了一种事务日志的管理方法和装置,该事务日志的管理方法包括:确定所述事务日志所对应的所有事务操作;对确定的所述事务操作进行去重;根据去重后的事务操作,生成新的事务日志;该事务日志的管理装置包括:确定模块,用于确定所述事务日志所对应的所有事务操作;去重模块,用于对确定的所述事务操作进行去重;生成模块,用于根据去重后的事务操作,生成新的事务日志。本发明通过对事务日志中事务操作的去重,实现了日志设备的数据量减少,从而使得在元数据的副本发生故障后,降低了其他副本为其保留的日志数据的规模,进而延长了文件系统可以容忍的副本故障时间,并减少了故障元数据需要修复的时间。

    一种面向分布式文件系统的日志数据组织的方法

    公开(公告)号:CN102385624B

    公开(公告)日:2014-01-01

    申请号:CN201110328316.X

    申请日:2011-10-25

    Abstract: 本发明提供了一种面向分布式文件系统的日志数据组织的方法,在普通文件的某一固定区域记录日志数据空间的控制信息,所述控制信息包括有效日志数据的开始偏移,结束偏移,最后一条日志记录的开始偏移,最大可用日志数据空间的大小,所述日志记录中包括本条日志记录的大小信息,通过日志数据空间的控制信息和每条日志记录的大小信息实现日志数据空间的管理。本发明提供了一种基于普通文件的日志记录的管理方式,使用指针在日志记录之间实现快速查找;引入cache日志的概念,实现基于普通文件的批量日志记录,优化日志性能;通过在不同服务节点之间记录多种日志,实现元数据服务的快速接管和恢复。

    元数据处理的方法和装置

    公开(公告)号:CN103207916A

    公开(公告)日:2013-07-17

    申请号:CN201310145878.X

    申请日:2013-04-24

    Abstract: 本发明公开了一种元数据处理的方法和装置,该方法包括:将需要存储的元数据存储至内存中,当内存中已存储的元数据达到预设值的情况下,在内存中建立数据结构;对于需要存储的新元数据,生成新元数据的索引并将生成的索引存储至数据结构中。本发明通过将需要存储的元数据存储至内存中,当内存中已存储的元数据达到预设值的情况下,在内存中建立数据结构,对于需要存储的新元数据,生成新元数据的索引并将生成的索引存储至数据结构中,能够节省元数据在内存中的存储空间,并且保证了系统的可靠性。

    一种面向分布式文件系统的日志数据组织的方法

    公开(公告)号:CN102385624A

    公开(公告)日:2012-03-21

    申请号:CN201110328316.X

    申请日:2011-10-25

    Abstract: 本发明提供了一种面向分布式文件系统的日志数据组织的方法,在普通文件的某一固定区域记录日志数据空间的控制信息,所述控制信息包括有效日志数据的开始偏移,结束偏移,最后一条日志记录的开始偏移,最大可用日志数据空间的大小,所述日志记录中包括本条日志记录的大小信息,通过日志数据空间的控制信息和每条日志记录的大小信息实现日志数据空间的管理。本发明提供了一种基于普通文件的日志记录的管理方式,使用指针在日志记录之间实现快速查找;引入cache日志的概念,实现基于普通文件的批量日志记录,优化日志性能;通过在不同服务节点之间记录多种日志,实现元数据服务的快速接管和恢复。

    一种分布式系统中基于流水线的元数据日志的方法

    公开(公告)号:CN102368210A

    公开(公告)日:2012-03-07

    申请号:CN201110325984.7

    申请日:2011-10-25

    Abstract: 本发明提供了一种分布式系统中基于流水线的元数据日志的方法,元数据日志的每个阶段由一个独立的线程完成,不同阶段之间使用带信号量的队列进行数据传送。本发明针对了分布式文件系统的元数据访问特点,引入了流水线的概念,将元数据可靠性处理的多个阶段,即写可靠性介质.写磁盘以及文件sync等操作进行了流水化设计,不仅充分的利用了多线程提高了并发性,同时,实现了非阻塞的元数据可靠性处理,极大的提高了元数据日志系统的数据处理能力。

    一种逻辑文件系统元数据的日志方法

    公开(公告)号:CN102024021A

    公开(公告)日:2011-04-20

    申请号:CN201010536541.8

    申请日:2010-11-04

    Abstract: 本发明提供了一种逻辑文件系统元数据的日志方法。在一个固定大小区域保存日志,并充分利用内存结构减少写永久设备的次数;在元数据操作过程中仅精确记录元数据修改前后的数据,使得恢复过程不依赖于自身文件系统代码;在修改结果返回用户前将日志刷到永久设备;恢复时,仅根据日志数据进行重做或撤销操作即可将保证元数据处于一致状态。本发明充分利用内存结构减少写永久设备(日志设备)的次数;在元数据操作过程中仅精确记录元数据修改前后的数据,使得恢复过程不依赖于自身文件系统代码;恢复时,仅根据日志数据进行重做或撤销操作即可将保证元数据处于一致状态,减少了恢复所需的时间。

Patent Agency Ranking