分布式事务处理方法、装置、设备、存储介质及程序产品

    公开(公告)号:CN114398157B

    公开(公告)日:2024-09-03

    申请号:CN202111617497.8

    申请日:2021-12-27

    Applicant: 清华大学

    Abstract: 本发明涉及分布式事务技术领域,尤其涉及一种分布式事务处理方法、装置、设备、存储介质及程序产品。方法包括:接收事务协调者传输的第一请求,其中,所述第一请求包含第一时间戳,所述第一时间戳通过所述事务协调者对应的本地时钟模块获得;通过预设的推迟机制,推迟所述第一请求的执行时间;当所述第一请求未执行时,接收到第二请求,其中,所述第二请求包含第二时间戳,所述第二时间戳小于所述第一时间戳;在所述第二时间戳指示的执行时间,执行所述第二请求;所述推迟机制结束时,执行所述第一请求。本发明用以解决现有技术中分布式事务处理过程中事务中止率高的缺陷,降低分布式事务处理过程中的事务中止率。

    纠删码编解码方法、装置、电子设备和存储介质

    公开(公告)号:CN118467234A

    公开(公告)日:2024-08-09

    申请号:CN202410525638.0

    申请日:2024-04-28

    Applicant: 清华大学

    Inventor: 张广艳 蔡思捷

    Abstract: 本公开涉及一种纠删码编解码方法、装置、电子设备和存储介质,确定参数三元组(k,m,b),并根据参数三元组生成mb个子校验矩阵结构模板和对应的多个参数集合。按预设的分配规则随机分配n=k+m个编码块的子校验矩阵结构模板,并根据多个参数集合生成每个编码块的不同的子校验矩阵。在接收到待编码数据后均分待编码数据得到k个数据块。将k个数据块作为已知编码块,根据已知编码块和确定的多个子校验矩阵求解得到m个未知编码块作为校验块,完成编码过程。本公开通过构造子校验矩阵结构模板和参数集合定义编码结构,保证编码结果的可靠性,且通过限制子块数量减小编码过程的存储开销。

    固态硬盘阵列构建方法、电子设备及存储介质

    公开(公告)号:CN110297601B

    公开(公告)日:2020-06-23

    申请号:CN201910492195.9

    申请日:2019-06-06

    Applicant: 清华大学

    Abstract: 本发明实施例提供一种固态硬盘阵列构建方法、电子设备及存储介质,所述方法包括:通过两层映射架构构建存储池,底下一层映射通过基于正交拉丁方的静态数据布局使多个RAID卷资源共享,将盘池中的存储块组织成条带,其上一层通过映射表进行地址映射;划分存储池的部分存储区域以两副本形式存储数据作为吸收小写请求的缓存,在后台将副本数据转换成条带形式,副本缓存区域以配对条带的形式组织;对构成阵列的固态硬盘状态进行实时监测,标记因为内部后台活动而性能降级的固态硬盘;根据各固态硬盘的状态,对性能降级的固态硬盘上的读写请求进行重定向。本发明实施例能有效降低固态硬盘阵列的平均延迟和尾部延迟,提高系统性能及稳定性。

    固态硬盘阵列构建方法、电子设备及存储介质

    公开(公告)号:CN110297601A

    公开(公告)日:2019-10-01

    申请号:CN201910492195.9

    申请日:2019-06-06

    Applicant: 清华大学

    Abstract: 本发明实施例提供一种固态硬盘阵列构建方法、电子设备及存储介质,所述方法包括:通过两层映射架构构建存储池,底下一层映射通过基于正交拉丁方的静态数据布局使多个RAID卷资源共享,将盘池中的存储块组织成条带,其上一层通过映射表进行地址映射;划分存储池的部分存储区域以两副本形式存储数据作为吸收小写请求的缓存,在后台将副本数据转换成条带形式,副本缓存区域以配对条带的形式组织;对构成阵列的固态硬盘状态进行实时监测,标记因为内部后台活动而性能降级的固态硬盘;根据各固态硬盘的状态,对性能降级的固态硬盘上的读写请求进行重定向。本发明实施例能有效降低固态硬盘阵列的平均延迟和尾部延迟,提高系统性能及稳定性。

    一种快照的处理方法及分布式块存储系统

    公开(公告)号:CN108460045A

    公开(公告)日:2018-08-28

    申请号:CN201710091836.0

    申请日:2017-02-21

    Abstract: 本发明提供一种快照的处理方法及分布式块存储系统,该方法可包括:获取所述分布式块存储系统中数据块的读操作次数和读写操作次数;基于所述读操作次数和读写操作次数,确定目标快照方式,其中,所述目标快照方式包括写时复制或写时重定向;基于所述目标快照方式对所述分布式块存储系统中数据块进行快照操作。这样,在分布式存储系统的快照中,当数据块以读为主时,确定以写时复制对数据块进行快照操作;当数据块以写为主时,确定以写时重定向对数据块进行快照操作,从而可以同时满足写入性能、回滚性能以及读性能都较佳。

    针对云存储系统中重复冗余数据的高效去重方法

    公开(公告)号:CN105487818A

    公开(公告)日:2016-04-13

    申请号:CN201510848801.8

    申请日:2015-11-27

    Applicant: 清华大学

    CPC classification number: G06F3/0613 G06F3/0659 G06F3/067 G06F3/0674

    Abstract: 本发明提出一种针对云存储系统中重复冗余数据的高效去重方法,包括以下步骤:多个客户端接收用户的上传数据,以数据超块作为数据路由单位,并提取其中的路由特征指纹,用于数据路由选择;元数据服务器与数据服务器集群根据路由策略来处理客户端的数据路由选择请求,其中,数据服务器集群对路由特征指纹进行相似指纹匹配确定相似路由节点,元数据服务器根据负载均衡策略确定最终的数据路由地址;客户端与相应的数据服务器交互,接收到相似冗余数据的数据服务器对冗余数据进行高效快速去重。本发明的方法能够使云存储系统在保持高性能、大规模、高吞吐的系统特性的同时,达到高效的重复冗余数据去重效果,提升磁盘使用率,降低数据管理成本。

    海量数据分级存储方法
    7.
    发明授权

    公开(公告)号:CN100571281C

    公开(公告)日:2009-12-16

    申请号:CN200710118116.5

    申请日:2007-06-29

    Applicant: 清华大学

    Abstract: 海量数据分级存储方法属于数据迁移领域,其特征在于:各前端主机上的并行文件系统客户代理软件通过系统接口子模块和VFS层子模块实现对VFS访问的支持;元数据服务器负责把不同数据服务器上的数据文件组织成统一的并行文件系统视图,由元数据管理模块提供访问元数据的操作,由文件迁移决策模块定期从数据服务器获取文件访问信息,并根据文件系统负载和设备分级情况对文件迁移进行决策。数据服务器的迁移执行模块执行具体的迁移工作。该方法根据负载情况自动地完成数据迁移过程,有效提高了系统的吞吐率,并且迁移文件少,迁移进程对前端应用的影响也较小。

    Windows平台下动态管理存储资源的通用方法

    公开(公告)号:CN1655129A

    公开(公告)日:2005-08-17

    申请号:CN200510011354.7

    申请日:2005-02-25

    Applicant: 清华大学

    Abstract: Windows平台下动态管理存储资源的通用方法属于存储区域网络(SAN)系统中存储资源动态管理技术,其特征在于:使用基于Windows NT操作系统卷管理器的内核模块实现存储资源的动态分配和使用,同时利用用户模式下的通信软件与全局的存储资源管理服务器连接,由后者进行全局的存储资源在不同应用服务器之间的调度和分配。内核模块除了要支持与存储资源管理服务器相对应的存储资源调度方法外,还要将应用程序对由其提供的虚拟存储设备的操作提供映射到物理存储设备中。此外内核模块还会对Windows NT操作系统的其他组件屏蔽对其所控制的物理设备的访问。

    日志处理方法及系统
    9.
    发明公开

    公开(公告)号:CN117331901A

    公开(公告)日:2024-01-02

    申请号:CN202311253761.3

    申请日:2023-09-26

    Applicant: 清华大学

    Inventor: 张广艳 魏钧宇

    Abstract: 本发明涉及数据处理技术领域,提供一种日志处理方法及系统,方法包括:基于预设模版将日志块中需要参与压缩的子变量的位置信息作为关键位点和编码流对应的元数据记录到预设数据结构中;基于预设数据结构将日志块压缩至不同的存储单元;基于对应于各日志块的位置向量在位置矩阵上的分布情况,定位到与检索关键字对应的存储单元,并基于检索关键字与存储单元的匹配结果,完成对日志条目的检索,位置向量为检索关键字与解压后的预设模版的匹配结果。本发明通过预设模版高效提取日志动态模式并将日志数据存储为细粒度单元,进而提升了日志压缩带宽;采用向量化技术实现了细粒度单元低延迟检索,进而为日志分析和系统建模提供有效支撑。

    日志处理方法、日志处理装置及电子设备

    公开(公告)号:CN114238257A

    公开(公告)日:2022-03-25

    申请号:CN202111424453.3

    申请日:2021-11-26

    Applicant: 清华大学

    Abstract: 本发明提供一种日志处理方法、日志处理装置及电子设备,其中,日志处理方法包括:获取原始日志,并基于日志解析工具将所述原始日志划分为原始模板和原始变量;基于变量组子模式,对所述原始变量进行特征提取,得到存储单元;将所述存储单元进行压缩,得到压缩后存储单元,其中,所述压缩后存储单元包括存储单元标签,所述压缩后存储单元用于实现对所述原始日志的搜索。通过本发明的日志处理方法可以有效提高日志的压缩率,并且显著降低日志交互式检索时的延迟。

Patent Agency Ranking