分布式文件系统元数据缓存方法、装置、终端及存储介质

    公开(公告)号:CN113688107B

    公开(公告)日:2025-01-24

    申请号:CN202110872163.9

    申请日:2021-07-30

    Abstract: 本发明公开一种分布式文件系统元数据缓存方法、装置、终端及存储介质,设计三级缓存机制,进行挑选缓存,将将要被使用的元数据放置在一、二级缓存队列,使用率低的元数据放置在三级缓存队列,淘汰时从三级缓存队列的缓存时间最久的元数据进行淘汰,从而保留将要被使用的元数据,保证元数据的命中率,减少内存占用,缩短元数据访问IO路径,降低网络通信压力,磁盘访问IO压力,并设置合理的缓存量阈值,在内存可控的基础上有效实现元数据缓存性能的最优化。

    选取新的源文件方法、装置、计算机设备及存储介质

    公开(公告)号:CN117194337A

    公开(公告)日:2023-12-08

    申请号:CN202311243056.5

    申请日:2023-09-22

    Abstract: 本发明涉及分布式文件系统技术领域,公开了选取新的源文件方法、装置、计算机设备及存储介质,本发明当获取到删除操作指令后,根据删除操作指令,确定目标删除文件。当目标删除文件为源文件时,从源文件的目录项中,获取源文件的第一索引节点号。根据第一索引节点号,获取源文件的第一元数据。从第一元数据中获取源文件对应的至少一个硬链接文件的硬链接数据。根据每个硬链接数据,确定每个硬链接文件对应的目录项。根据每个硬链接文件的目标项,确定是否存在未被客户端占用的硬链接文件。当存在至少一个未被客户端占用的硬链接文件时,可以根据不同的方式选取新的源文件。本发明可以避免无法选出新的源文件导致的业务处理失败的问题。

    一种监控和迁移状态机的方法、系统、设备和介质

    公开(公告)号:CN116974987A

    公开(公告)日:2023-10-31

    申请号:CN202310954001.9

    申请日:2023-07-31

    Abstract: 本发明提供一种监控和迁移状态机的方法、系统、设备和存储介质,方法包括:通过元数据服务周期性扫描迁移表,将多个文件组合成迁移任务,并将迁移任务发送给迁移客户端;通过迁移客户端遍历迁移任务中的文件,逐个文件进行迁移,标记迁移状态并统计文件迁移过程请求数;响应于迁移任务中的文件全部迁移完成,记录每个文件的迁移结果,构造迁移任务应答,发送给元数据服务;以及通过元数据服务遍历迁移任务应答结果,记录迁移成功和失败情况。本发明在分级迁移过程全流程跟踪统计,记录迁移文件数、迁移异常、迁移过程耗时,通过这些信息优化迁移性能,并从侧面反映存储系统的异常和性能情况。

    一种性能资源的动态分配方法、系统及相关组件

    公开(公告)号:CN116302477A

    公开(公告)日:2023-06-23

    申请号:CN202211712337.6

    申请日:2022-12-29

    Abstract: 本申请公开了一种性能资源的动态分配方法、系统及相关组件,涉及分布式文件系统,应用于分布式文件系统的服务器中,该动态分配方法包括:接收客户端的资源请求;根据资源请求的资源值和客户端的权重,确定客户端的理想分配资源值;从理想分配资源值和资源池中剩余资源值确定较小值作为分配资源值,按照分配资源值从剩余资源中分配相应的性能资源给客户端;监测客户端的使用资源值,并计算使用资源值和分配资源值的第一比值;根据第一比值及其变化趋势,调整分配资源值,以使第一比值处于预设区间内。本申请以服务器作为主体,由服务器动态调整分配给客户端的性能资源,从而做到性能资源的分配最优化,降低客户端之间对资源的需求矛盾。

    一种服务质量控制方法、装置、设备及存储介质

    公开(公告)号:CN115426374A

    公开(公告)日:2022-12-02

    申请号:CN202211040109.9

    申请日:2022-08-29

    Abstract: 本申请公开了一种服务质量控制方法、装置、设备及存储介质,涉及分布式文件系统存储技术领域。应用于服务端,该方法包括:设置分布式文件系统中当前节点的服务目录的服务质量信息;通过所述服务端中的元数据服务器接收客户端在进行业务读写操作时基于所述服务质量信息对所述服务目录进行逐级服务质量检测的检测结果,以便根据所述检测结果确定出所述服务目录中需要进行服务质量控制的目标服务目录;检测所述目标服务目录对应的目标服务质量信息,以便根据所述目标服务质量信息对所述目标服务目录进行删除。通过本申请的技术方案,可以对服务目录的服务质量进行有效控制,从而保证整体分布式文件系统存储服务的存储质量。

    一种在客户端实现分级存储的方法及装置

    公开(公告)号:CN113703675A

    公开(公告)日:2021-11-26

    申请号:CN202110874481.9

    申请日:2021-07-30

    Inventor: 李旭东

    Abstract: 本发明提供一种在客户端实现分级存储的方法及装置,所述方法包括如下步骤:S1.在客户端节点设置客户端读写模块和数据管理模块,并配置客户端读写模块和数据管理模块功能;S2.设置数据管理模块采用分布式架构,并获取数据管理模块对接的目标存储系统,建立数据管理块与目标存储系统的接口;S3.客户端读写模块接收用户读写请求,并向一级存储进行读写操作,数据管理模块实现冷数据从一级存储到二级存储的下刷,以及热数据从二级存储到一级存储的提取。本发明提供的在客户端实现分级存储的方法及装置,实现分级存储的基础上,可兼容客户端原有一二级存储架构,并能兼容对中一二级存储系统型号,还可兼容各类私有云及公有云。

    一种基于分布式文件系统交织读预读的优化方法、装置

    公开(公告)号:CN113626381A

    公开(公告)日:2021-11-09

    申请号:CN202110738495.8

    申请日:2021-06-30

    Abstract: 本发明提供一种基于分布式文件系统交织读预读的优化方法、装置,所述方法包括如下步骤:步骤1:接收读请求;步骤2:根据接收到的读请求判断是否是随机读,若是,执行步骤3,否则,执行步骤4;步骤3:根据整对象及对象中的数据块的预读标记进行预读信息恢复;步骤4:发起预读;步骤5:读结束。交织读的识别方法,设计数据块与对象的预读标记,实现预读信息的快速恢复,同时设计完整的交织读预读逻辑,模块嵌入性能较好,完美实现交织读模式下的识别与预读。增加交织读模式下的读性能。提升产品多业务模式性能稳定性,增加友好的用户体验。模块嵌入性好,便于开发与维护。

    分布式文件系统的HDFS协议数据映射传输方法和装置

    公开(公告)号:CN113672584B

    公开(公告)日:2025-03-14

    申请号:CN202111006690.8

    申请日:2021-08-30

    Abstract: 本发明公开了一种分布式文件系统的HDFS协议数据映射传输方法,包括:预先根据块大小确定出与块大小一致的obj大小,建立块与obj的映射关系;接收HDFS客户端发送的读写请求,并根据当前块及块与obj的映射关系,确定出当前obj;根据当前obj的信息计算出与当前obj对应的主磁盘所在的目标节点ip;将目标节点ip返回至HDFS客户端,以便HDFS客户端将对应的数据发送至与目标节点ip对应的HDFS文件服务器,并通过HDFS文件服务器将数据存储至主磁盘上;本发明在使用过程中无需分布式存储客户端对数据进行转发,提高了数据读写效率,减少了网络带宽的消耗,有利于提升系统性能。

    文件校验方法、装置、存储介质及电子设备

    公开(公告)号:CN118916332A

    公开(公告)日:2024-11-08

    申请号:CN202411045417.X

    申请日:2024-07-31

    Abstract: 本申请实施例提供了一种文件校验方法、装置、存储介质及电子设备,涉及文件校验技术领域,该方法包括:根据预设数据大小对目标文件进行分块,得到多个数据块,其中,目标文件表示待校验的文件;通过哈希算法对多个数据块进行计算,得到第一层级校验文件;在目标文件更新之后对第一层级校验文件进行更新,得到第二层级校验文件;对第一层级校验文件和第二层级校验文件进行校验,根据第一层级校验文件和第二层级校验文件中不同的标识确定目标文件的更新数据块。解决了相关技术中,文件校验效率低的问题。

    分布式文件系统的文件锁恢复方法、装置、存储介质和电子设备

    公开(公告)号:CN118862152A

    公开(公告)日:2024-10-29

    申请号:CN202410867676.4

    申请日:2024-06-29

    Abstract: 本申请实施例提供了一种分布式文件系统的文件锁恢复方法、装置、存储介质和电子设备,其中,该方法涉及文件锁领域,包括:响应于接收到客户端与动态链接库建立得到的会话链接,检测是否存在宽限期标识,得到第一检测结果;响应于第一检测结果为会话链接存在宽限期标识的情况下,检测会话链接中的文件元数据是否存在未释放的文件锁,得到第二检测结果;响应于第二检测结果为文件元数据存在未释放的文件锁,控制分布式文件系统进入到文件锁的宽限期,并检测分布式系统的宽限期状态;基于宽限期状态对文件锁进行恢复,得到文件锁恢复结果。通过本申请,解决相关技术中由于文件锁在各个模块之间的一致性较差造成的分布式系统的稳定性较低的问题。

Patent Agency Ranking