一种分布式文件系统及其单元测试方法、装置、介质

    公开(公告)号:CN119311579A

    公开(公告)日:2025-01-14

    申请号:CN202411332267.0

    申请日:2024-09-24

    Inventor: 王帅阳

    Abstract: 本发明公开一种分布式文件系统及其单元测试方法、装置、介质,涉及单元测试技术领域,用于进行单元测试,针对传统单元测试方案无法覆盖多线程或并发场景等问题,提供一种基于分布式文件系统的单元测试方法,在分布式文件系统的多个客户端中挂载用于进行单元测试的单元测试器。基于此,主线程即可通过多个客户端中的单元测试器,模拟多个客户端的并发请求,可以提高单元测试的效率、实现涉及分布式文件系统中多客户端交互场景下的单元测试,拓宽了单元测试的测试场景,可以发现并发性能问题、竞态条件和死锁等并发相关问题。

    分布式文件系统中聚合对象的索引方法、系统及相关装置

    公开(公告)号:CN113626382B

    公开(公告)日:2024-02-23

    申请号:CN202110741785.8

    申请日:2021-06-30

    Abstract: 本申请提供一种分布式文件系统中聚合对象的索引方法,包括:接收小文件写入请求并将对应的小文件写入obj缓存;在小文件数据写入量满足聚合缓存的预设容量时,组建数据缓存队列;数据缓存队列包括数据队列和obj缓存的索引队列;将数据队列中的数据写入普通池,并将索引队列中索引数据写入高速池;根据索引队列中的索引数据更新文件聚合元数据。本申请针对聚合对象ino图表进行优化,将filemap表设计到高速池中,以减小对普通磁盘的性能影响。同时针对索引文件对象,按照聚合大件的生命周期进行管理,避免产生垃圾对象的残留。本申请还提供一种分布式文件系统中聚合对象的索引系统、计算机可读存储介质和电子设备,具有上述有益效果。

    一种HDFS写故障恢复方法、计算机设备及存储介质

    公开(公告)号:CN116974823A

    公开(公告)日:2023-10-31

    申请号:CN202310954198.6

    申请日:2023-07-31

    Abstract: 本发明提出了一种HDFS写故障恢复方法、计算机设备及存储介质,其中,方法包括:在HDFS系统中预设任务管理器和数据重写队列,并执行以下步骤:通过任务管理器监控写请求的数据写入过程;响应于监控到数据节点抛出异常,由任务管理器截获异常并生成唯一的故障标记;由任务管理器控制将写请求中的数据并转存到预设的数据重写队列中,并利用故障标记分别标记数据以及数据节点;跳过对当前数据节点的数据写入并执行对下一数据节点的数据写入;由任务管理器从数据重写队列中获取数据,并根据故障标记重新向对应的数据节点发起数据写入操作。本发明能够通过任务处理器拦截异常,避免HDFS系统在发现异常后即执行数据块回收,并能够利用重写队列实现单点恢复。

    一种安全认证方法、装置、网络访问服务设备及存储介质

    公开(公告)号:CN116346498A

    公开(公告)日:2023-06-27

    申请号:CN202310501138.9

    申请日:2023-04-28

    Abstract: 本发明提供一种安全认证方法、装置、网络访问服务设备及存储介质,涉及大数据存储系统领域,方法应用于网络访问服务设备,包括:当接收到客户端发送的访问请求信息时,根据访问请求信息确定客户端请求访问的目标租户资源,并确定目标租户资源对应的目标安全认证处理器;利用目标安全认证处理器对客户端进行安全认证处理;在确定客户端通过安全认证时,允许客户端访问目标租户资源;网络访问服务设备在接收到客户端发送的访问请求信息时,可依照客户端请求访问的目标租户资源利用对应的目标安全认证处理器对客户端进行安全认证处理,从而可确保租户资源能够配置不同的安全认证处理器,进而可满足用户不同的安全认证需求。

    一种HDFS服务获取服务节点IP的方法、装置及存储介质

    公开(公告)号:CN113824812B

    公开(公告)日:2023-02-28

    申请号:CN202110992067.8

    申请日:2021-08-27

    Abstract: 本申请涉及HDFS服务获取服务节点IP的方法、装置及存储介质。其中方法包括:通过名字节点确定读写操作的数据节点后,从HDFS的全部HDFS客户端中选取指定数量的HDFS客户端作为服务节点,服务节点用于提供HDFS服务;按照HDFS客户端的指定数量、HDFS客户端IP的长度构建IPS数组来存放服务节点的IP;对IPS数组中存储的IP进行处理,将IPS数组中的第一个位置存储的IP设置为HDFS服务本地IP;按照IPS数组提供服务节点IP顺序进行故障切换。HDFS服务提供文件系统读写服务过程中,通过本申请,当前HDFS客户端出现故障导致无法继续提供读写服务时,按照IPS数组中服务节点IP顺序进行故障切换,由下一顺位的服务节点IP对应的HDFS客户端提供读写文件系统的服务,提高HDFS服务的稳定性、冗余性。

    一种资源分配方法、计算机可读存储介质、系统及装置

    公开(公告)号:CN115391038A

    公开(公告)日:2022-11-25

    申请号:CN202211025813.7

    申请日:2022-08-25

    Abstract: 本发明公开了一种资源分配方法、计算机可读存储介质、系统及装置,涉及管理领域。服务端接收客户端发送的资源调用请求;根据资源调用请求获取存储节点的标识信息;判断标识信息是否存在于预先存储的映射关系中;若是,根据标识信息及映射关系确定用户业务;将用户业务的路径发送至客户端以使客户端应用用户业务而使用用户资源。本申请通过预先存储的映射关系确定根据客户端发送的资源调用请求获取的存储节点的标识信息是否存在于预先存储的映射关系中,如果存在,说明本次发送的资源调用请求具有权限,且有权限的用户不能访问到其他用户的数据,可以访问为每一个用户划分的自己特有的用户资源,提高了存储系统的安全性与可靠性。

    一种基于JMX的获取数据方法、装置及介质

    公开(公告)号:CN115002072A

    公开(公告)日:2022-09-02

    申请号:CN202210612273.6

    申请日:2022-05-31

    Abstract: 本发明公开了一种基于JMX的获取数据方法、装置及介质,适用于虚拟机监控技术领域。通过获取当前请求域名查询得到公用命名空间,若该域名为已注册的域名,则通过轮询命名空间集合,也就是在多个命名空间内获取目标命名空间,若未查询到或者若该域名不为已注册的域名,则将公用命名空间作为目标命名空间。将现有的一个命名空间划分为多个命名空间,由现有的一个域名访问一个命名空间模式变为当前请求域名访问多个命名空间模式实现“多对多”的获取方式,降低对命名空间访问时获取数据的耦合性,同时提高访问数据的速度,多对多的模式更具有灵活性,进一步提高用户的体验感。

    分布式文件系统透明故障切换的优化方法、系统及装置

    公开(公告)号:CN114020503A

    公开(公告)日:2022-02-08

    申请号:CN202111215931.X

    申请日:2021-10-19

    Abstract: 本发明提出的一种分布式文件系统透明故障切换的优化方法、系统及装置,所述方法包括:启动HDFS客户端服务节点的集群数据库和服务监控自启功能;HDFS客户端服务节点通过域名系统向客户提供域名接入分布式文件系统;当分布式文件系统的元数据发生节点故障时,进行元数据故障自动切换;在HDFS客户端服务启动时,自动注册节点消息到分布式文件系统监视器并进行HDFS服务监听;当监听到HDFS服务节点发生故障时,HDFS客户端通过切换数据服务节点IP恢复数据块缓存信息的写入。本发明能够使分布式文件系统在使用HDFS协议读写入过程中实现服务的故障切换和服务节点的备份。

    一种文件预读缓存分配方法和装置

    公开(公告)号:CN113821460A

    公开(公告)日:2021-12-21

    申请号:CN202110998403.X

    申请日:2021-08-27

    Abstract: 本发明公开了一种文件预读缓存分配方法和装置,方法包括:基于总预读缓存量、并发文件数量、和文件最大缓存量阈值确定现有预读缓存能否满足并发需求;响应于确定现有预读缓存不能满足并发需求而将文件最大缓存量阈值降低到总预读缓存量与并发文件数量之商,并进一步基于最小缓存确定文件最大缓存量阈值能否满足预读需求;响应于确定文件最大缓存量阈值能满足预读需求而为每个文件均提供满足降低过的文件最大缓存量阈值的预读缓存以并发地缓冲读取文件。本发明能够在高并发状态下均衡分配预读缓存,提高缓存效率和预读效果,增大读带宽,进而提高系统性能。

    一种HDFS的垃圾文件清理的方法、装置、设备及可读介质

    公开(公告)号:CN113806308A

    公开(公告)日:2021-12-17

    申请号:CN202111061984.0

    申请日:2021-09-10

    Abstract: 本发明提供了一种HDFS的垃圾文件清理的方法、装置、设备及可读介质,该方法包括:每经过预设时间检测HDFS文件系统中是否存在预设后缀名的文件;响应于检测到HDFS文件系统中是否存在预设后缀名的文件,计算每个文件未被访问的持续时间,并将每个文件的持续时间分别与第一阈值时间进行比较;响应于文件的持续时间超过第一阈值时间,将超过第一阈值时间的文件进行标记并放入回收站中;响应于放入回收站中的带有标记的文件超过第二阈值时间,将带有标记的文件进行彻底删除。通过使用本发明的方案,能够减少维护特定垃圾文件的性能开销,有利于提升集群的存储空间利用率和集群的整体性能。

Patent Agency Ranking