一种文件迁移方法、系统、设备及计算机可读存储介质

    公开(公告)号:CN113806295B

    公开(公告)日:2024-02-23

    申请号:CN202111093200.2

    申请日:2021-09-17

    Inventor: 解志阳 肖国栋

    Abstract: 本申请公开了一种文件迁移方法、系统、设备及计算机可读存储介质,应用于分布式文件存储系统中的客户端,确定高速存储池中待迁移至慢速存储池中的目标文件;控制分布式文件存储系统中的元数据服务器禁止快照目标文件的元数据;控制分布式文件存储系统中的对象存储集群禁止快照高速存储池中的目标文件。本申请中,客户端在确定待迁移的目标文件之后,需控制分布式文件存储系统中的元数据服务器禁止快照目标文件的元数据,这样可以避免目标文件的元数据的无效快照占用存储资源;且需控制分布式文件存储系统中的对象存储集群禁止快照高速存储池中的目标文件,可以避免目标文件的无效快照占用存储资源;可以降低分布式文件存储系统中的资源浪费。

    一种节点处理方法、装置、设备及可读存储介质

    公开(公告)号:CN116405495A

    公开(公告)日:2023-07-07

    申请号:CN202310385997.6

    申请日:2023-04-07

    Abstract: 本申请公开了一种节点处理方法、装置、设备及可读存储介质,方法包括:确定待操作节点列表;待操作节点列表包含未处理的节点;将待操作节点列表发送至其中一子集群,由子集群根据待操作节点列表确定可并行处理节点列表;接收子集群发送的可并行处理节点列表,将可并行处理节点列表发送至下一子集群,直至接收最后一子集群发送的可并行处理节点列表;对最后一子集群发送的其中一可并行处理节点列表中的节点并行处理,返回执行确定待操作节点列表的步骤,直至所有节点均完成处理。本申请公开的技术方案,将获取可并行节点的计算分解到各子集群,并对多个节点并行处理,提高节点处理效率、简便性和灵活性,且无需忽略子集群规则要求和限制集群部署。

    一种性能资源的动态分配方法、系统及相关组件

    公开(公告)号:CN116302477A

    公开(公告)日:2023-06-23

    申请号:CN202211712337.6

    申请日:2022-12-29

    Abstract: 本申请公开了一种性能资源的动态分配方法、系统及相关组件,涉及分布式文件系统,应用于分布式文件系统的服务器中,该动态分配方法包括:接收客户端的资源请求;根据资源请求的资源值和客户端的权重,确定客户端的理想分配资源值;从理想分配资源值和资源池中剩余资源值确定较小值作为分配资源值,按照分配资源值从剩余资源中分配相应的性能资源给客户端;监测客户端的使用资源值,并计算使用资源值和分配资源值的第一比值;根据第一比值及其变化趋势,调整分配资源值,以使第一比值处于预设区间内。本申请以服务器作为主体,由服务器动态调整分配给客户端的性能资源,从而做到性能资源的分配最优化,降低客户端之间对资源的需求矛盾。

    一种服务质量控制方法、装置、设备及存储介质

    公开(公告)号:CN115426374A

    公开(公告)日:2022-12-02

    申请号:CN202211040109.9

    申请日:2022-08-29

    Abstract: 本申请公开了一种服务质量控制方法、装置、设备及存储介质,涉及分布式文件系统存储技术领域。应用于服务端,该方法包括:设置分布式文件系统中当前节点的服务目录的服务质量信息;通过所述服务端中的元数据服务器接收客户端在进行业务读写操作时基于所述服务质量信息对所述服务目录进行逐级服务质量检测的检测结果,以便根据所述检测结果确定出所述服务目录中需要进行服务质量控制的目标服务目录;检测所述目标服务目录对应的目标服务质量信息,以便根据所述目标服务质量信息对所述目标服务目录进行删除。通过本申请的技术方案,可以对服务目录的服务质量进行有效控制,从而保证整体分布式文件系统存储服务的存储质量。

    一种数据同步方法及装置
    5.
    发明公开

    公开(公告)号:CN113821490A

    公开(公告)日:2021-12-21

    申请号:CN202110977549.6

    申请日:2021-08-24

    Abstract: 本申请实施例公开了一种数据同步方法及装置,通过生成主存储设备的第一快照,将第一快照内包括的一个或多个文件复制至从存储设备,在接收用户对主存储设备中一个或多个文件的处理后,生成主存储设备的第二快照,比较第一快照中包括的文件和第二快照中包括的文件,确定第一快照和第二快照中的差异文件,差异文件可以是新增的文件或修改的文件,将差异文件复制至从存储设备。由此可见,本申请实施例提供生成两个不同时刻的快照,在两个不同时刻的快照中确定差异文件,将差异文件复制至从存储设备,实现将主存储设备中的文件精准复制到从存储设备,保证数据的安全性。

    一种文件迁移方法、系统、设备及计算机可读存储介质

    公开(公告)号:CN113806295A

    公开(公告)日:2021-12-17

    申请号:CN202111093200.2

    申请日:2021-09-17

    Inventor: 解志阳 肖国栋

    Abstract: 本申请公开了一种文件迁移方法、系统、设备及计算机可读存储介质,应用于分布式文件存储系统中的客户端,确定高速存储池中待迁移至慢速存储池中的目标文件;控制分布式文件存储系统中的元数据服务器禁止快照目标文件的元数据;控制分布式文件存储系统中的对象存储集群禁止快照高速存储池中的目标文件。本申请中,客户端在确定待迁移的目标文件之后,需控制分布式文件存储系统中的元数据服务器禁止快照目标文件的元数据,这样可以避免目标文件的元数据的无效快照占用存储资源;且需控制分布式文件存储系统中的对象存储集群禁止快照高速存储池中的目标文件,可以避免目标文件的无效快照占用存储资源;可以降低分布式文件存储系统中的资源浪费。

    基于分布式存储系统的数据调度方法和装置、存储介质及电子设备

    公开(公告)号:CN118394266A

    公开(公告)日:2024-07-26

    申请号:CN202410487257.8

    申请日:2024-04-21

    Abstract: 本申请实施例提供了一种基于分布式存储系统的数据调度方法和装置、存储介质及电子设备,该方法包括:响应于目标对象的数据调度请求,对数据调度请求进行解析,得到数据调度请求所指示的数据调度类型和数据调度策略;从分布式存储系统的服务器集群中获取与数据调度类型对应的待调度数据,其中,服务器集群中的服务器部署在不同地域,服务器集群至少包括本端服务器和后端服务器,本端服务器上部署有全局文件系统的本端端口,后端服务器上部署有全局文件系统的后端端口,本端端口和后端端口之间已经建立有数据传输通道;基于数据调度策略将待调度数据调度至服务器集群中的目标服务器。

    分布式存储的IO速度优化方法、系统、终端及存储介质

    公开(公告)号:CN113485639A

    公开(公告)日:2021-10-08

    申请号:CN202110677274.4

    申请日:2021-06-18

    Inventor: 李伟 肖国栋

    Abstract: 本发明提供一种分布式存储的IO速度优化方法、系统、终端及存储介质,包括:预先为客户端操作请求缓存多个目录的分布式锁数据和底层文件布局数据;将分布式锁数据客户端操作请求所属的客户端绑定;记录缓存的分布式锁数据和底层文件布局数据被客户端操作请求引用的次数,并根据引用次数确定分布式锁数据和底层文件布局数据的缓存时间;获取客户端操作请求的目标文件的目标目录,从缓存的数据中调取目标目录的分布式锁数据和底层文件布局数据,执行目标文件加锁和对目标文件的IO操作。本发明无需再向分布式存储的元数据系统获取数据,减少了与元数据系统的交互次数,提高了IO操作效率。

    一种文件合并方法、装置及介质
    9.
    发明公开

    公开(公告)号:CN119127809A

    公开(公告)日:2024-12-13

    申请号:CN202411345226.5

    申请日:2024-09-25

    Inventor: 王帅阳 肖国栋

    Abstract: 本发明公开一种文件合并方法、装置及介质,涉及文件合并技术领域,用于实现文件合并,针对传统仅能采用原生HDFS方式实现文件合并的问题,提供一种文件合并方法提出了一种新的文件数据索引方式,可以实现合并文件的多池映射。此外,本方法利用分布式文件系统的事务机制实现文件合并。目前针对事务已存在多种出现故障时的数据回滚方案,故当本方法通过事务对文件合并进行落盘时,如果中途出现故障,则可通过事务机制的回滚方法对数据进行回滚,使数据回滚至文件合并之前。综上所述,本方法可以有效地解决非原生HDFS文件合并所面临的两大挑战,从而为文件合并的实现拓展出了一种除原生HDFS之外的解决方案。

    分布式存储的IO速度优化方法、系统、终端及存储介质

    公开(公告)号:CN113485639B

    公开(公告)日:2024-02-20

    申请号:CN202110677274.4

    申请日:2021-06-18

    Inventor: 李伟 肖国栋

    Abstract: 本发明提供一种分布式存储的IO速度优化方法、系统、终端及存储介质,包括:预先为客户端操作请求缓存多个目录的分布式锁数据和底层文件布局数据;将分布式锁数据客户端操作请求所属的客户端绑定;记录缓存的分布式锁数据和底层文件布局数据被客户端操作请求引用的次数,并根据引用次数确定分布式锁数据和底层文件布局数据的缓存时间;获取客户端操作请求的目标文件的目标目录,从缓存的数据中调取目标目录的分布式锁数据和底层文件布局数据,执行目标文件加锁和对目标文件的IO操作。本发明无需再向分布式存储的元数据系统获取数据,减少了与元数据系统的交互次数,提高了IO操作效率。

Patent Agency Ranking