-
公开(公告)号:CN115292057A
公开(公告)日:2022-11-04
申请号:CN202210937738.5
申请日:2022-08-05
Applicant: 济南浪潮数据技术有限公司
IPC: G06F9/52
Abstract: 本申请公开了一种文件系统加锁方法、装置、设备及介质,涉及分布式文件系统领域,该方法包括:接收目标IO请求,确定目标IO请求对应在当前文件系统的目标请求资源的类型;若目标请求资源为文件结构类型,则对目标请求资源对应的结构体添加结构锁;若目标请求资源为模块内部资源类型,则对目标请求资源对应的模块添加模块锁;若目标请求资源为全局公共资源类型,则对目标请求资源对应的数据结构添加客户端锁;其中,结构锁、模块锁以及客户端锁均为互斥锁。本发明能够使用模块化拆锁的方式分化客户端锁的约束力,提高文件读写并发性能,降低客户端锁导致的阻塞现象,降低读写耗时,提高文件系统的读写性能,间接提高文件的读写的带宽性能。
-
公开(公告)号:CN113609093B
公开(公告)日:2023-12-22
申请号:CN202110744220.5
申请日:2021-06-30
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/182 , G06F16/17
Abstract: 本申请提供一种分布式文件系统的逆序读方法,具体技术方案如下包括:接收逆序读请求;将上一次预读的开始位置作为触发位,设置预读偏移量进行4M对齐;根据对齐的预设偏移量计算预读文件大小,并根据所述预读文件大小重新计算预读偏移量,并确定预读开始位置和预读长度;根据所述预读开始位置和所述预读长度异步获取数据,并将数据加载到缓存。本申请能快速获取数据,提高带宽与并发量。通过实现逆序预读能够进一步实现逆序读的异步读取,有效提高CPU的使用效率,进一步提高读带宽与并发量。本申请还提供一种分布式文件系统的逆序读系统、计算机可读存储介质和电子设备,具有上述有益效果。
-
公开(公告)号:CN115510016A
公开(公告)日:2022-12-23
申请号:CN202211295543.1
申请日:2022-10-21
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/182 , G06F16/13
Abstract: 本申请公开了一种基于目录分片的客户端应答方法、装置及介质,涉及分布式文件系统领域,为了提高分布式系统的客户端元数据应答处理能力,预先对分布式文件系统中的文件进行分片处理,当接收到客户端发送的元数据请求后,按照其对应的目录分片,判断该目录分片的目录分片锁是否被占用,若没有被占用,则可处理该元数据请求。仅需要判断元数据请求对应的目录分片是否被占用,不需要考虑其他的目录分片,在同一时域内,目录分片之间并行处理,不同时域的目录分片之间也互不影响,时域之间并发处理。客户端按照目录分片数进行并发处理,提高了客户端的元数据应答并发处理能力,同时保证文件的元数据的一致性与有效性,提高分布式系统的并发处理能力。
-
公开(公告)号:CN113821460A
公开(公告)日:2021-12-21
申请号:CN202110998403.X
申请日:2021-08-27
Applicant: 济南浪潮数据技术有限公司
IPC: G06F12/0862
Abstract: 本发明公开了一种文件预读缓存分配方法和装置,方法包括:基于总预读缓存量、并发文件数量、和文件最大缓存量阈值确定现有预读缓存能否满足并发需求;响应于确定现有预读缓存不能满足并发需求而将文件最大缓存量阈值降低到总预读缓存量与并发文件数量之商,并进一步基于最小缓存确定文件最大缓存量阈值能否满足预读需求;响应于确定文件最大缓存量阈值能满足预读需求而为每个文件均提供满足降低过的文件最大缓存量阈值的预读缓存以并发地缓冲读取文件。本发明能够在高并发状态下均衡分配预读缓存,提高缓存效率和预读效果,增大读带宽,进而提高系统性能。
-
公开(公告)号:CN117093554B
公开(公告)日:2025-05-02
申请号:CN202311086216.X
申请日:2023-08-28
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/172 , G06F16/182
Abstract: 本发明提供了一种基于分布式文件系统的跳读预读方法及装置,涉及计算机技术领域,针对传统文件系统中存在的跳读性能瓶颈,本发明通过记录分析数据读取偏移和长度,计算文件跳读的步长,实现多模式识别,包括严格跳读、2元严格交替跳读和局部随机跳读。在识别的基础上,引入智能预读机制,根据跳读模式优化预读策略,显著提升系统的数据读取性能。此外,本发明还具备低成本、高兼容性等优势,适用于大规模数据处理和分布式计算等领域,能够有效地提升文件数据访问效率,提供更优的用户体验。本发明能够有效地识别不同的跳读模式并相应地优化跳读和预读操作,以提高系统数据读取性能。
-
公开(公告)号:CN117093554A
公开(公告)日:2023-11-21
申请号:CN202311086216.X
申请日:2023-08-28
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/172 , G06F16/182
Abstract: 本发明提供了一种基于分布式文件系统的跳读预读方法及装置,涉及计算机技术领域,针对传统文件系统中存在的跳读性能瓶颈,本发明通过记录分析数据读取偏移和长度,计算文件跳读的步长,实现多模式识别,包括严格跳读、2元严格交替跳读和局部随机跳读。在识别的基础上,引入智能预读机制,根据跳读模式优化预读策略,显著提升系统的数据读取性能。此外,本发明还具备低成本、高兼容性等优势,适用于大规模数据处理和分布式计算等领域,能够有效地提升文件数据访问效率,提供更优的用户体验。本发明能够有效地识别不同的跳读模式并相应地优化跳读和预读操作,以提高系统数据读取性能。
-
公开(公告)号:CN119271404A
公开(公告)日:2025-01-07
申请号:CN202411337003.4
申请日:2024-09-24
Applicant: 济南浪潮数据技术有限公司
Inventor: 张亚东
Abstract: 本申请提供了一种资源管理方法、设备及介质,涉及资源管理技术领域,该方法包括:接收第一节点发出的预申请,当集群的总资源的剩余申请量满足需求时,为第一节点分配目标资源,并接收第一节点基于预申请的生命周期,主动释放的目标资源中的剩余资源;当不满足需求时,强制回收集群中其他节点申请的且未主动释放的目标资源中的剩余资源,并将集群中其他节点申请的且未主动释放的目标资源中的剩余资源分配给第一节点,节点资源都进行生命周期的管理,并对剩余资源进行主动释放,集群也可以对未主动释放的资源进行强制回收,保证未使用的资源能够被再次分配,避免资源闲置,提高对节点进行资源分配的公正性,确保资源按需分配,减少资源争用。
-
公开(公告)号:CN118113668A
公开(公告)日:2024-05-31
申请号:CN202410305189.9
申请日:2024-03-15
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/17 , G06F16/13 , G06F16/16 , G06F16/182
Abstract: 本发明实施例中,服务器获取聚合大文件,聚合大文件包括多个对象,每个对象包括对象头和多个小文件,对象头包括多个小文件对应的索引信息,索引信息用于表示小文件是否有效,提取聚合大文件中各个小文件的索引信息,将索引信息写入固态硬盘,根据固态硬盘中存储的聚合大文件中各个小文件的索引信息,确定聚合大文件的无效空间比例,在确定无效空间比例大于预设比例阈值后,对聚合大文件进行碎片整理,通过聚合大文件的碎片整理方法,使得原本离散分布于不同聚合对象中需要被删除的小文件,生成聚合对象头,写入固态硬盘,通过对聚合对象头进行操作,实现对小文件的删除,提升了删除小文件的效率,并减轻了硬盘驱动器的压力。
-
公开(公告)号:CN113626299A
公开(公告)日:2021-11-09
申请号:CN202110835163.1
申请日:2021-07-23
Applicant: 济南浪潮数据技术有限公司
IPC: G06F11/34 , G06F16/16 , G06F16/182
Abstract: 本发明公开一种分布式文件系统的并行性能评估方法和装置,其中,该分布式文件系统的并行性能评估方法包括:当侦测到分布式文件系统的文件操作时,获取每种文件操作类型对应的IO并行数量信息;根据文件操作类型对应的唯一标识,统计每种文件操作类型对应的IO运行时间信息;根据IO并行数量信息和IO运行时间信息,评估分布式文件系统的并行性能。本发明的技术方案能解决现有技术中分布式文件系统的并行性能检测误差较大的问题。
-
公开(公告)号:CN113609093A
公开(公告)日:2021-11-05
申请号:CN202110744220.5
申请日:2021-06-30
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/182 , G06F16/17
Abstract: 本申请提供一种分布式文件系统的逆序读方法,具体技术方案如下包括:接收逆序读请求;将上一次预读的开始位置作为触发位,设置预读偏移量进行4M对齐;根据对齐的预设偏移量计算预读文件大小,并根据所述预读文件大小重新计算预读偏移量,并确定预读开始位置和预读长度;根据所述预读开始位置和所述预读长度异步获取数据,并将数据加载到缓存。本申请能快速获取数据,提高带宽与并发量。通过实现逆序预读能够进一步实现逆序读的异步读取,有效提高CPU的使用效率,进一步提高读带宽与并发量。本申请还提供一种分布式文件系统的逆序读系统、计算机可读存储介质和电子设备,具有上述有益效果。
-
-
-
-
-
-
-
-
-