-
公开(公告)号:CN120011326A
公开(公告)日:2025-05-16
申请号:CN202510111891.6
申请日:2025-01-23
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/172 , G06F16/182 , G06F16/16 , G06F16/18 , G06F16/14
Abstract: 本发明涉及计算机技术领域,公开了一种文件存储方法、读取方法、装置、设备及介质,该方法包括:获取待存储文件以及与待存储文件对应的标识信息,生成与待存储文件对应的元数据信息,确定传输待存储文件的传输协议,当确定为目标协议时,确定分布式存储系统中是否存在与标识信息对应的文件。当确定未存在对应文件时,创建逻辑头文件,识别多版本功能是否开启,当确定该功能处于开启状态时,生成与待存储文件对应的版本信息,将该版本信息配置为首个版本信息,将元数据信息、标识信息,以及首个版本信息加入到逻辑头文件中,以及将待存储文件在分布式存储系统中完成存储操作。该方法减少了一个元数据信息文件,增加了整个集群的可支持文件量级。
-
公开(公告)号:CN113590573B
公开(公告)日:2025-02-14
申请号:CN202110714798.6
申请日:2021-06-25
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/182 , G06F9/54
Abstract: 本发明公开了一种分布式集群的请求的路由方法和装置,方法包括:从客户端接收分布式文件系统的服务请求,从服务请求中解析出客户端信息并将客户端信息记录到日志;基于服务请求在分布式文件系统确定对应的子集群,将服务请求转发到子集群并将子集群的连接信息记录到日志;从子集群接收针对服务请求的反馈信息,将反馈信息与对应于反馈信息的客户端信息相关联地记录到日志;响应于反馈信息包括服务执行失败,而将对应于反馈信息的客户端信息基于连接信息而发送到子集群。本发明能够便于快速定位服务失败和输入输出阻塞,并且有助于分析联邦集群的负载均衡,提高分布式集群的可用性。
-
公开(公告)号:CN118158239A
公开(公告)日:2024-06-07
申请号:CN202410340585.5
申请日:2024-03-22
Applicant: 济南浪潮数据技术有限公司
IPC: H04L67/1097 , H04L41/0894
Abstract: 本申请提供了一种分布式存储系统的数据节点选择方法、装置、设备及介质,涉及存储系统技术领域,包括:名称节点接收客户端发出的读写请求,从预先配置的多个数据节点选择策略中,确定与读写请求的用户业务场景所适配目标数据节点选择策略,并按照目标节点选择策略选择目标数据节点,得到目标数据节点列表,根据目标数据节点列表,向客户端发送客户端所需的数据节点列表,以使客户端请求所需的数据节点列表中的数据节点处理读写请求。通过在名称节点中配置多个与用户业务场景相适配的数据节点选择策略,针对不同的用户业务场景选择不同的数据节点选择策略,能够提升分布式存储系统的可用性、易用性和数据负载均衡能力。
-
公开(公告)号:CN117319506A
公开(公告)日:2023-12-29
申请号:CN202311253461.5
申请日:2023-09-26
Applicant: 济南浪潮数据技术有限公司
IPC: H04L67/63 , H04L67/561 , H04L67/1097
Abstract: 本发明提供一种多通道处理创建元数据请求的方法、系统、设备和存储介质,方法包括:根据预设参数创建对应数量的元数据请求客户端;响应于HDFS大数据存储协议服务接收到业务请求,将所述业务请求分为数据请求和元数据请求;判断所述元数据请求是否为创建元数据请求或者addBlock请求;以及响应于所述元数据请求为创建元数据请求或者addBlock请求,将所述元数据请求转发给所述元数据请求客户端进行处理。本发明能够提升大数据存储协议服务元数据创建能力,降低每个元数据客户端内存占用,客户端元数据锁占用,加速文件处理效率。
-
公开(公告)号:CN116450662A
公开(公告)日:2023-07-18
申请号:CN202310418692.0
申请日:2023-04-14
Applicant: 济南浪潮数据技术有限公司
Abstract: 本发明公开了一种多节点租户管理方法及相关组件,涉及计算机技术领域,令存储有目标租户的用户信息的存储节点监视目标租户,当有目标租户的用户对某一存储节点上的目标租户的用户信息进行更改时,该存储节点会将更改后的用户信息发送给分布式存储系统中所有监视目标租户的存储节点,进而实现当某一存储节点上的目标租户的用户信息进行更改时,所有包含目标租户的用户信息的存储节点都随着之进行相应的更改,使得同一租户的用户信息在不同存储节点上的同步变更,避免出现数据存储异常的情况,提高数据存储的准确性和可靠性。
-
公开(公告)号:CN115525520A
公开(公告)日:2022-12-27
申请号:CN202211000188.0
申请日:2022-08-19
Applicant: 济南浪潮数据技术有限公司
IPC: G06F11/34
Abstract: 本申请公开了一种客户端的性能统计方法、系统、设备及存储介质,应用于存储技术领域,该方法应用于HDFS的服务器中,包括:按照预设的第一时间间隔,周期性地读取缓存器中存储的目标客户端的数据操作总字节累加量;确定出当前读取的目标客户端的数据操作总字节累加量与上一次读取的目标客户端的数据操作总字节累加量之间的差值,并将差值除以第一时间间隔,得到目标客户端的带宽数据;在接收到用户发送的针对目标客户端的带宽查看指令时,将各次得到的目标客户端的带宽数据均反馈给用户。应用本申请的方案,可以有效地实现对于目标客户端的性能统计,方便地确定出目标客户端的带宽变化情况。
-
公开(公告)号:CN113626405A
公开(公告)日:2021-11-09
申请号:CN202110779799.9
申请日:2021-07-09
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/182 , H04L1/00
Abstract: 本发明提供一种HDFS网络数据传输优化方法、系统、终端及存储介质,包括:发送端读取待发送数据并计算待发送数据的校验和;将待发送数据和校验和封装至文件,并将待发送数据和校验和的位置信息记录至文件标头;将所述文件发送至接收端,所述文件由接收端解析出所述待发送数据后,待发送数据经校验落盘存储。本发明通过在传输过程中不再对校验和进行落盘而是动态生成数据校验和,不仅节省了大量的存储资源,而且在内存计算checksum相较于从磁盘直接读取checksum文件效率更高;checksum不落盘可以简化接收端在接收数据时的处理逻辑,提升接收处理数据的效率。
-
公开(公告)号:CN113590573A
公开(公告)日:2021-11-02
申请号:CN202110714798.6
申请日:2021-06-25
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/182 , G06F9/54
Abstract: 本发明公开了一种分布式集群的请求的路由方法和装置,方法包括:从客户端接收分布式文件系统的服务请求,从服务请求中解析出客户端信息并将客户端信息记录到日志;基于服务请求在分布式文件系统确定对应的子集群,将服务请求转发到子集群并将子集群的连接信息记录到日志;从子集群接收针对服务请求的反馈信息,将反馈信息与对应于反馈信息的客户端信息相关联地记录到日志;响应于反馈信息包括服务执行失败,而将对应于反馈信息的客户端信息基于连接信息而发送到子集群。本发明能够便于快速定位服务失败和输入输出阻塞,并且有助于分析联邦集群的负载均衡,提高分布式集群的可用性。
-
公开(公告)号:CN117112524A
公开(公告)日:2023-11-24
申请号:CN202311153235.X
申请日:2023-09-07
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/18 , G06F16/17 , G06F16/172 , G06F16/16
Abstract: 本发明涉及审计日志技术领域,公开了基于命名空间的审计日志存储方法、装置、设备及介质,基于命名空间的审计日志存储方法包括:创建命名空间;获取操作列表中需要审计的第一操作;将第一操作存储于命名空间中;获取目标操作,读取目标操作对应的命名空间;判断目标操作是否为第一操作;若目标操作是第一操作,则对目标操作进行审计日志存储。本发明选择性的对审计日志进行存储,降低审计日志占用的存储空间。
-
公开(公告)号:CN115629711A
公开(公告)日:2023-01-20
申请号:CN202211348879.X
申请日:2022-10-31
Applicant: 济南浪潮数据技术有限公司
IPC: G06F3/06
Abstract: 本申请公开了一种packet包写对齐方法、系统、装置及介质,应用于数据传输领域,通过获取由客户端发送的packet包,判断在将packet包加入当前下刷批后,当前下刷批是否超过下刷阈值,若超过,则将packet包进行逻辑切分并标记为已被切分,将packet包小于下刷阈值的部分加入当前下刷批,将剩余部分加入下一个下刷批;若不超过,则将packet包标记为未被切分,并将packet包加入当前下刷批,判断已加入等待下刷队列的当前下刷批是否满足下刷条件,若满足,则将当前下刷批进行下刷。根据下刷阈值对其切分处理,对不符合下刷阈值部分进行分批处理,提升写入磁盘与读取数据的速度,减少数据乱码、错误的发生。
-
-
-
-
-
-
-
-
-