-
公开(公告)号:CN118158239A
公开(公告)日:2024-06-07
申请号:CN202410340585.5
申请日:2024-03-22
Applicant: 济南浪潮数据技术有限公司
IPC: H04L67/1097 , H04L41/0894
Abstract: 本申请提供了一种分布式存储系统的数据节点选择方法、装置、设备及介质,涉及存储系统技术领域,包括:名称节点接收客户端发出的读写请求,从预先配置的多个数据节点选择策略中,确定与读写请求的用户业务场景所适配目标数据节点选择策略,并按照目标节点选择策略选择目标数据节点,得到目标数据节点列表,根据目标数据节点列表,向客户端发送客户端所需的数据节点列表,以使客户端请求所需的数据节点列表中的数据节点处理读写请求。通过在名称节点中配置多个与用户业务场景相适配的数据节点选择策略,针对不同的用户业务场景选择不同的数据节点选择策略,能够提升分布式存储系统的可用性、易用性和数据负载均衡能力。
-
公开(公告)号:CN117319506A
公开(公告)日:2023-12-29
申请号:CN202311253461.5
申请日:2023-09-26
Applicant: 济南浪潮数据技术有限公司
IPC: H04L67/63 , H04L67/561 , H04L67/1097
Abstract: 本发明提供一种多通道处理创建元数据请求的方法、系统、设备和存储介质,方法包括:根据预设参数创建对应数量的元数据请求客户端;响应于HDFS大数据存储协议服务接收到业务请求,将所述业务请求分为数据请求和元数据请求;判断所述元数据请求是否为创建元数据请求或者addBlock请求;以及响应于所述元数据请求为创建元数据请求或者addBlock请求,将所述元数据请求转发给所述元数据请求客户端进行处理。本发明能够提升大数据存储协议服务元数据创建能力,降低每个元数据客户端内存占用,客户端元数据锁占用,加速文件处理效率。
-
公开(公告)号:CN117130783A
公开(公告)日:2023-11-28
申请号:CN202311090696.7
申请日:2023-08-28
Applicant: 济南浪潮数据技术有限公司
Abstract: 本发明提供了一种基于大数据存储RBF纳管配额集中管控方法及装置,该方法通过Router作为中心,实现对多存储系统的资源配额限制。管理员可通过命令行方式向Router发送配额设置请求,限制资源目录的文件个数和存储空间。每个Router周期性地同步配额信息,从各存储系统获取已使用资源量,确保配额与实际使用一致。用户操作在提交前经过配额限制判断。配额设置值持久化至Zookeeper,支持系统重启和同步。系统通过分发请求至不同存储系统实现负载均衡。该方法降低了管理成本,提高了资源利用效率,确保了存储系统的稳定性和性能。该装置包括配额设置、数据同步与配额矫正、配额限制模块,能够有效实施该方法。
-
公开(公告)号:CN116450662A
公开(公告)日:2023-07-18
申请号:CN202310418692.0
申请日:2023-04-14
Applicant: 济南浪潮数据技术有限公司
Abstract: 本发明公开了一种多节点租户管理方法及相关组件,涉及计算机技术领域,令存储有目标租户的用户信息的存储节点监视目标租户,当有目标租户的用户对某一存储节点上的目标租户的用户信息进行更改时,该存储节点会将更改后的用户信息发送给分布式存储系统中所有监视目标租户的存储节点,进而实现当某一存储节点上的目标租户的用户信息进行更改时,所有包含目标租户的用户信息的存储节点都随着之进行相应的更改,使得同一租户的用户信息在不同存储节点上的同步变更,避免出现数据存储异常的情况,提高数据存储的准确性和可靠性。
-
公开(公告)号:CN116302477A
公开(公告)日:2023-06-23
申请号:CN202211712337.6
申请日:2022-12-29
Applicant: 济南浪潮数据技术有限公司
IPC: G06F9/50
Abstract: 本申请公开了一种性能资源的动态分配方法、系统及相关组件,涉及分布式文件系统,应用于分布式文件系统的服务器中,该动态分配方法包括:接收客户端的资源请求;根据资源请求的资源值和客户端的权重,确定客户端的理想分配资源值;从理想分配资源值和资源池中剩余资源值确定较小值作为分配资源值,按照分配资源值从剩余资源中分配相应的性能资源给客户端;监测客户端的使用资源值,并计算使用资源值和分配资源值的第一比值;根据第一比值及其变化趋势,调整分配资源值,以使第一比值处于预设区间内。本申请以服务器作为主体,由服务器动态调整分配给客户端的性能资源,从而做到性能资源的分配最优化,降低客户端之间对资源的需求矛盾。
-
公开(公告)号:CN115525520A
公开(公告)日:2022-12-27
申请号:CN202211000188.0
申请日:2022-08-19
Applicant: 济南浪潮数据技术有限公司
IPC: G06F11/34
Abstract: 本申请公开了一种客户端的性能统计方法、系统、设备及存储介质,应用于存储技术领域,该方法应用于HDFS的服务器中,包括:按照预设的第一时间间隔,周期性地读取缓存器中存储的目标客户端的数据操作总字节累加量;确定出当前读取的目标客户端的数据操作总字节累加量与上一次读取的目标客户端的数据操作总字节累加量之间的差值,并将差值除以第一时间间隔,得到目标客户端的带宽数据;在接收到用户发送的针对目标客户端的带宽查看指令时,将各次得到的目标客户端的带宽数据均反馈给用户。应用本申请的方案,可以有效地实现对于目标客户端的性能统计,方便地确定出目标客户端的带宽变化情况。
-
公开(公告)号:CN115426374A
公开(公告)日:2022-12-02
申请号:CN202211040109.9
申请日:2022-08-29
Applicant: 济南浪潮数据技术有限公司
IPC: H04L67/1097 , G06F16/182 , H04L67/61
Abstract: 本申请公开了一种服务质量控制方法、装置、设备及存储介质,涉及分布式文件系统存储技术领域。应用于服务端,该方法包括:设置分布式文件系统中当前节点的服务目录的服务质量信息;通过所述服务端中的元数据服务器接收客户端在进行业务读写操作时基于所述服务质量信息对所述服务目录进行逐级服务质量检测的检测结果,以便根据所述检测结果确定出所述服务目录中需要进行服务质量控制的目标服务目录;检测所述目标服务目录对应的目标服务质量信息,以便根据所述目标服务质量信息对所述目标服务目录进行删除。通过本申请的技术方案,可以对服务目录的服务质量进行有效控制,从而保证整体分布式文件系统存储服务的存储质量。
-
公开(公告)号:CN113626405A
公开(公告)日:2021-11-09
申请号:CN202110779799.9
申请日:2021-07-09
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/182 , H04L1/00
Abstract: 本发明提供一种HDFS网络数据传输优化方法、系统、终端及存储介质,包括:发送端读取待发送数据并计算待发送数据的校验和;将待发送数据和校验和封装至文件,并将待发送数据和校验和的位置信息记录至文件标头;将所述文件发送至接收端,所述文件由接收端解析出所述待发送数据后,待发送数据经校验落盘存储。本发明通过在传输过程中不再对校验和进行落盘而是动态生成数据校验和,不仅节省了大量的存储资源,而且在内存计算checksum相较于从磁盘直接读取checksum文件效率更高;checksum不落盘可以简化接收端在接收数据时的处理逻辑,提升接收处理数据的效率。
-
公开(公告)号:CN113626381A
公开(公告)日:2021-11-09
申请号:CN202110738495.8
申请日:2021-06-30
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/13 , G06F16/182
Abstract: 本发明提供一种基于分布式文件系统交织读预读的优化方法、装置,所述方法包括如下步骤:步骤1:接收读请求;步骤2:根据接收到的读请求判断是否是随机读,若是,执行步骤3,否则,执行步骤4;步骤3:根据整对象及对象中的数据块的预读标记进行预读信息恢复;步骤4:发起预读;步骤5:读结束。交织读的识别方法,设计数据块与对象的预读标记,实现预读信息的快速恢复,同时设计完整的交织读预读逻辑,模块嵌入性能较好,完美实现交织读模式下的识别与预读。增加交织读模式下的读性能。提升产品多业务模式性能稳定性,增加友好的用户体验。模块嵌入性好,便于开发与维护。
-
公开(公告)号:CN113590573A
公开(公告)日:2021-11-02
申请号:CN202110714798.6
申请日:2021-06-25
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/182 , G06F9/54
Abstract: 本发明公开了一种分布式集群的请求的路由方法和装置,方法包括:从客户端接收分布式文件系统的服务请求,从服务请求中解析出客户端信息并将客户端信息记录到日志;基于服务请求在分布式文件系统确定对应的子集群,将服务请求转发到子集群并将子集群的连接信息记录到日志;从子集群接收针对服务请求的反馈信息,将反馈信息与对应于反馈信息的客户端信息相关联地记录到日志;响应于反馈信息包括服务执行失败,而将对应于反馈信息的客户端信息基于连接信息而发送到子集群。本发明能够便于快速定位服务失败和输入输出阻塞,并且有助于分析联邦集群的负载均衡,提高分布式集群的可用性。
-
-
-
-
-
-
-
-
-