-
公开(公告)号:CN115640433A
公开(公告)日:2023-01-24
申请号:CN202211412030.4
申请日:2022-11-11
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/904 , G06T11/00 , G06T11/20
Abstract: 本发明涉及一种序列化数据的可视化检测方法、装置、终端及介质。本申请预先载入序列化数据应用的序列化数据结构及反序列化方法;以所述反序列化方法对所述序列化数据进行反序列化解析处理,确定所述序列化数据中包含的各个序列化数据结构和/或无法反序列化的数据区域;以不同颜色方框图标表示不同的序列化数据结构及序列化数据结构中的成员,以故障图标表示所述无法反序列化的数据区域;按序列化数据中的各个所述序列化数据结构和/或所述无法反序列化的数据区域的顺序,相应的组合各个所述方框图标和/或所述故障图标形成可视化序列图。本申请能更直观的展示序列化数据组成及设计缺陷,提高分析效率。
-
公开(公告)号:CN114003372A
公开(公告)日:2022-02-01
申请号:CN202111158109.4
申请日:2021-09-30
Applicant: 济南浪潮数据技术有限公司
IPC: G06F9/50 , G06F16/172 , G06F16/182
Abstract: 本发明提供了一种分布式文件系统HDFS服务容量配额实现的方法、系统、设备及可读介质,该方法包括:响应于HDFS服务接收到addblock请求,申请block大小的配额并构建hdfsquota缓存结构和缓存记录;响应于HDFS服务接收到文件的写请求,基于文件的属性更新缓存记录;响应于文件写完成,判断缓存记录中预设属性大小是否大于文件大小;响应于缓存记录中预设属性大小大于文件大小,将申请配额中未使用的容量归还服务器。通过使用本发明的方案,能够实现HDFS协议过程的容量配额功能,能够及时归还未使用的配额,避免容量浪费,能够通过定时自检归还配额,增加功能可用性。
-
公开(公告)号:CN113626382A
公开(公告)日:2021-11-09
申请号:CN202110741785.8
申请日:2021-06-30
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/13 , G06F16/172 , G06F16/182
Abstract: 本申请提供一种分布式文件系统中聚合对象的索引方法,包括:接收小文件写入请求并将对应的小文件写入obj缓存;在小文件数据写入量满足聚合缓存的预设容量时,组建数据缓存队列;数据缓存队列包括数据队列和obj缓存的索引队列;将数据队列中的数据写入普通池,并将索引队列中索引数据写入高速池;根据索引队列中的索引数据更新文件聚合元数据。本申请针对聚合对象ino图表进行优化,将filemap表设计到高速池中,以减小对普通磁盘的性能影响。同时针对索引文件对象,按照聚合大件的生命周期进行管理,避免产生垃圾对象的残留。本申请还提供一种分布式文件系统中聚合对象的索引系统、计算机可读存储介质和电子设备,具有上述有益效果。
-
公开(公告)号:CN113609094A
公开(公告)日:2021-11-05
申请号:CN202110779540.4
申请日:2021-07-09
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/182 , G06F16/172
Abstract: 本发明公开了一种控制数据下刷的方法、系统、设备和存储介质,方法包括:响应于接收到写请求,依次对数据包进行写操作,并判断当前数据包的写操作是否为缓存写;响应于所述当前数据包的写操作为缓存写,将所述数据包的数据写入数据缓存层,并判断数据的大小是否达到分布式对象的大小;响应于所述数据的大小达到分布式对象的大小,对所述数据进行持久化,并判断当前待确认批量结构的数量是否超过阈值;以及响应于当前待确认批量结构的数量超过阈值,对持久化后的数据进行范围检测,并根据所述范围检测的结果进行下刷。本发明通过分批、异步下刷和整体应答的机制,同时在数据缓存层采用整条带下刷机制,两层协作保障数据快速持久化与安全应答。
-
公开(公告)号:CN113590573B
公开(公告)日:2025-02-14
申请号:CN202110714798.6
申请日:2021-06-25
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/182 , G06F9/54
Abstract: 本发明公开了一种分布式集群的请求的路由方法和装置,方法包括:从客户端接收分布式文件系统的服务请求,从服务请求中解析出客户端信息并将客户端信息记录到日志;基于服务请求在分布式文件系统确定对应的子集群,将服务请求转发到子集群并将子集群的连接信息记录到日志;从子集群接收针对服务请求的反馈信息,将反馈信息与对应于反馈信息的客户端信息相关联地记录到日志;响应于反馈信息包括服务执行失败,而将对应于反馈信息的客户端信息基于连接信息而发送到子集群。本发明能够便于快速定位服务失败和输入输出阻塞,并且有助于分析联邦集群的负载均衡,提高分布式集群的可用性。
-
公开(公告)号:CN113688107B
公开(公告)日:2025-01-24
申请号:CN202110872163.9
申请日:2021-07-30
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/172 , G06F16/182 , G06F3/06 , G06F5/06
Abstract: 本发明公开一种分布式文件系统元数据缓存方法、装置、终端及存储介质,设计三级缓存机制,进行挑选缓存,将将要被使用的元数据放置在一、二级缓存队列,使用率低的元数据放置在三级缓存队列,淘汰时从三级缓存队列的缓存时间最久的元数据进行淘汰,从而保留将要被使用的元数据,保证元数据的命中率,减少内存占用,缩短元数据访问IO路径,降低网络通信压力,磁盘访问IO压力,并设置合理的缓存量阈值,在内存可控的基础上有效实现元数据缓存性能的最优化。
-
公开(公告)号:CN118732960B
公开(公告)日:2025-01-17
申请号:CN202411228178.1
申请日:2024-09-03
Applicant: 济南浪潮数据技术有限公司
IPC: G06F3/06
Abstract: 本申请实施例提供了一种数据的写入方法和装置、存储介质及电子设备,包括:确定目标数据写入存储设备的写入方式,其中,所述写入方式包括:创建写和覆盖写;根据所述写入方式确定所述目标数据对应的目标数据分配器,其中,所述目标数据分配器包括:主分配器和/或二级分配器,所述主分配器用于分配所述存储设备中的第一存储空间,所述二级分配器用于分配所述存储设备中的第二存储空间,所述第一存储空间用于指示所述存储设备中的空闲空间,所述第二存储空间用于指示所述存储设备中已释放数据后的存储空间;基于所述目标数据分配器将所述目标数据写入至所述存储设备中的目标存储空间。
-
公开(公告)号:CN118519589B
公开(公告)日:2024-10-22
申请号:CN202410993685.8
申请日:2024-07-24
Applicant: 济南浪潮数据技术有限公司
IPC: G06F3/06
Abstract: 本发明公开了一种数据处理方法、分布式存储系统、产品、设备及介质,涉及分布式存储技术领域。该方法在分布式存储节点上通过使用控制器内存缓冲区,使得网卡可以直接将数据传输到存储器上,实现了卸载主机内存,避免了使用主存储器作为数据传输的中转站而需要进行两次直接存储访问的操作,减少了占用的主存储器的大部分带宽,提高了对存储业务的处理速度,提升了分布式存储系统的性能;且在使用控制器内存缓冲区进行内存卸载后,节省了分布式存储节点的内存容量使用,降低了分布式存储节点的硬件成本;且在将业务数据放置在控制器内存缓冲区的基础上,当检测到目标地址属于控制器内存缓冲区地址,则对业务数据进行保存,实现了业务数据的持久化。
-
公开(公告)号:CN118732960A
公开(公告)日:2024-10-01
申请号:CN202411228178.1
申请日:2024-09-03
Applicant: 济南浪潮数据技术有限公司
IPC: G06F3/06
Abstract: 本申请实施例提供了一种数据的写入方法和装置、存储介质及电子设备,包括:确定目标数据写入存储设备的写入方式,其中,所述写入方式包括:创建写和覆盖写;根据所述写入方式确定所述目标数据对应的目标数据分配器,其中,所述目标数据分配器包括:主分配器和/或二级分配器,所述主分配器用于分配所述存储设备中的第一存储空间,所述二级分配器用于分配所述存储设备中的第二存储空间,所述第一存储空间用于指示所述存储设备中的空闲空间,所述第二存储空间用于指示所述存储设备中已释放数据后的存储空间;基于所述目标数据分配器将所述目标数据写入至所述存储设备中的目标存储空间。
-
公开(公告)号:CN117221341A
公开(公告)日:2023-12-12
申请号:CN202311297820.7
申请日:2023-10-08
Applicant: 济南浪潮数据技术有限公司
IPC: H04L67/1097 , H04L67/141 , H04L69/16
Abstract: 本发明涉及计算机技术领域,公开了一种网络管理服务器、消息通信方法及存储介质,包括:第一网络连接管理模块通过网络通信传输通道传输第一节点中的任一磁盘管理服务器与第二节点中的任一磁盘管理服务器之间传递的通信消息;第一网络消息处理模块将第一网络连接管理模块接收的通信消息进行解析,获取消息内容;第一网络消息分发模块通过第一虚拟网络连接模块预创建的虚拟消息传输通道,将消息内容分发至目标磁盘管理服务器;第一虚拟网络连接模块,用于创建虚拟消息传输通道,通过虚拟消息传输通道传输消息内容至目标磁盘管理服务器,或者接收任一磁盘管理服务器发送的虚拟网络连接请求。减少分布式集群中网络连接的数量,提高网络通效率。
-
-
-
-
-
-
-
-
-