-
公开(公告)号:CN113836116B
公开(公告)日:2025-02-14
申请号:CN202111149417.0
申请日:2021-09-29
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/21 , G06F16/182
Abstract: 本申请公开了一种数据迁移方法、装置、电子设备及可读存储介质。其中,方法包括预先构建存储性能不同的第一存储池和第二存储池,第一存储池的存储性能优于第二存储池;将目标数据分割为第一子数据和第二子数据,将第一子数据存储至第一存储池,第二子数据存储至第二存储池;当接收到目标数据的迁移指令,将从第一存储池读取的第一子数据写入至第二存储池,同时向元数据服务器发送更新目标数据的存储位置信息的请求;当元数据服务器应答更新完成,从第一存储池删除第一子数据,以完成目标数据的迁移操作,从而可以提高文件迁移效率的基础上,降低文件迁移出错概率。
-
公开(公告)号:CN118394266A
公开(公告)日:2024-07-26
申请号:CN202410487257.8
申请日:2024-04-21
Applicant: 济南浪潮数据技术有限公司
Abstract: 本申请实施例提供了一种基于分布式存储系统的数据调度方法和装置、存储介质及电子设备,该方法包括:响应于目标对象的数据调度请求,对数据调度请求进行解析,得到数据调度请求所指示的数据调度类型和数据调度策略;从分布式存储系统的服务器集群中获取与数据调度类型对应的待调度数据,其中,服务器集群中的服务器部署在不同地域,服务器集群至少包括本端服务器和后端服务器,本端服务器上部署有全局文件系统的本端端口,后端服务器上部署有全局文件系统的后端端口,本端端口和后端端口之间已经建立有数据传输通道;基于数据调度策略将待调度数据调度至服务器集群中的目标服务器。
-
公开(公告)号:CN118349176A
公开(公告)日:2024-07-16
申请号:CN202410486779.6
申请日:2024-04-19
Applicant: 济南浪潮数据技术有限公司
IPC: G06F3/06
Abstract: 本申请提供一种缓存淘汰的方法、系统、设备及存储介质,方法包括:根据接收的数据请求对应的目标数据,确定缓存是否命中目标数据;在缓存未命中目标数据的情况下,确定是否存在历史缓存队列命中目标数据;在存在命中目标数据的历史缓存队列的情况下,将命中目标数据的历史缓存队列确定为目标历史缓存队列;确定目标数据在目标历史缓存队列中存在的淘汰时长;根据淘汰时长,对目标历史缓存队列对应的选择权重进行更新;根据缓存的缓存状态和各个历史缓存队列的选择权重,确定淘汰历史缓存队列;根据淘汰历史缓存队列和对应的淘汰策略,对缓存中的待淘汰数据进行淘汰。旨在提升缓存对客户端所请求数据的命中率。
-
公开(公告)号:CN117951529B
公开(公告)日:2024-06-21
申请号:CN202410347260.X
申请日:2024-03-26
Applicant: 济南浪潮数据技术有限公司
IPC: G06F18/214 , G06F18/213 , G06F18/241 , G06N3/08 , G06N3/0442 , G06F11/30 , G06F11/34
Abstract: 本公开涉及机器学习领域,具体涉及用于硬盘数据故障预测的样本获取方法、装置、设备,方法包括:获取硬盘数据的训练样本以及训练样本对应的样本标签;根据训练样本,构建出生成虚拟样本的第一故障模型;根据样本标签,构建出生成虚拟样本对应的虚拟标签的第二故障模型;根据训练样本、样本标签、第一故障模型以及第二故障模型,确定所述虚拟样本和所述虚拟标签;根据虚拟样本和虚拟标签,得到用于硬盘数据故障预测的目标训练样本和目标训练样本对应的目标样本标签。本公开利用机器学习和混合学习相结合的方式,能够处理好硬盘故障领域中常见的数据不平衡问题,从而提升后续模型对少数类样本的关注程度,从而提升模型的整体预测识别能力。
-
公开(公告)号:CN113886352B
公开(公告)日:2024-02-23
申请号:CN202111227676.0
申请日:2021-10-21
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/182 , G06F16/172 , G06F16/16
Abstract: 本申请公开了一种分布式文件系统的元数据恢复方法、装置、设备及介质,包括:当监测到元数据更新故障事件,则获取目标文件在本地中对应的当前已保存元数据,所述当前已保存元数据为用于记录文件存储位置信息以及文件大小的元数据;基于所述当前已保存元数据中的文件存储位置信息以及第一文件存储池和/或第二文件存储池中与所述目标文件对应的数据,确定出所述目标文件的实际元数据;利用所述实际元数据对所述当前已保存元数据进行更新恢复。通过本申请的上述技术方案,保证了目标文件中的元数据存储位置信息以及文件大小与实际元数据一致,避免了因故障导致的数据不准确,提高了分布式文件系统的稳定性和可靠性。
-
公开(公告)号:CN116974476A
公开(公告)日:2023-10-31
申请号:CN202310947906.3
申请日:2023-07-31
Applicant: 济南浪潮数据技术有限公司
IPC: G06F3/06
Abstract: 本发明提供了一种分布式存储文件系统下目录数据池选择的方法,该方法通过基于数据池层的目录多数据池设置、基于阈值控制的数据池溢出和基于业务热度的数据池层间溢出等技术,实现分布式文件系统充分利用数据池资源,优化系统的业务性能。通过该方法,能够在目录下新写入文件短期内需要大量访问时选择高性能数据池,同时在高性能数据池空间有限时,合理地进行数据溢出,以保障上层业务的性能,提高整个文件系统的稳定性和用户体验。
-
公开(公告)号:CN115203130A
公开(公告)日:2022-10-18
申请号:CN202210900699.1
申请日:2022-07-28
Applicant: 济南浪潮数据技术有限公司
Inventor: 孙业宽
IPC: G06F16/11 , G06F16/16 , G06F16/172 , G06F16/182
Abstract: 本申请公开了一种分布式文件系统的文件清理方法、装置、设备及介质,涉及分布式存储集群技术领域,用于清理过期文件,针对现有技术实现难度大、耗时长且删除不及时的问题,提供了一种文件清理方法,将文件以创建时间的先后顺序进行排列,并存储到删除索引表中;当需要进行文件删除时,可以依次遍历删除索引表,并判断文件的存储时间是否超过时间阈值,以确定当前文件是否为待删除文件,代替人工完成文件清理。且由于删除索引表的排序方式,所以在遍历时,一定是从最早的文件开始遍历。当当前文件不为过期文件时,后续的文件同样如此,无需继续遍历,实现减少遍历数据量的效果,提高文件的删除效率,增强了及时性。
-
公开(公告)号:CN113886352A
公开(公告)日:2022-01-04
申请号:CN202111227676.0
申请日:2021-10-21
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/182 , G06F16/172 , G06F16/16
Abstract: 本申请公开了一种分布式文件系统的元数据恢复方法、装置、设备及介质,包括:当监测到元数据更新故障事件,则获取目标文件在本地中对应的当前已保存元数据,所述当前已保存元数据为用于记录文件存储位置信息以及文件大小的元数据;基于所述当前已保存元数据中的文件存储位置信息以及第一文件存储池和/或第二文件存储池中与所述目标文件对应的数据,确定出所述目标文件的实际元数据;利用所述实际元数据对所述当前已保存元数据进行更新恢复。通过本申请的上述技术方案,保证了目标文件中的元数据存储位置信息以及文件大小与实际元数据一致,避免了因故障导致的数据不准确,提高了分布式文件系统的稳定性和可靠性。
-
-
-
-
-
-
-