-
公开(公告)号:CN115859346A
公开(公告)日:2023-03-28
申请号:CN202211412709.3
申请日:2022-11-11
Applicant: 济南浪潮数据技术有限公司
IPC: G06F21/62 , G06F16/13 , G06F16/182
Abstract: 本发明涉及一种基于目录分区实现多租户的方法、系统、装置及介质。本发明在多租户模式下,创建租户根目录属性为真的第一目标根目录,根据租户在第一目标根目录下创建对应的租户工作目录属性为真的目标一级子目录;目标一级子目录仅对相应的租户可见可访问操作;在目标一级子目录下根据相应租户下的用户创建命名空间工作目录属性为真的目标二级子目录,目标二级子目录仅对相应的用户可见可访问操作以实现不同用户之间的资源隔离;用户在相应的目标二级子目录下可任意创建普通目录属性为真的子目录用于实现文件管理索引。本申请利用文件系统目录的目录分区进行租户和用户之间资源隔离,以满足多租户多用户需求。
-
公开(公告)号:CN115795502A
公开(公告)日:2023-03-14
申请号:CN202211446994.0
申请日:2022-11-18
Applicant: 济南浪潮数据技术有限公司
Abstract: 本申请公开了一种分布式文件系统的权限管理方法、系统及相关组件,涉及分布式文件系统领域,该权限管理方法包括:当接收到用户发送的ACL设置命令,解析ACL设置命令中的待转换参数,待转换参数对应HDFS数据格式;将各个待转换参数分别转换为posix数据格式的权限设置参数;基于权限设置参数对分布式文件系统进行权限设置。本申请能够实现存算分离场景下对分布式文件系统的文件和目录的用户访问的精细控制,提高现有的存算分离场景下的分布式文件系统的数据安全性。
-
公开(公告)号:CN113590546A
公开(公告)日:2021-11-02
申请号:CN202110742686.1
申请日:2021-06-30
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/16 , G06F16/182
Abstract: 本申请涉及的目录删除方法、装置及存储介质。其中方法包括:在系统文件目录下创建第二目录,将待删除目录的数据移动到所述第二目录;在待删除目录的元数据所处的元数据服务器中创建第一目录,将待删除目录的元数据移动到所述第一目录;客户端将全部元数据服务器的第一目录缓存在本地指定位置,根据所述指定位置待删除目录的元数据内容,索引到所述第二目录下的待删除目录的数据,并执行删除操作删除所述待删除目录的数据;待删除目录的数据删除后,所述客户端删除本地指定位置以及元数据服务器第一目录下相应待删除目录的元数据。应用本申请元数据服务器之间不会因删除目录而产生元数据迁移,保证分布式文件系统的整体性能。
-
公开(公告)号:CN113609094B
公开(公告)日:2025-02-14
申请号:CN202110779540.4
申请日:2021-07-09
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/182 , G06F16/172
Abstract: 本发明公开了一种控制数据下刷的方法、系统、设备和存储介质,方法包括:响应于接收到写请求,依次对数据包进行写操作,并判断当前数据包的写操作是否为缓存写;响应于所述当前数据包的写操作为缓存写,将所述数据包的数据写入数据缓存层,并判断数据的大小是否达到分布式对象的大小;响应于所述数据的大小达到分布式对象的大小,对所述数据进行持久化,并判断当前待确认批量结构的数量是否超过阈值;以及响应于当前待确认批量结构的数量超过阈值,对持久化后的数据进行范围检测,并根据所述范围检测的结果进行下刷。本发明通过分批、异步下刷和整体应答的机制,同时在数据缓存层采用整条带下刷机制,两层协作保障数据快速持久化与安全应答。
-
公开(公告)号:CN118394266A
公开(公告)日:2024-07-26
申请号:CN202410487257.8
申请日:2024-04-21
Applicant: 济南浪潮数据技术有限公司
Abstract: 本申请实施例提供了一种基于分布式存储系统的数据调度方法和装置、存储介质及电子设备,该方法包括:响应于目标对象的数据调度请求,对数据调度请求进行解析,得到数据调度请求所指示的数据调度类型和数据调度策略;从分布式存储系统的服务器集群中获取与数据调度类型对应的待调度数据,其中,服务器集群中的服务器部署在不同地域,服务器集群至少包括本端服务器和后端服务器,本端服务器上部署有全局文件系统的本端端口,后端服务器上部署有全局文件系统的后端端口,本端端口和后端端口之间已经建立有数据传输通道;基于数据调度策略将待调度数据调度至服务器集群中的目标服务器。
-
公开(公告)号:CN118349176A
公开(公告)日:2024-07-16
申请号:CN202410486779.6
申请日:2024-04-19
Applicant: 济南浪潮数据技术有限公司
IPC: G06F3/06
Abstract: 本申请提供一种缓存淘汰的方法、系统、设备及存储介质,方法包括:根据接收的数据请求对应的目标数据,确定缓存是否命中目标数据;在缓存未命中目标数据的情况下,确定是否存在历史缓存队列命中目标数据;在存在命中目标数据的历史缓存队列的情况下,将命中目标数据的历史缓存队列确定为目标历史缓存队列;确定目标数据在目标历史缓存队列中存在的淘汰时长;根据淘汰时长,对目标历史缓存队列对应的选择权重进行更新;根据缓存的缓存状态和各个历史缓存队列的选择权重,确定淘汰历史缓存队列;根据淘汰历史缓存队列和对应的淘汰策略,对缓存中的待淘汰数据进行淘汰。旨在提升缓存对客户端所请求数据的命中率。
-
公开(公告)号:CN117951529B
公开(公告)日:2024-06-21
申请号:CN202410347260.X
申请日:2024-03-26
Applicant: 济南浪潮数据技术有限公司
IPC: G06F18/214 , G06F18/213 , G06F18/241 , G06N3/08 , G06N3/0442 , G06F11/30 , G06F11/34
Abstract: 本公开涉及机器学习领域,具体涉及用于硬盘数据故障预测的样本获取方法、装置、设备,方法包括:获取硬盘数据的训练样本以及训练样本对应的样本标签;根据训练样本,构建出生成虚拟样本的第一故障模型;根据样本标签,构建出生成虚拟样本对应的虚拟标签的第二故障模型;根据训练样本、样本标签、第一故障模型以及第二故障模型,确定所述虚拟样本和所述虚拟标签;根据虚拟样本和虚拟标签,得到用于硬盘数据故障预测的目标训练样本和目标训练样本对应的目标样本标签。本公开利用机器学习和混合学习相结合的方式,能够处理好硬盘故障领域中常见的数据不平衡问题,从而提升后续模型对少数类样本的关注程度,从而提升模型的整体预测识别能力。
-
公开(公告)号:CN113626382B
公开(公告)日:2024-02-23
申请号:CN202110741785.8
申请日:2021-06-30
Applicant: 济南浪潮数据技术有限公司
IPC: G06F16/13 , G06F16/172 , G06F16/182
Abstract: 本申请提供一种分布式文件系统中聚合对象的索引方法,包括:接收小文件写入请求并将对应的小文件写入obj缓存;在小文件数据写入量满足聚合缓存的预设容量时,组建数据缓存队列;数据缓存队列包括数据队列和obj缓存的索引队列;将数据队列中的数据写入普通池,并将索引队列中索引数据写入高速池;根据索引队列中的索引数据更新文件聚合元数据。本申请针对聚合对象ino图表进行优化,将filemap表设计到高速池中,以减小对普通磁盘的性能影响。同时针对索引文件对象,按照聚合大件的生命周期进行管理,避免产生垃圾对象的残留。本申请还提供一种分布式文件系统中聚合对象的索引系统、计算机可读存储介质和电子设备,具有上述有益效果。
-
公开(公告)号:CN116974476A
公开(公告)日:2023-10-31
申请号:CN202310947906.3
申请日:2023-07-31
Applicant: 济南浪潮数据技术有限公司
IPC: G06F3/06
Abstract: 本发明提供了一种分布式存储文件系统下目录数据池选择的方法,该方法通过基于数据池层的目录多数据池设置、基于阈值控制的数据池溢出和基于业务热度的数据池层间溢出等技术,实现分布式文件系统充分利用数据池资源,优化系统的业务性能。通过该方法,能够在目录下新写入文件短期内需要大量访问时选择高性能数据池,同时在高性能数据池空间有限时,合理地进行数据溢出,以保障上层业务的性能,提高整个文件系统的稳定性和用户体验。
-
公开(公告)号:CN113824812B
公开(公告)日:2023-02-28
申请号:CN202110992067.8
申请日:2021-08-27
Applicant: 济南浪潮数据技术有限公司
IPC: H04L67/06 , H04L41/0654 , G06F16/182 , H04L101/686
Abstract: 本申请涉及HDFS服务获取服务节点IP的方法、装置及存储介质。其中方法包括:通过名字节点确定读写操作的数据节点后,从HDFS的全部HDFS客户端中选取指定数量的HDFS客户端作为服务节点,服务节点用于提供HDFS服务;按照HDFS客户端的指定数量、HDFS客户端IP的长度构建IPS数组来存放服务节点的IP;对IPS数组中存储的IP进行处理,将IPS数组中的第一个位置存储的IP设置为HDFS服务本地IP;按照IPS数组提供服务节点IP顺序进行故障切换。HDFS服务提供文件系统读写服务过程中,通过本申请,当前HDFS客户端出现故障导致无法继续提供读写服务时,按照IPS数组中服务节点IP顺序进行故障切换,由下一顺位的服务节点IP对应的HDFS客户端提供读写文件系统的服务,提高HDFS服务的稳定性、冗余性。
-
-
-
-
-
-
-
-
-