-
公开(公告)号:CN119202120A
公开(公告)日:2024-12-27
申请号:CN202411688931.5
申请日:2024-11-25
Applicant: 之江实验室
IPC: G06F16/29 , G06F16/22 , G06F40/126
Abstract: 本申请涉及一种地学数据的统一编码方法、装置、计算机设备和存储介质。所述方法包括:获取多模态地学数据,多模态地学数据包括空间位置信息和岩石层信息;设置二维地图网格的网格精度,根据所述网格精度对空间位置信息进行映射编码,得到空间位置信息在二维地图网格中的空间编码;构建岩石地层知识库,包括不同优先级的多个地层单位术语;根据不同优先级的多个地层单位术语,提取所述岩石层信息中的目标字段,对目标字段下存储的地学数据进行哈希编码,得到所述岩石层信息的组数据编码。采用本方法能够通过对空间位置信息进行空间编码,对岩石层信息进行组编码,实现了多模态地学数据的统一编码。
-
公开(公告)号:CN119743484A
公开(公告)日:2025-04-01
申请号:CN202510244380.1
申请日:2025-03-03
Applicant: 之江实验室
IPC: H04L67/1042 , H04L67/1097 , H04L67/566 , H04L67/5681 , H04L41/04 , H04L41/22 , H04L69/06 , H04L69/22
Abstract: 本说明书公开了一种多元异构存储集群管理方法及存储介质。在此方法中,可以通过管理设备的全局资源池对多元异构存储集群的所有存储资源进行集中管理和动态分配,以及支持跨不同云计算环境和多个存储集群之间的无缝数据迁移,增强了系统的灵活性和适应性,以使用户可以通过用户界面从创建、分配、使用到回收等方面,进行完整的存储资源生命周期管理,而无需关心底层复杂的硬件配置或网络拓扑结构,进而可以有助于降低运维复杂度,减少人为错误,并显著降低了算力中心在存储运营方面的成本。
-
公开(公告)号:CN117555697B
公开(公告)日:2024-04-05
申请号:CN202410043642.3
申请日:2024-01-11
Applicant: 之江实验室
IPC: G06F9/50 , G06F18/214
Abstract: 本说明书公开的一种面向分布式训练的缓存加载系统、方法、装置及设备中,管理节点确定各计算节点对应的数据加载任务,并将待训练模型的向无环图以及数据加载任务发送给各计算节点。然后第一子节点用于负责数据加载,先根据有向无环图确定无依赖关系的计算节点需要的数据并进行加载,再当接受到第二子节点的加载请求时,判断该数据是否被加载过,若是,将加载了该数据的第一子节点的标识发送给该第二子节点,若否,则获取待加载的数据后返回给对应的第二子节点,第二子节点根据第一子节点的返回,获取待加载数据,执行训练任务。减少了计算节点向远计算端数据源的访问,降低了远计算端的I/O口堵塞、资源抢占等状况的出现,提高了模型训练的效率。
-
公开(公告)号:CN117421129B
公开(公告)日:2024-04-02
申请号:CN202311722259.2
申请日:2023-12-14
Applicant: 之江实验室
Abstract: 本说明书公开了一种基于异构存储集群的业务执行方法、装置及电子设备。所述方法包括:获取各异构存储设备对应的性能指标信息以及不同业务与各性能指标之间的映射关系;在接收到业务请求后,确定待执行业务对应的目标性能指标;根据性能指标信息,在各存储设备中选取出满足目标性能指标的各存储设备,作为候选设备;针对每个候选设备,确定该候选设备当前的可用容量和负载均衡权值;根据每个候选设备对应的可用容量和负载均衡权值,在各候选设备中确定出该待执行业务对应的目标存储设备,以根据每个待执行业务对应的目标存储设备执行业务,满足不同业务的应用程序和工作负载的多样性需求。
-
公开(公告)号:CN117349401A
公开(公告)日:2024-01-05
申请号:CN202311665185.3
申请日:2023-12-06
Applicant: 之江实验室
IPC: G06F16/31 , G06F16/33 , G06F16/35 , G06F40/205
Abstract: 在本说明书提供的一种非结构化数据的元数据存储方法、装置、介质及设备中,通过响应于第一用户输入的包含非结构化数据的元数据存储请求,对非结构化数据的提取,确定符合预设元数据分类的原始数据。再通过对原始数据的解析,确定原始数据中对应预设元数据分类的结构化元数据。最后将结构化元数据存储在湖仓一体存储平台中,供第二用户检索并管理。使得不同权限的用户能够高效的检索并管理非结构化数据中需要管理的结构化元数据。
-
公开(公告)号:CN117743472A
公开(公告)日:2024-03-22
申请号:CN202410171179.0
申请日:2024-02-06
Applicant: 之江实验室
IPC: G06F16/27 , G06F16/25 , G06F16/23 , G06F16/242
Abstract: 本说明书公开了一种存储任务断点同步方法、装置、介质及设备,响应于继续执行指令,确定存储任务的任务标识和存储任务对应的布隆过滤器。根据存储任务,确定目的存储器,以及读取各待存储的数据单元的唯一标识。依次针对每个待存储的数据单元,根据该数据单元的唯一标识,以及布隆过滤器,判断该数据单元是否未存储。若是,将该数据单元存储到目的存储器,更新布隆过滤器,直至将各待存储的数据单元都存储至目的存储器为止。否则继续判断下一个数据单元是否未存储。存储任务中断后继续执行的过程中,通过更新的布隆过滤器,能够高效准确的判断待存储的数据单元是否未存储,使得存储任务中断后能够在断点处及时运行,实现了存储任务的及时完成。
-
公开(公告)号:CN117421129A
公开(公告)日:2024-01-19
申请号:CN202311722259.2
申请日:2023-12-14
Applicant: 之江实验室
Abstract: 本说明书公开了一种基于异构存储集群的业务执行方法、装置及电子设备。所述方法包括:获取各异构存储设备对应的性能指标信息以及不同业务与各性能指标之间的映射关系;在接收到业务请求后,确定待执行业务对应的目标性能指标;根据性能指标信息,在各存储设备中选取出满足目标性能指标的各存储设备,作为候选设备;针对每个候选设备,确定该候选设备当前的可用容量和负载均衡权值;根据每个候选设备对应的可用容量和负载均衡权值,在各候选设备中确定出该待执行业务对应的目标存储设备,以根据每个待执行业务对应的目标存储设备执行业务,满足不同业务的应用程序和工作负载的多样性需求。
-
公开(公告)号:CN117389792A
公开(公告)日:2024-01-12
申请号:CN202311712644.9
申请日:2023-12-13
Applicant: 之江实验室
Abstract: 本说明书公开了一种故障排查方法、装置、存储介质及电子设备。在本说明书提供的故障排查方法中,获取用户输入的目标追踪标识;根据追踪标识与业务链路之间的预设的对应关系,确定与所述目标追踪标识对应的目标业务链路;采集所述目标业务链路中包含的各服务的运行数据;根据所述运行数据,确定所述各服务中产生的故障;根据所述故障以及预设的公共字段,生成故障日志并反馈给所述用户,所述公共字段用于表征故障信息。
-
公开(公告)号:CN117081931B
公开(公告)日:2024-01-09
申请号:CN202311344093.5
申请日:2023-10-17
Applicant: 之江实验室
IPC: H04L41/0896 , H04L41/0894 , H04L67/1097
Abstract: 本说明书公开了一种异构分布式存储系统在线扩容方法及装置,涉及存储扩容技术领域,方法包括:首先将新增存储节点组织成一个单独的分布式存储集群,注册为存储子集群,然后基于容量分配规则和用户存储需求,控制模块生成预分配结果,接着根据预分配结果,在目标存储子集群分配用户命名空间,最后命名空间模块推送配置到接入网关,接入网关配置生效,根据用户命名空间将IO操作请求分发到对应的存储子集群。本发明打破了软硬件限制,通过接入网关统一对外提供存储服务,解决了对业务的入侵问题,实现了异构存储资源整合并提供统一的存储服务的目的。
-
公开(公告)号:CN117743472B
公开(公告)日:2024-05-07
申请号:CN202410171179.0
申请日:2024-02-06
Applicant: 之江实验室
IPC: G06F16/27 , G06F16/25 , G06F16/23 , G06F16/242
Abstract: 本说明书公开了一种存储任务断点同步方法、装置、介质及设备,响应于继续执行指令,确定存储任务的任务标识和存储任务对应的布隆过滤器。根据存储任务,确定目的存储器,以及读取各待存储的数据单元的唯一标识。依次针对每个待存储的数据单元,根据该数据单元的唯一标识,以及布隆过滤器,判断该数据单元是否未存储。若是,将该数据单元存储到目的存储器,更新布隆过滤器,直至将各待存储的数据单元都存储至目的存储器为止。否则继续判断下一个数据单元是否未存储。存储任务中断后继续执行的过程中,通过更新的布隆过滤器,能够高效准确的判断待存储的数据单元是否未存储,使得存储任务中断后能够在断点处及时运行,实现了存储任务的及时完成。
-
-
-
-
-
-
-
-
-