-
公开(公告)号:CN119621312A
公开(公告)日:2025-03-14
申请号:CN202411679994.4
申请日:2024-11-22
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明公开一种兼容气象超算架构的多态异构智算资源融合调度方法及系统,包括创建服务集群和计算集群;构建计算集群算力聚合应用服务;创建气象超算架构智算集群融合调度支撑环境;气象超算架构智算集群内构建弹性超算服务;构建适配多态异构智算资源的软件栈支撑环境。本申请组建服务集群基于融合调度器Kubernetes调度组件调度计算集群,采用容器技术调度适配异构资源,基于气象超算架构智算集群队列管理软件接口,实现基于融合调度器Slurm调度组件调度,实现超算架构智算集群原生作业调度,采用弹性超算容器技术,构建适配超算架构智算算力及软件栈分布式环境;形成融合统一调度技术,实现统一高效调度利用,提升资源利用效率。
-
公开(公告)号:CN116643860A
公开(公告)日:2023-08-25
申请号:CN202310462061.9
申请日:2023-04-26
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明公开针对气象机器学习算法运行的优先级调度方法、系统、设备及其计算机程序产品,其中方法包括:根据用户业务特性,将用户配置到相应优先级群组中;当计算任务所需的资源规格大于当前集群的空闲资源时,根据用户所在优先级群组,生成优先级队列;根据优先级队列以及外部沟通情况对资源进行调度和回收;系统包括:优先级信息配置模块,优先级队列生成模块,调度模块和操作模块;电子设备包括存储器、处理器和计算机程序;处理器执行计算机程序时实现上述优先级调度方法;计算机程序产品,被处理器执行时实现上述优先级调度方法的步骤。本发明主要针对气象机器学习训练场景,能够兼顾资源充足时的按需调度以及资源不足时的优先级调度。
-
公开(公告)号:CN115484276A
公开(公告)日:2022-12-16
申请号:CN202211016098.0
申请日:2022-08-24
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: H04L67/1097 , H04L67/568 , H04L9/40 , H04L67/133
Abstract: 本发明公开了一种基于虚拟数据湖的气象数据文件目录服务生成方法及系统,其中方法包括以下步骤:S1、对虚拟数据湖的节点位置进行布设;S2、管理员对异构文件系统相关信息进行配置;S3、管理员通过虚拟数据湖服务端创建对外虚拟服务目录,将多套异构文件系统中的数据聚合形成统一服务虚拟目录视图,实现数据虚拟入湖;S4、在虚拟数据湖服务端创建用户及用户所属分组,并对所属分组进行授权,授权完成后,用户获得该分组对目录的读写权限;S5、用户挂载文件目录访问客户端,用户可将虚拟数据湖服务端的虚拟文件系统中有权限目录直接作为本地存储进行读写使用。本发明能够解决目前一台存储设备已无法满足容量的需求的技术问题。
-
-