-
公开(公告)号:CN116643860A
公开(公告)日:2023-08-25
申请号:CN202310462061.9
申请日:2023-04-26
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明公开针对气象机器学习算法运行的优先级调度方法、系统、设备及其计算机程序产品,其中方法包括:根据用户业务特性,将用户配置到相应优先级群组中;当计算任务所需的资源规格大于当前集群的空闲资源时,根据用户所在优先级群组,生成优先级队列;根据优先级队列以及外部沟通情况对资源进行调度和回收;系统包括:优先级信息配置模块,优先级队列生成模块,调度模块和操作模块;电子设备包括存储器、处理器和计算机程序;处理器执行计算机程序时实现上述优先级调度方法;计算机程序产品,被处理器执行时实现上述优先级调度方法的步骤。本发明主要针对气象机器学习训练场景,能够兼顾资源充足时的按需调度以及资源不足时的优先级调度。
-
公开(公告)号:CN116010098B
公开(公告)日:2023-08-22
申请号:CN202310084316.2
申请日:2023-01-18
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明公开了一种基于雷达流的虚拟体扫数据生成方法和装置,属于气象信息处理领域。本发明提出了虚拟体扫数据的技术,将仰角数据与体扫基数据有机结合,将最新的仰角数据融入体扫基数据,从而获得与仰角数据实时同步的虚拟体扫数据供应用使用。本发明无需等待全体扫结束后才能使用雷达数据,可以在不改变用户现有使用全体扫基数据的应用程序的基础上,而获得最新的仰角的基数据,实现了仰角数据与用户应用的无缝对接,可以为短临预报等高时效应用提供更高时效的雷达数据。
-
公开(公告)号:CN116089366A
公开(公告)日:2023-05-09
申请号:CN202211678248.4
申请日:2022-12-26
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: G06F16/13 , G06F16/11 , G06F16/16 , G06F16/172 , G06F16/31
Abstract: 本发明公开了一种通用可配置的非结构化气象数据处理方法和装置,属于气象信息处理领域。本发明针对气象数据中非结构化数据存储过程需要的索引提取过程,设计了通用的计算引擎,通过支持函数计算等,实现了可配置化的通用处理,可以快速实现对各类数据文件的规范化存储和索引入库,在气象大数据云平台中400多类非结构化数据存储和索引入库,均采用本发明实现,相较于固定开发,将非结构化数据根据文件名提取索引的开发效率提升了几十倍,节省了90%以上的工作量,节省了大量投资,极大的缩短了新数据的接入时的开发时间。
-
公开(公告)号:CN115484276A
公开(公告)日:2022-12-16
申请号:CN202211016098.0
申请日:2022-08-24
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: H04L67/1097 , H04L67/568 , H04L9/40 , H04L67/133
Abstract: 本发明公开了一种基于虚拟数据湖的气象数据文件目录服务生成方法及系统,其中方法包括以下步骤:S1、对虚拟数据湖的节点位置进行布设;S2、管理员对异构文件系统相关信息进行配置;S3、管理员通过虚拟数据湖服务端创建对外虚拟服务目录,将多套异构文件系统中的数据聚合形成统一服务虚拟目录视图,实现数据虚拟入湖;S4、在虚拟数据湖服务端创建用户及用户所属分组,并对所属分组进行授权,授权完成后,用户获得该分组对目录的读写权限;S5、用户挂载文件目录访问客户端,用户可将虚拟数据湖服务端的虚拟文件系统中有权限目录直接作为本地存储进行读写使用。本发明能够解决目前一台存储设备已无法满足容量的需求的技术问题。
-
公开(公告)号:CN116126552A
公开(公告)日:2023-05-16
申请号:CN202211678249.9
申请日:2022-12-26
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: G06F9/54 , G06F16/242 , G06F16/2457 , G06F16/28
Abstract: 本发明公开了一种基于Storm的海量气象观测数据处理方法和装置,属于气象信息处理领域。本发明设计了新的STORM处理框架,可以直接对接RabbitMQ的BUFR格式消息,减少了从传输到入库的中间环节,实现了数据即来即处理,每个报文、BUFR消息都是一条Tuple,实现了从传输到入库的全流程不落地处理,且采用多个Bolt并行运行,极大的提高了处理时效。
-
公开(公告)号:CN116010098A
公开(公告)日:2023-04-25
申请号:CN202310084316.2
申请日:2023-01-18
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明公开了一种基于雷达流的虚拟体扫数据生成方法和装置,属于气象信息处理领域。本发明提出了虚拟体扫数据的技术,将仰角数据与体扫基数据有机结合,将最新的仰角数据融入体扫基数据,从而获得与仰角数据实时同步的虚拟体扫数据供应用使用。本发明无需等待全体扫结束后才能使用雷达数据,可以在不改变用户现有使用全体扫基数据的应用程序的基础上,而获得最新的仰角的基数据,实现了仰角数据与用户应用的无缝对接,可以为短临预报等高时效应用提供更高时效的雷达数据。
-
-
-
-
-