-
公开(公告)号：CN116643860A
公开(公告)日：2023-08-25
申请号：CN202310462061.9
申请日：2023-04-26
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明公开针对气象机器学习算法运行的优先级调度方法、系统、设备及其计算机程序产品，其中方法包括：根据用户业务特性，将用户配置到相应优先级群组中；当计算任务所需的资源规格大于当前集群的空闲资源时，根据用户所在优先级群组，生成优先级队列；根据优先级队列以及外部沟通情况对资源进行调度和回收；系统包括：优先级信息配置模块，优先级队列生成模块，调度模块和操作模块；电子设备包括存储器、处理器和计算机程序；处理器执行计算机程序时实现上述优先级调度方法；计算机程序产品，被处理器执行时实现上述优先级调度方法的步骤。本发明主要针对气象机器学习训练场景，能够兼顾资源充足时的按需调度以及资源不足时的优先级调度。
-
公开(公告)号：CN116089366A
公开(公告)日：2023-05-09
申请号：CN202211678248.4
申请日：2022-12-26
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: G06F16/13 , G06F16/11 , G06F16/16 , G06F16/172 , G06F16/31
Abstract: 本发明公开了一种通用可配置的非结构化气象数据处理方法和装置，属于气象信息处理领域。本发明针对气象数据中非结构化数据存储过程需要的索引提取过程，设计了通用的计算引擎，通过支持函数计算等，实现了可配置化的通用处理，可以快速实现对各类数据文件的规范化存储和索引入库，在气象大数据云平台中400多类非结构化数据存储和索引入库，均采用本发明实现，相较于固定开发，将非结构化数据根据文件名提取索引的开发效率提升了几十倍，节省了90％以上的工作量，节省了大量投资，极大的缩短了新数据的接入时的开发时间。
-
公开(公告)号：CN115484276A
公开(公告)日：2022-12-16
申请号：CN202211016098.0
申请日：2022-08-24
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: H04L67/1097 , H04L67/568 , H04L9/40 , H04L67/133
Abstract: 本发明公开了一种基于虚拟数据湖的气象数据文件目录服务生成方法及系统，其中方法包括以下步骤：S1、对虚拟数据湖的节点位置进行布设；S2、管理员对异构文件系统相关信息进行配置；S3、管理员通过虚拟数据湖服务端创建对外虚拟服务目录，将多套异构文件系统中的数据聚合形成统一服务虚拟目录视图，实现数据虚拟入湖；S4、在虚拟数据湖服务端创建用户及用户所属分组，并对所属分组进行授权，授权完成后，用户获得该分组对目录的读写权限；S5、用户挂载文件目录访问客户端，用户可将虚拟数据湖服务端的虚拟文件系统中有权限目录直接作为本地存储进行读写使用。本发明能够解决目前一台存储设备已无法满足容量的需求的技术问题。
-
公开(公告)号：CN116126973B
公开(公告)日：2024-09-24
申请号：CN202211725278.6
申请日：2022-12-29
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: G06F16/27 , G06F16/22 , G06F16/2455 , G06F16/28
Abstract: 本发明公开了一种气象格点数据管理方法和装置，属于气象信息处理领域。本发明提供基于MPP分布式数据库的气象格点数据存储管理方案，同时针对常见分析算法实现了分布式并行优化，有效提升了格点数据的访问性能。通过PostGrid数据库插件的形式，在数据库内部原生支持格点数据的存储；通过SQL实现对格点数据的操作，包括数据写入、简单查询和复杂分析；充分利用并行处理的优势，针对部分聚合函数实现分布式执行优化；将格点数据以关系模型的方式管理,继承了关系型数据库相比于文件系统的诸多优点，如事务支持，SQL支持，多用户共享等。
-
公开(公告)号：CN116010525B
公开(公告)日：2023-10-13
申请号：CN202310051735.6
申请日：2023-02-02
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明公开一种气象模式数据解码处理方法，包括如下步骤：采用多线程方式，读取模式数据源文件；将所述模式数据源文件拆分成模式单场文件；将拆分的所述模式单场文件进行解析，解析完成后得到模式数据属性和模式数据内容；根据气象服务需求，将解析得到的所述模式数据属性和所述模式数据内容，重新存储入分布式表格数据库，和/或重组生成模式产品文件后入分布式文件库+索引表；待数据处理和入库完成后，将入库数据的DI信息发送至“天镜”监控系统。本发明能处理和接入几乎所有现有业务中的GRIB格式的模式数据，以支撑不同的模式数据服务需求。本发明采用java语言开发，可扩展性强，平台移植性高，能同时在不同平台运行。
-
Patent Agency Ranking
公开(公告)号：CN116126973A
公开(公告)日：2023-05-16
申请号：CN202211725278.6
申请日：2022-12-29
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: G06F16/27 , G06F16/22 , G06F16/2455 , G06F16/28
Abstract: 本发明公开了一种气象格点数据管理方法和装置，属于气象信息处理领域。本发明提供基于MPP分布式数据库的气象格点数据存储管理方案，同时针对常见分析算法实现了分布式并行优化，有效提升了格点数据的访问性能。通过PostGrid数据库插件的形式，在数据库内部原生支持格点数据的存储；通过SQL实现对格点数据的操作，包括数据写入、简单查询和复杂分析；充分利用并行处理的优势，针对部分聚合函数实现分布式执行优化；将格点数据以关系模型的方式管理,继承了关系型数据库相比于文件系统的诸多优点，如事务支持，SQL支持，多用户共享等。
-
公开(公告)号：CN116126942B
公开(公告)日：2023-11-24
申请号：CN202310087591.X
申请日：2023-02-09
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: G06F16/2458 , G06F16/22 , G06F16/27
Abstract: 本发明提出了一种多维空间气象网格数据分布式存储查询方法，其包括：步骤1：构建多维空间的网格化数据模型；步骤1：构建多维空间的网格化数据模型；步骤2：基于构建的网格化数据模型，建立索引与数据的对应关系，将整个气象网格数据分解为多个数据块，形成数据块池；步骤3：将模型、索引‑数据㬇射关系存储到索引表，每个索引对应的数据块存储到分布式NoSQL数据库系统的数据表；步骤4：通过计算和查询索引，获取到索引对应的数据块，合并数据块形成新的网格数据集。
-
公开(公告)号：CN116126942A
公开(公告)日：2023-05-16
申请号：CN202310087591.X
申请日：2023-02-09
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: G06F16/2458 , G06F16/22 , G06F16/27
Abstract: 本发明提出了一种多维空间气象网格数据分布式存储查询方法及系统，其包括：步骤1：构建多维空间的网格化数据模型；步骤1：构建多维空间的网格化数据模型；步骤2：基于构建的网格化数据模型，建立索引与数据的对应关系，将整个气象网格数据分解为多个数据块，形成数据块池；步骤3：将模型、索引‑数据射关系存储到索引表，每个索引对应的数据块存储到分布式NoSQL数据库系统的数据表；步骤4：通过计算和查询索引，获取到索引对应的数据块，合并数据块形成新的网格数据集；步骤5：通过上述步骤，实现多维空间气象网格数据分布式存储查询系统。
-
公开(公告)号：CN116089366B
公开(公告)日：2023-09-01
申请号：CN202211678248.4
申请日：2022-12-26
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: G06F16/13 , G06F16/11 , G06F16/16 , G06F16/172 , G06F16/31
Abstract: 本发明公开了一种通用可配置的非结构化气象数据处理方法和装置，属于气象信息处理领域。本发明针对气象数据中非结构化数据存储过程需要的索引提取过程，设计了通用的计算引擎，通过支持函数计算等，实现了可配置化的通用处理，可以快速实现对各类数据文件的规范化存储和索引入库，在气象大数据云平台中400多类非结构化数据存储和索引入库，均采用本发明实现，相较于固定开发，将非结构化数据根据文件名提取索引的开发效率提升了几十倍，节省了90％以上的工作量，节省了大量投资，极大的缩短了新数据的接入时的开发时间。
-
公开(公告)号：CN116010525A
公开(公告)日：2023-04-25
申请号：CN202310051735.6
申请日：2023-02-02
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明公开一种气象模式数据解码处理方法，包括如下步骤：采用多线程方式，读取模式数据源文件；将所述模式数据源文件拆分成模式单场文件；将拆分的所述模式单场文件进行解析，解析完成后得到模式数据属性和模式数据内容；根据气象服务需求，将解析得到的所述模式数据属性和所述模式数据内容，重新存储入分布式表格数据库，和/或重组生成模式产品文件后入分布式文件库+索引表；待数据处理和入库完成后，将入库数据的DI信息发送至“天镜”监控系统。本发明能处理和接入几乎所有现有业务中的GRIB格式的模式数据，以支撑不同的模式数据服务需求。本发明采用java语言开发，可扩展性强，平台移植性高，能同时在不同平台运行。
-
-
-
-
-
-
-
-
-
Search Results
11
records
(took 0.05 seconds)
