-
公开(公告)号:CN116089366B
公开(公告)日:2023-09-01
申请号:CN202211678248.4
申请日:2022-12-26
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: G06F16/13 , G06F16/11 , G06F16/16 , G06F16/172 , G06F16/31
Abstract: 本发明公开了一种通用可配置的非结构化气象数据处理方法和装置,属于气象信息处理领域。本发明针对气象数据中非结构化数据存储过程需要的索引提取过程,设计了通用的计算引擎,通过支持函数计算等,实现了可配置化的通用处理,可以快速实现对各类数据文件的规范化存储和索引入库,在气象大数据云平台中400多类非结构化数据存储和索引入库,均采用本发明实现,相较于固定开发,将非结构化数据根据文件名提取索引的开发效率提升了几十倍,节省了90%以上的工作量,节省了大量投资,极大的缩短了新数据的接入时的开发时间。
-
公开(公告)号:CN118158289A
公开(公告)日:2024-06-07
申请号:CN202410569717.1
申请日:2024-05-09
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明公开了一种气象自动站标准格式数据消息传输方法、装置及设备,涉及气象数据传输技术领域,该方法包括基于数据标准编码格式规范,台站地面综合观测业务软件将国内气象观测数据封装为BUFR数据文件,并将所述BUFR数据文件写入接口目录;通过国内气象通信系统在台站平台部署传输客户端,为台站地面综合观测业务软件提供接口,将所述BUFR数据文件封装成消息发送至省级消息服务器;根据消息交换控制策略,省级消息服务器将所述消息转发至国家级的消息传输服务端。本申请能够有效提升气象自动站观测数据的高时效传输,统一国家级自动气象站通信传输技术体制。
-
公开(公告)号:CN116055043A
公开(公告)日:2023-05-02
申请号:CN202310068160.9
申请日:2023-02-06
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明公开一种数据服务接口鉴权方法及接口网关系统,鉴权方法:生成当前时间戳和随机字符串;将调用者标识、用户秘钥、时间戳和随机字符串拼接到数据请求参数中;按照数据请求参数名的字母升序排列数据请求参数;对数据请求参数数据串进行算法加密,并将加密字符串转成大写,形成参数签名参数;将调用者标识、随机字符串、时间戳和参数签名拼接在数据请求参数中,形成调用请求;判断调用者标识和参数签名是否合法,时间戳是否有效,唯一随机字符串是否存在于服务端集合之中;根据判断结果进行放行或者返回错误码。接口网关系统包括采用上述鉴权方法进行鉴权的用户认证模块。本发明解决了气象数据接口安全性差和服务接口不统一的问题。
-
公开(公告)号:CN118626879B
公开(公告)日:2024-10-29
申请号:CN202411092524.8
申请日:2024-08-09
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: G06F18/22
Abstract: 本发明公开了一种基于模板识别的BUFR数据处理方法、装置及设备,涉及气象信息处理领域,该方法包括解析目标BUFR数据,提取数据标识段中的主表版本号和数据描述段中的描述符序列;根据码表以及提取的主表版本号和描述符序列,对目标BUFR数据进行展开,获得目标BUFR数据的模板信息;将获得的模板信息与BUFR数据已知模板进行匹配,基于匹配结果对目标BUFR数据进行解码或存储目标BUFR数据的模板信息至已知模板中。本申请能够实现新增模板数据的及时发现,且基于模板建立对应关系,有效解决解码错位的问题,要素的解码正确性显著提高。
-
公开(公告)号:CN118626879A
公开(公告)日:2024-09-10
申请号:CN202411092524.8
申请日:2024-08-09
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: G06F18/22
Abstract: 本发明公开了一种基于模板识别的BUFR数据处理方法、装置及设备,涉及气象信息处理领域,该方法包括解析目标BUFR数据,提取数据标识段中的主表版本号和数据描述段中的描述符序列;根据码表以及提取的主表版本号和描述符序列,对目标BUFR数据进行展开,获得目标BUFR数据的模板信息;将获得的模板信息与BUFR数据已知模板进行匹配,基于匹配结果对目标BUFR数据进行解码或存储目标BUFR数据的模板信息至已知模板中。本申请能够实现新增模板数据的及时发现,且基于模板建立对应关系,有效解决解码错位的问题,要素的解码正确性显著提高。
-
公开(公告)号:CN115630108A
公开(公告)日:2023-01-20
申请号:CN202211357172.5
申请日:2022-11-01
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明提出了一种基于用户位置的天气实况数据服务接口系统,其基于网格数据分块处理和快速查询的数据存储模型,采用微服务应用模式设计并实现了基于用户位置的天气实况数据服务接口,提升了数据服务时效和用户并发数,为解决同一时刻同一位置不同应用发布的天气实况数据不一致的问题提供了技术支撑。并向全国气象部门54个应用提供天气实况数据,单月访问量超过1亿,系统的高并发、高时效、高可用得到验证。
-
公开(公告)号:CN113076361A
公开(公告)日:2021-07-06
申请号:CN202110285941.4
申请日:2021-03-17
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明公开了一种基于大数据技术的海量气象数据统一服务接口的实现方法,其实现方法包括:首先,基于气象数据环境中的各类数据资源,建立适配不同数据格式的接口,获取和处理各种类型的数据;其次,按照接口的输入参数、输出格式等标准对接口进行标准化封装,提供标准化的调用接口;再次,根据不同的服务类型,调用标准化的调用接口来实现气象数据统一服务,且所述气象数据统一服务接口分为通用接口和定制接口;最后,用户调用气象数据统一服务接口来获取不同的服务,用于向各应用系统提供统一的数据支撑服务。
-
公开(公告)号:CN119377217A
公开(公告)日:2025-01-28
申请号:CN202411428902.5
申请日:2024-10-14
Applicant: 国家气象信息中心(中国气象局气象数据中心)
IPC: G06F16/22 , G06F16/215 , G06F21/60
Abstract: 本发明公开一种确保两地三中心自动气象站数据一致性的检查及处理方法,分别对存储在主中心和备中心的自动站数据构建主中心和备中心的HashMap集合;对比主中心和备中心的HashMap集合,获得记录差异集合和要素差异集合;优先对北京备中心记录差异集合和要素差异集合进行处理后,对西安备中心做相同处理。在主备中心对自动气象站数据表每行记录构建对比值字符串,进行MD5加密计算构建Hash码,建立行记录主备中心的HashMap集合对比文件,通过比对主备中心生成的记录差异集合和要素差异集合文件,以主中心为基准,快速定位备中心中不一致的数据记录,从主中心中将差异数据记录取出更新备中心,确保数据的一致性和可靠性。
-
公开(公告)号:CN118158289B
公开(公告)日:2024-09-10
申请号:CN202410569717.1
申请日:2024-05-09
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明公开了一种气象自动站标准格式数据消息传输方法、装置及设备,涉及气象数据传输技术领域,该方法包括基于数据标准编码格式规范,台站地面综合观测业务软件将国内气象观测数据封装为BUFR数据文件,并将所述BUFR数据文件写入接口目录;通过国内气象通信系统在台站平台部署传输客户端,为台站地面综合观测业务软件提供接口,将所述BUFR数据文件封装成消息发送至省级消息服务器;根据消息交换控制策略,省级消息服务器将所述消息转发至国家级的消息传输服务端。本申请能够有效提升气象自动站观测数据的高时效传输,统一国家级自动气象站通信传输技术体制。
-
公开(公告)号:CN116643860A
公开(公告)日:2023-08-25
申请号:CN202310462061.9
申请日:2023-04-26
Applicant: 国家气象信息中心(中国气象局气象数据中心)
Abstract: 本发明公开针对气象机器学习算法运行的优先级调度方法、系统、设备及其计算机程序产品,其中方法包括:根据用户业务特性,将用户配置到相应优先级群组中;当计算任务所需的资源规格大于当前集群的空闲资源时,根据用户所在优先级群组,生成优先级队列;根据优先级队列以及外部沟通情况对资源进行调度和回收;系统包括:优先级信息配置模块,优先级队列生成模块,调度模块和操作模块;电子设备包括存储器、处理器和计算机程序;处理器执行计算机程序时实现上述优先级调度方法;计算机程序产品,被处理器执行时实现上述优先级调度方法的步骤。本发明主要针对气象机器学习训练场景,能够兼顾资源充足时的按需调度以及资源不足时的优先级调度。
-
-
-
-
-
-
-
-
-