面向复杂栅格数据处理任务的集群算力自适应调度方法

    公开(公告)号:CN118069307A

    公开(公告)日:2024-05-24

    申请号:CN202311468977.1

    申请日:2023-11-07

    Abstract: 本发明公开了一种面向复杂栅格数据处理任务的集群算力自适应调度方法,其步骤包括:1)将栅格数据分析步骤组件化,封装成独立运行的算子;2)按业务需要挑选算子组成有向无环图;3)在执行工作流时,根据算子依赖关系确定执行顺序,当多个算子执行顺序相同时,根据算子空间复杂度、时间复杂度和要处理的栅格数据像素个数确定算子优先级,优先级高的算子优先执行;4)在算子j执行之前,对所有工作节点的当前可用算力进行量化打分,根据得分比重将算子j对应的栅格数据按照空间范围进行逻辑分割,然后将分割得到的子空间分配给对应的工作节点;5)各工作节点根据收到的子空间的空间范围加载对应的数据块,并执行算子j对栅格数据块进行处理。

    一种LANDSAT影像数据的自适应格网剖分组织方法和装置

    公开(公告)号:CN108388590A

    公开(公告)日:2018-08-10

    申请号:CN201810088292.7

    申请日:2018-01-30

    CPC classification number: G06F17/3028

    Abstract: 本发明涉及一种LANDSAT影像数据的自适应格网剖分组织方法和装置。该方法包括:1)根据LANDSAT遥感影像的分辨率确定全球等经纬度格网大小,并定义格网ID;2)根据一景LANDSAT影像的投影信息和边界范围,选择包含该景LANDSAT影像区域的格网;3)对格网进行投影转换,并进行平移变换和边界缓冲扩展,使得格网边界与LANDSAT影像的像素边界重合;4)读取格网范围内LANDSAT影像的切片数值,其形式为二维数组;5)对读取到的多个二维数组进行组织并构建索引。本发明能够保证LANDSAT影像数据无变形且像素无丢失,可支持快速直接读取LANDSAT影像数据的数值信息。

    一种基于WEB的遥感影像多波段自由组合渲染方法

    公开(公告)号:CN105718514A

    公开(公告)日:2016-06-29

    申请号:CN201610023810.8

    申请日:2016-01-14

    CPC classification number: G06F17/30339 G06T17/00 G06T2207/10032

    Abstract: 本发明公开了一种基于WEB的遥感影像多波段自由组合渲染方法。本方法为:1)服务器端根据遥感影像的属性信息生成一遥感数据标识及对应存储目录,然后将各波段灰度数据及其元数据存储到对应目录中;2)浏览器端根据用户选择的波段组合及期望的样式信息构造切片请求协议发送给服务器端;3)服务器端根据该切片请求协议中的遥感数据标识及波段组合计算得到一hash值,然后将该hash值在服务器端的缓存中进行查找,如果缓存中已存在该切片请求协议对应的切片,则将其返回为该浏览器端;否则根据该切片请求协议对灰度数据进行渲染、叠加,得到合成切片返回给该浏览器端。本方法可在浏览器端对同一遥感影像的不同波段进行动态组合渲染。

    一种面向遥感影像数据的高效缓存方法及系统

    公开(公告)号:CN110276713A

    公开(公告)日:2019-09-24

    申请号:CN201910371530.X

    申请日:2019-05-06

    Abstract: 本发明公开了一种面向遥感影像数据的高效缓存方法及系统,其步骤为:1)各Data节点将收到的单个原始遥感影像数据文件从逻辑上分为多个固定大小的数据块,并将原始的遥感影像数据文件保存在存储系统中;各Data节点将申请的内存空间分割为多个固定大小的内存块并将其放到空闲队列中;2)当Data节点收到客户端的数据写入请求,Data节点根据该数据写入请求中的数据写入位置、待写入数据的长度计算出涉及到的数据块编号;然后根据所述数据块编号将待写入数据写入到所申请内存块中,最后将所有发生变化的内存块的元数据信息发送给Master节点进行更新。本发明能够高效读写大规模遥感影像数据。

    一种大规模序列数据的解析处理方法及装置

    公开(公告)号:CN116431700A

    公开(公告)日:2023-07-14

    申请号:CN202310267230.3

    申请日:2023-03-15

    Abstract: 本发明公开了一种大规模序列数据的解析处理方法及装置。本方法为:1)遍历所有待解析处理的序列文件,将文件路径、大小、类型记录到主队列中;2)选取多个解析服务器并在每一所述解析服务器上部署一解析进程,用于向主队列发送解析请求;主队列接到解析请求后,为对应的解析服务器创建一个工作队列,将分配给该解析服务器的序列文件集合Fi迁移至所述工作队列中;3)第i个解析服务器开始解析序列文件集合Fi中的第j个序列文件Fij时,将开始解析时间以及解析Fij的进程标识记录到Fij中;4)第i个解析服务器将Fij的解析结果存储于中间文件中;5)将不同中间文件路径写入不同队列并监听,将对应的中间文件存入数据库。

    一种小文件对象的存取方法和装置

    公开(公告)号:CN111026707A

    公开(公告)日:2020-04-17

    申请号:CN201911070575.X

    申请日:2019-11-05

    Abstract: 本发明公开了一种小文件对象的存取方法和装置,其步骤为:1)将待存储的小文件对象以数据流的方式存储到数据对象存储库中,并将所述小文件对象的小文件对象标识信息写入元数据库和数据对象存储库的索引文件中;2)当客户端请求读取所述小文件对象时,根据所请求小文件对象的元数据信息查询元数据库获取所请求小文件对象的文件对象位置信息和对应的关联数据获取规则;然后根据关联数据获取规则从元数据库获取与当前所请求小文件对象的关联小文件对象位置信息;然后根据所请求小文件对象的小文件对象位置信息和关联小文件对象位置信息从数据对象存储库中获取对应数据返回给客户端并存储到缓存数据库中。

    一种面向海量遥感影像的并行数据访问方法与系统

    公开(公告)号:CN110442444A

    公开(公告)日:2019-11-12

    申请号:CN201910524378.4

    申请日:2019-06-18

    Abstract: 本发明公开了一种面向海量遥感影像的并行数据访问方法与系统,其存储方法为:1)用于采用设定网格体系对待处理的遥感影像进行切分,每一网格内的数据对应一数据块;2)收集过去一段时间内底层分布式对象存储系统Ceph的数据访问日志,衡量各Ceph集群的负载指标和各Pool的负载指标;3)依据步骤2)确定的负载指标,选择当前负载最小的Ceph集群中负载最小的Pool作为当前数据块的存储位置,将各个数据块写入对应Pool中;4)各数据块存储成功后,返回一数据标识dataid和该遥感影像的数据访问路径;5)将各数据块的元数据存储于元数据库。本发明可以支持基于步骤1)划分的网格数据块的大区域数据快速高并发读写。

    一种小文件对象的存取方法和装置

    公开(公告)号:CN111026707B

    公开(公告)日:2023-01-17

    申请号:CN201911070575.X

    申请日:2019-11-05

    Abstract: 本发明公开了一种小文件对象的存取方法和装置,其步骤为:1)将待存储的小文件对象以数据流的方式存储到数据对象存储库中,并将所述小文件对象的小文件对象标识信息写入元数据库和数据对象存储库的索引文件中;2)当客户端请求读取所述小文件对象时,根据所请求小文件对象的元数据信息查询元数据库获取所请求小文件对象的文件对象位置信息和对应的关联数据获取规则;然后根据关联数据获取规则从元数据库获取与当前所请求小文件对象的关联小文件对象位置信息;然后根据所请求小文件对象的小文件对象位置信息和关联小文件对象位置信息从数据对象存储库中获取对应数据返回给客户端并存储到缓存数据库中。

    一种基于WEB的遥感影像多波段自由组合渲染方法

    公开(公告)号:CN105718514B

    公开(公告)日:2019-05-17

    申请号:CN201610023810.8

    申请日:2016-01-14

    Abstract: 本发明公开了一种基于WEB的遥感影像多波段自由组合渲染方法。本方法为:1)服务器端根据遥感影像的属性信息生成一遥感数据标识及对应存储目录,然后将各波段灰度数据及其元数据存储到对应目录中;2)浏览器端根据用户选择的波段组合及期望的样式信息构造切片请求协议发送给服务器端;3)服务器端根据该切片请求协议中的遥感数据标识及波段组合计算得到一hash值,然后将该hash值在服务器端的缓存中进行查找,如果缓存中已存在该切片请求协议对应的切片,则将其返回为该浏览器端;否则根据该切片请求协议对灰度数据进行渲染、叠加,得到合成切片返回给该浏览器端。本方法可在浏览器端对同一遥感影像的不同波段进行动态组合渲染。

    面向用户自定义上下文的水文模型自动校准方法和系统

    公开(公告)号:CN119514315A

    公开(公告)日:2025-02-25

    申请号:CN202411381566.3

    申请日:2024-09-30

    Abstract: 本发明属于水文模型参数自动校准技术,涉及一种面向用户自定义上下文的水文模型自动校准方法和系统。该方法获取用户指定的水文模型的待优化的参数及其取值范围,采用元知识库和贝叶斯优化算法相结合的水文模型参数自动优化算法,对待优化的参数进行优化。该系统包括客户端、应用服务层、资源层。采用本发明,用户只需输入相关的参数和数据,即可自动生成最优的模型参数组合,实现水文模型的高效校准和应用,能够显著减少用户的工作量和时间成本,能够支持用户自定义空间范围和参数设置,满足个性化需求。本发明结合元学习与贝叶斯优化算法,充分利用历史优化结果,使复杂的水文模型参数优化过程更加高效、自动化。

Patent Agency Ranking