电网时序大数据存储方法
    11.
    发明公开

    公开(公告)号:CN104239447A

    公开(公告)日:2014-12-24

    申请号:CN201410441649.7

    申请日:2014-09-01

    CPC classification number: G06F16/2246 G06F16/221

    Abstract: 本发明公开了一种电网时序大数据存储方法,通过选择开源分布式列式数据库HBase作为存储层,结合电网业务中SG-CIM模型对业务逻辑上具有位置相关性的一批测点信息重新进行描述,通过设计一种合理的测点数据存储表的索引组织方式,利用HBase的分区和负载均衡功能,使得业务逻辑上具有位置相关性的一批测点的历史数据在物理存储上的位置是相邻的,从而使得对该批测点的历史数据进行查询时能够减少磁盘寻道时间,提高查询效率,为业务应用提供即时查询服务。

    一种基于FTP的数据交换系统

    公开(公告)号:CN104104738A

    公开(公告)日:2014-10-15

    申请号:CN201410385448.X

    申请日:2014-08-06

    Abstract: 本发明公开了一种基于FTP的数据交换系统,以实现电力系统数据的统一交换,本发明整个系统主要包括引擎(节点)、规则库、管理服务器、管理工具、开发接口,本数据交换系统基于标准数据规范和接口标准,配置数据交换服务,通过不同方式实现第三方系统数据的数据汇聚、整合与发布。本系统包括的功能模块主要有:数据提取模块、正向数据加工处理模块、批量数据传输模块、反向数据加工处理模块和数据存放模块。通过采用本发明的技术方案,能够实现企业或机构信息系统“横向集成,纵向贯通”的共享通道,实现对大规模数据的准确传输,保障电力系统中上下信息畅通、数据共享与应用集成。

    一种基于数据库日志的数据同步加载方法

    公开(公告)号:CN106709043A

    公开(公告)日:2017-05-24

    申请号:CN201611260560.6

    申请日:2016-12-30

    Inventor: 陈贤枭 卢强 王远

    CPC classification number: G06F16/172 G06F16/1815 G06F16/273

    Abstract: 本发明公开了一种基于数据库日志的数据同步加载方法,提供数据同步加载系统,该系统包括置于源端数据库的日志流数据解析模块和数据发送模块以及置于目标端数据库的数据接收缓存模块、数据适配恢复模块和数据加载模块,日志流数据解析模块和数据发送模块连接,数据发送模块和数据接收缓存模块连接,数据接收缓存模块分别与数据适配恢复模块和数据加载模块连接;通过对数据库操作过程中产生的日志文件进行分析得到数据操作动作,然后通过网络发送的方式将数据送达目标端,根据目标端数据库类型,选择对应的解析模式加载数据,达到异库备份目的,有效减小数据库备份过程中对业务系统影响,提高了数据备份的灵活性,提高了加载数据的可靠性和一致性。

    一种电网时序大数据并行加载方法

    公开(公告)号:CN104407879A

    公开(公告)日:2015-03-11

    申请号:CN201410566127.X

    申请日:2014-10-22

    Abstract: 本发明公开了一种电网时序大数据并行加载方法,以解决多客户端并行加载海量历史时序数据时遇到的不能并行加载而产生等待现象的问题。本发明通过对索引映射表做分区处理、根据待加载的数据量的大小对历史时序数据存储表做分区预处理、根据各数据节点上所分配的历史时序数据存储表分区的范围,对待加载的海量历史时序数据做保持数据局部性的处理,经过上述处理后能够有效减少并行加载海量历史时序数据时多客户端读写索引映射表文件遇到的磁盘IO冲突和集群不同节点之间网络通信开销,避免单节点加载海量历史时序数据时负载过重带来的性能问题。本方法能充分利用分布式并行处理能力,大大减少海量历史时序数据加载的时间。

Patent Agency Ranking