-
公开(公告)号:CN104239447A
公开(公告)日:2014-12-24
申请号:CN201410441649.7
申请日:2014-09-01
Applicant: 江苏瑞中数据股份有限公司
IPC: G06F17/30
CPC classification number: G06F16/2246 , G06F16/221
Abstract: 本发明公开了一种电网时序大数据存储方法,通过选择开源分布式列式数据库HBase作为存储层,结合电网业务中SG-CIM模型对业务逻辑上具有位置相关性的一批测点信息重新进行描述,通过设计一种合理的测点数据存储表的索引组织方式,利用HBase的分区和负载均衡功能,使得业务逻辑上具有位置相关性的一批测点的历史数据在物理存储上的位置是相邻的,从而使得对该批测点的历史数据进行查询时能够减少磁盘寻道时间,提高查询效率,为业务应用提供即时查询服务。
-
公开(公告)号:CN104104738A
公开(公告)日:2014-10-15
申请号:CN201410385448.X
申请日:2014-08-06
Applicant: 江苏瑞中数据股份有限公司
Abstract: 本发明公开了一种基于FTP的数据交换系统,以实现电力系统数据的统一交换,本发明整个系统主要包括引擎(节点)、规则库、管理服务器、管理工具、开发接口,本数据交换系统基于标准数据规范和接口标准,配置数据交换服务,通过不同方式实现第三方系统数据的数据汇聚、整合与发布。本系统包括的功能模块主要有:数据提取模块、正向数据加工处理模块、批量数据传输模块、反向数据加工处理模块和数据存放模块。通过采用本发明的技术方案,能够实现企业或机构信息系统“横向集成,纵向贯通”的共享通道,实现对大规模数据的准确传输,保障电力系统中上下信息畅通、数据共享与应用集成。
-
公开(公告)号:CN106709043A
公开(公告)日:2017-05-24
申请号:CN201611260560.6
申请日:2016-12-30
Applicant: 江苏瑞中数据股份有限公司
IPC: G06F17/30
CPC classification number: G06F16/172 , G06F16/1815 , G06F16/273
Abstract: 本发明公开了一种基于数据库日志的数据同步加载方法,提供数据同步加载系统,该系统包括置于源端数据库的日志流数据解析模块和数据发送模块以及置于目标端数据库的数据接收缓存模块、数据适配恢复模块和数据加载模块,日志流数据解析模块和数据发送模块连接,数据发送模块和数据接收缓存模块连接,数据接收缓存模块分别与数据适配恢复模块和数据加载模块连接;通过对数据库操作过程中产生的日志文件进行分析得到数据操作动作,然后通过网络发送的方式将数据送达目标端,根据目标端数据库类型,选择对应的解析模式加载数据,达到异库备份目的,有效减小数据库备份过程中对业务系统影响,提高了数据备份的灵活性,提高了加载数据的可靠性和一致性。
-
公开(公告)号:CN105574074A
公开(公告)日:2016-05-11
申请号:CN201510819767.1
申请日:2015-11-23
Applicant: 江苏瑞中数据股份有限公司
IPC: G06F17/30
CPC classification number: G06F16/2219
Abstract: 本发明公开了一种基于智能电网WAMS的时序大数据存储方法,属于实时数据库技术领域。本发明根据WAMS场景建立相应的键-值存储模型作为数据模型,以每秒钟每一个测点创建一个存储单元,存储单元的长度根据WAMS数据的采样频率设置,在数据加载过程中采用预写日志技术,对数据中值进行压缩,而键保持不变,根据加载数据的规模、加载频率,对数据进行分库。本发明能够满足于智能电网WAMS场景的时序大数据快速加载、查询,具有很强的高可靠性。
-
公开(公告)号:CN104407879A
公开(公告)日:2015-03-11
申请号:CN201410566127.X
申请日:2014-10-22
Applicant: 江苏瑞中数据股份有限公司
IPC: G06F9/445
Abstract: 本发明公开了一种电网时序大数据并行加载方法,以解决多客户端并行加载海量历史时序数据时遇到的不能并行加载而产生等待现象的问题。本发明通过对索引映射表做分区处理、根据待加载的数据量的大小对历史时序数据存储表做分区预处理、根据各数据节点上所分配的历史时序数据存储表分区的范围,对待加载的海量历史时序数据做保持数据局部性的处理,经过上述处理后能够有效减少并行加载海量历史时序数据时多客户端读写索引映射表文件遇到的磁盘IO冲突和集群不同节点之间网络通信开销,避免单节点加载海量历史时序数据时负载过重带来的性能问题。本方法能充分利用分布式并行处理能力,大大减少海量历史时序数据加载的时间。
-
-
-
-