一种云平台安全处理方法、控制器和云计算系统

    公开(公告)号:CN105376345B

    公开(公告)日:2019-01-25

    申请号:CN201510849738.X

    申请日:2015-11-27

    Abstract: 本申请提供了一种云平台安全处理方法、控制器和云计算系统,用以保障主机的安全,该方法包括:控制器接收地址解析协议请求;根据所述请求携带的信息判断所述请求是虚拟集群的请求或物理集群的请求;根据判断结果采用虚拟集群或物理集群的控制策略。通过控制器的操作,实现了虚拟平台和物理集群的剥离,使得整个云平台的系统运行不会影响到物理集群的运行,不会因为虚拟平台的攻击请求使得真实的物理机或者控制器受到攻击。

    一种数据聚合查询的方法及装置

    公开(公告)号:CN104504154B

    公开(公告)日:2018-01-16

    申请号:CN201510018619.X

    申请日:2015-01-14

    Abstract: 本发明提供了一种数据聚合查询的方法及装置,方法包括:第一级节点对各自存储的数据执行聚合查询,所述节点为无共享架构下的节点;将第一级节点执行聚合查询后得到的数据汇总至第二级节点;第二级节点对第一级节点执行聚合查询后得到的数据执行聚合查询。装置包括:第一执行模块,用于在第一级节点对各自存储的数据执行聚合查询,所述节点为无共享架构下的节点;汇总模块,用于将第一级节点执行聚合查询后得到的数据汇总至第二级节点;第二执行模块,用于在第二级节点对第一级节点执行聚合查询后得到的数据执行聚合查询。采用本发明的技术方案,能够有效降低了数据聚合查询的网络通信开销,提高了数据聚合查询的效率。

    一种数据存储系统
    3.
    发明公开

    公开(公告)号:CN107066205A

    公开(公告)日:2017-08-18

    申请号:CN201611257420.3

    申请日:2016-12-30

    Inventor: 惠润海 杨浩

    Abstract: 本发明提出了一种数据存储系统,该数据存储系统包括:Hadoop集群,和设置在Hadoop集群中的组件、NFS服务器模块,其中,组件包括Map‑Reduce框架,并且Map‑Reduce框架用于执行Map‑Reduce流程,以及Map‑Reduce流程包括Map任务和Reduce任务,设置在NFS服务器模块中的磁盘阵列模块,并且通过磁盘阵列模块和NFS服务器模块构成共享存储设备,从而为Hadoop集群提供了存储,以及将各个Map任务的结果存储至共享存储设备,以去掉shuffle过程,从而优化了Map任务和Reduce任务的流程;以及组件将Hadoop集群中使用的文件切分为多个块,并且将每个块均发到不同的计算机节点,从而实现了负载均衡。本发明通过该数据存储系统,从而使得系统在性价比、可靠性、可维护、性能等方面均得到了较大改善。

    实时数据分析方法及系统

    公开(公告)号:CN106844539A

    公开(公告)日:2017-06-13

    申请号:CN201611255750.9

    申请日:2016-12-30

    CPC classification number: G06F17/30321 G06F17/30477 G06F17/30545

    Abstract: 本发明公开了一种实时数据分析方法和实时数据分析系统,该实时数据分析方法包括:根据需求构造检索算子、读取算子、和聚合分析算法;根据检索算子和读取算子对索引表和数据表进行检索以获取分析字段数据;以及根据聚合分析算法对分析字段数据进行聚合分析;其中,索引表和数据表均采用key‑value形式的列式存储,索引表配置为分析数据的各个字段与对应的字段数据的索引表。能够提升索引的灵活性和数据聚合分析性能。

    数据的监控方法及装置
    5.
    发明公开

    公开(公告)号:CN105930370A

    公开(公告)日:2016-09-07

    申请号:CN201610227558.2

    申请日:2016-04-13

    CPC classification number: G06F17/30572 G06F17/30716

    Abstract: 本发明提出了一种数据的监控方法及装置,该数据的监控方法包括:监控并获取数据的热度信息、分布信息以及流向信息;将热度信息、分布信息、流向信息进行图形展示。本发明通过以图形的方式将获取到的数据的热度信息、分布信息以及流向信息进行展示,从而能够更加直观的展示数据的自身规律,使数据分析变得更加高效、准确。

    一种数据关联、加载、查询方法及装置

    公开(公告)号:CN104408159A

    公开(公告)日:2015-03-11

    申请号:CN201410734165.1

    申请日:2014-12-04

    Abstract: 本发明提供了一种数据关联、加载、查询方法及装置,方法包括如下步骤确定需要关联的两个数据对象,将两个数据对象中数据量较小的数据对象以(key,value)方式放入内存的类Hashtable结构中,对另一数据对象中的每条记录生成对应的key值,通过对key值进行哈希Hash确定每条记录是否与内存中的key值关联;当存在关联时,将所有存在关联的记录作为新数据对象输出;将关联后的新数据对象加载到Hadoop平台的指定组件上;当接收到查询请求时,根据查询字段在关联后的新数据对象中进行查找并返回查询结果;本发明所提供的技术方案,优化了数据对象关联机制,进而提高了系统的关联查询效率。

    一种数据存储系统
    7.
    发明授权

    公开(公告)号:CN107066205B

    公开(公告)日:2020-06-05

    申请号:CN201611257420.3

    申请日:2016-12-30

    Inventor: 惠润海 杨浩

    Abstract: 本发明提出了一种数据存储系统,该数据存储系统包括:Hadoop集群,和设置在Hadoop集群中的组件、NFS服务器模块,其中,组件包括Map‑Reduce框架,并且Map‑Reduce框架用于执行Map‑Reduce流程,以及Map‑Reduce流程包括Map任务和Reduce任务,设置在NFS服务器模块中的磁盘阵列模块,并且通过磁盘阵列模块和NFS服务器模块构成共享存储设备,从而为Hadoop集群提供了存储,以及将各个Map任务的结果存储至共享存储设备,以去掉shuffle过程,从而优化了Map任务和Reduce任务的流程;以及组件将Hadoop集群中使用的文件切分为多个块,并且将每个块均发到不同的计算机节点,从而实现了负载均衡。本发明通过该数据存储系统,从而使得系统在性价比、可靠性、可维护、性能等方面均得到了较大改善。

    一种数据迁移系统
    8.
    发明公开

    公开(公告)号:CN105843955A

    公开(公告)日:2016-08-10

    申请号:CN201610227555.9

    申请日:2016-04-13

    CPC classification number: G06F16/278

    Abstract: 本发明提出了一种数据迁移系统,该系统包括:源数据库;第一输入/输出模块,用于读取源数据库的源数据并发送;内存计算模块,用于接收源数据,以及对源数据进行划分并发送;第二输入/输出模块,用于接收划分后的数据,并发送到对应的集群数据库;至少两个集群数据库,用于接收划分后的数据并存储。本发明通过采用基于块的读取方式将数据从源数据库中读取到内存中,然后按照数据的划分规则完成数据的划分,将划分好的数据通过块写入的方式写入集群数据库的对应目标数据库中。由于采用了基于块I/O和内存计算的方式,避免了耗时的数据读取的和高效的数据划分的同时运行,因此大大的提高了数据迁移的效率。

    一种文件处理方法及装置

    公开(公告)号:CN104462349A

    公开(公告)日:2015-03-25

    申请号:CN201410738371.X

    申请日:2014-12-05

    CPC classification number: G06F17/30091

    Abstract: 本发明提供了一种文件处理方法及装置,方法包括:获取多个日志文件的配置信息,配置信息包括日志文件的存储位置和存储级别,存储级别为根据日志文件的生成时间确定;根据存储级别将多个日志文件映射成文件组;当需要对日志文件进行分析时,根据设定的查找时间在不同存储级别的文件组中定位待分析的日志文件,并根据日志文件的存储位置获取待分析的日志文件。采用本发明所提供的技术方案,可以提高日志查找分析的速度,解决传统日志分析技术不能适应大数据日志文件处理的技术问题。

Patent Agency Ranking