公开(公告)号：CN113791742B

公开(公告)日：2022-03-25

申请号：CN202111368382.X

申请日：2021-11-18

Applicant: 南湖实验室 ,  北京大数据先进技术研究院

Inventor： 刘昊 ,  陈志凌 ,  张涛 ,  王朋 ,  王秋烨 ,  郁晨熹 ,  陈巍 ,  刘荫隆 ,  刘哲峰 ,  屠勇刚

IPC: G06F3/06 ,  G06F9/50

Abstract: 本发明提供了一种高性能的数据湖系统及数据存储方法，数据存储方法包括以下步骤：S1.将文件转成文件流；S2.将文件流转成一个数组嵌套多个子数组的形式；S3.将所述的转成RDD后存储至数据湖的存储层中。本方案提出嵌套的字段结构，为出湖过程的并行处理提供字段结构基础，有效提高出湖性能，并且根据硬件内核灵活生成嵌套的子数组数量，使数据湖具有更强的扩展性能，针对不同的用户均能够保持最佳的入湖效率，满足用户需求。

公开(公告)号：CN114510522B

公开(公告)日：2025-03-11

申请号：CN202210030132.3

申请日：2022-01-12

Applicant: 南湖实验室 ,  北京大数据先进技术研究院

Inventor： 刘昊 ,  王秋烨 ,  谭玉珊 ,  张磊 ,  张涛 ,  陈志凌 ,  陈巍 ,  王朋 ,  郁晨熹 ,  刘荫隆 ,  刘哲峰

IPC: G06F16/25 ,  G06F16/27 ,  G06F16/28

Abstract: 本发明提供了一种基于数据分类的数据总线，数据总线按照数据结构种类被划分为多个数据空间，每一类数据结构对应一个数据空间，每个数据空间对应一个接口基类和多个接口子类，各接口子类通过继承相应数据空间中的接口基类进行本数据总线与相应数据结构种类的子类数据结构之间的对接。在数据总线中按照数据结构种类划分数据空间，每个数据空间对应于多种子类型数据结构，用户在操作数据时，只需要区分数据属于哪一大类，无需细分到具体的数据类别，方便用户的使用，同时方便用户扩展新的数据类型，无需进行重写。

公开(公告)号：CN118018627A

公开(公告)日：2024-05-10

申请号：CN202410157575.8

申请日：2024-02-04

Applicant: 南湖实验室

Inventor： 张涛 ,  刘昊 ,  王朋 ,  郁晨熹 ,  陈巍 ,  王琪 ,  刘荫隆 ,  陈志凌 ,  刘哲峰

IPC: H04L69/16 ,  H04L67/12

Abstract: 本发明公开一种基于管道‑过滤器架构的数据传输方法、系统及设备，涉及数据传输领域，该方法包括分别构建用于数据输入的抽象Source过滤器、用于数据转换的抽象Transform过滤器和用于数据输出的抽象Sink过滤器；抽象Source过滤器、抽象Transform过滤器和抽象Sink过滤器均为抽象过滤器；用户自定义过滤器继承自抽象过滤器；抽象Transform过滤器和抽象Sink过滤器均继承自AbstractActor；构建数据管道；基于Actor模型，将用户确定的过滤器分别添加至数据管道中，构建管道‑过滤器链路；利用构建的管道‑过滤器链路进行数据的传输。本发明能够提高数据传输的效率和通用性。

公开(公告)号：CN114528337B

公开(公告)日：2024-03-15

申请号：CN202210029808.7

申请日：2022-01-12

Applicant: 南湖实验室 ,  北京大数据先进技术研究院

Inventor： 刘昊 ,  程瑾 ,  罗威 ,  张涛 ,  王秋烨 ,  陈志凌 ,  陈巍 ,  郁晨熹 ,  王朋 ,  刘哲峰 ,  刘荫隆

IPC: G06F16/25 ,  G06F8/36 ,  G06F16/28

Abstract: 本发明公开了一种面向多源异构数据源的接口系统、通用接口及其实现方法，以面向多源异构数据源的通用接口实现方法为基础，包括：新建一个工程，并在工程内建立一个通用接口；在通用接口中建立相互独立的数据集合和操作集合；其中，数据集合被定义为能够被具体数据类型继承，且包括数据基类和继承数据基类的二级数据类；操作集合包括操作基类和继承操作基类的二级操作类；且所述的二级操作类被定义有其适用的具体数据类型以实现数据集合与操作集合的解耦与正交。通用接口中数据和操作形成两个独立的集合，并将操作抽象为接口，实现数据与操作的解耦和正交，使数据和操作能够自由地组合，实现操作的复用。

公开(公告)号：CN116340317A

公开(公告)日：2023-06-27

申请号：CN202310272727.4

申请日：2023-03-21

Applicant: 南湖实验室

Inventor： 刘昊 ,  刘荫隆 ,  陈巍 ,  王秋烨 ,  王朋 ,  郁晨熹 ,  刘哲峰 ,  陈志凌 ,  张涛 ,  王琪

IPC: G06F16/22 ,  G06F16/242 ,  G06F18/25

Abstract: 本方案公开了一种基于Elasticsearch实现DeltaLake数据湖索引的方法，入湖时，Spark对源数据进行抽取，对抽取出的数据集进行Schema分析，同时增加数据存储地址信息组成索引结构，实现入湖过程中，针对不同数据源的数据，如果用户未选择创建索引的列，由系统自动推断索引结构，实现基于数据源种类的天然分类。搜索时，不同源数据具有不同的索引结构，源数据因此被分类，查询过程中，根据用户指定在某一类或几类数据范围内进行查询，指定某一类数据进行快速查询。本方案针对Delta Lake数据湖引入Elasticsearch，实现了Elasticsearch与Delta Lake有机结合。在数据入湖过程中，异步建立索引，在数据搜索过程中，只需要关键字，就能迅速定位到已经建立索引的数据的位置，进而快速抓取到需要的数据。