-
公开(公告)号:CN116910099B
公开(公告)日:2023-11-17
申请号:CN202311139421.8
申请日:2023-09-06
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/2455 , G06F16/22 , G06F16/2453 , G06F16/2458
Abstract: 本申请公开了一种数据处理方法、装置、设备及介质,数据处理方法包括:获取各第一数据单元和各第二数据单元,其中,各第一数据单元和各第二数据单元分别由第一数据集和第二数据集中的目标数据得到;对各第一数据单元和各第二数据单元执行条件过滤操作,根据第一关联条件对经条件过滤操作后剩余的各第一数据单元和各第二数据单元进行关联过滤操作;对经关联过滤操作后剩余的各第一数据单元执行重组操作,得到各第一数据单元集;根据第一数据单元集对经关联过滤操作后剩余的各第二数据单元执行重组操作,得到各第二数据单元集;其中,各第一数据单元集无交集;对具有映射关系的第一数据单元集和第二数据单元集执行数据处理操作,得到数据处理结果。
-
公开(公告)号:CN117131069B
公开(公告)日:2023-12-22
申请号:CN202311398767.X
申请日:2023-10-26
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/242 , G06F16/22 , G06F16/2455
Abstract: 本发明公开一种数据库单表分组扫描方法,包括:步骤S1:在SQL语句中提供分组数量和当前要获取的分组序号;步骤S2:启动分组扫描begin阶段,得到当前页面;步骤S3:启动分组扫描next阶段,从分组扫描获取PFS页面;步骤S4:分组扫描返回有效PFS页面则执行步骤S6,否则执行步骤S5;步骤S5:分组扫描已经结束,结束堆扫描;步骤S6:当前PFS页面是否存在下一个有效范围,是则继续,否则执行步骤S3;步骤S7获取有效范围,解析8个页面上的所有行,并将所有行放到待发送缓冲区;步骤S8将缓冲区中的数据发送给前端,并回到步骤S6。本发明对表中数据进行跳跃式分组访问为并行获取数据库单表数据提供支撑。
-
公开(公告)号:CN117131069A
公开(公告)日:2023-11-28
申请号:CN202311398767.X
申请日:2023-10-26
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/242 , G06F16/22 , G06F16/2455
Abstract: 本发明公开一种数据库单表分组扫描方法,包括:步骤S1:在SQL语句中提供分组数量和当前要获取的分组序号;步骤S2:启动分组扫描begin阶段,得到当前页面;步骤S3:启动分组扫描next阶段,从分组扫描获取PFS页面;步骤S4:分组扫描返回有效PFS页面则执行步骤S6,否则执行步骤S5;步骤S5:分组扫描已经结束,结束堆扫描;步骤S6:当前PFS页面是否存在下一个有效范围,是则继续,否则执行步骤S3;步骤S7获取有效范围,解析8个页面上的所有行,并将所有行放到待发送缓冲区;步骤S8将缓冲区中的数据发送给前端,并回到步骤S6。本发明对表中数据进行跳跃式分组访问为并行获取数据库单表数据提供支撑。
-
公开(公告)号:CN116756093A
公开(公告)日:2023-09-15
申请号:CN202311038429.5
申请日:2023-08-17
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/13 , G06F16/172 , G06F16/41
Abstract: 本申请公开了一种大对象存储、查询方法、装置、设备及介质,所述方法包括:获取待存储的大对象,确定大对象的类型;对大对象执行第一类存储操作,包括:根据大对象的类型,确定大对象的索引信息和索引信息存储方式;按照索引信息存储方式存储索引信息,以及,若索引信息不包括大对象的数据内容,则将大对象的数据内容存储到大对象段;或,对大对象执行第二类存储操作,包括:根据大对象的类型,判断是否需要生成大对象的索引信息;若是,则根据大对象的类型,确定大对象的索引信息和索引信息存储方式,按照索引信息存储方式存储索引信息,并将大对象的数据内容存储到大对象段;或,若否,则将大对象的数据内容存储到大对象属性列。
-
公开(公告)号:CN115361434A
公开(公告)日:2022-11-18
申请号:CN202210930712.8
申请日:2022-08-04
Applicant: 天津神舟通用数据技术有限公司
IPC: H04L67/145 , H04L67/1004
Abstract: 本发明涉及一种分布式系统高负载情况下的多路径心跳检测方法,其技术特点是:包括同步运行的独立心跳检测方法、业务功能心跳检测方法和对端主动应答心跳检测方法,如果任何一种心跳检测方法结果是正常的,则本轮心跳检测结果是正常的。本发明设计合理,其融合了高频检测、长超时时间、多路径检测的心跳检测方法,通过独立的心跳检测、业务功能、对端主动应答以及动态识别超时事件等方法,可以在较短的时间内识别出心跳故障状态,又可以在系统高压力下应对系统误判心跳故障问题,极大提升了数据库的稳定性和可用性。
-
公开(公告)号:CN115309550A
公开(公告)日:2022-11-08
申请号:CN202210930830.9
申请日:2022-08-04
Applicant: 天津神舟通用数据技术有限公司
Abstract: 本发明涉及一种MPP并行数据库实例级副本均衡方法,其技术特点是:存储IO的均衡策略为每个WAL日志配置单独存储硬盘,为业务数据配置一个共享的大容量存储硬盘;物理内存的均衡策略采用动态的数据页面缓冲区分配方式;计算资源的均衡策略采用自适应工作方式;回切原主实例策略包括平滑模式rebalance和速度模式rebalance以满足不同的场景需求。本发明充分考虑MPP并行数据库中并行计算、批量装载数据以及一次写入多次查询的特点,分别从存储IO、物理内存、计算资源和回切原主实例这四个方面进行实例级副本的均衡,最终实现了在不妥协从实例的冗余能力的基础上最大化主实例的计算服务能力。
-
公开(公告)号:CN116360709B
公开(公告)日:2023-08-08
申请号:CN202310629133.4
申请日:2023-05-31
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F3/06
Abstract: 本发明提供一种数据存取系统,包括,第一SSD缓存阵列,包括多个并联的SSD存储器;处理器,分别连接到多个并联的SSD存储器;第二双SSD目录备份存储器,包括两个互为备份的SSD存储器,且与第一SSD缓存阵列相连;第一HDD磁盘阵列,包括多个HDD磁盘,用于存储数据;多个传感器,用于探测SSD存储器和HDD磁盘的状态数据;性能管理单元,包括第一接口,分别连接到第一SSD缓存阵列中的每个SSD存储器;第三接口,分别连接到第一HDD磁盘阵列中的每个HDD磁盘;第二接口,与处理器相连;第四接口,连接到多个传感器,获取传感器探测的状态数据;第五接口,连接到第二双SSD目录备份存储器。
-
公开(公告)号:CN115309837A
公开(公告)日:2022-11-08
申请号:CN202210930836.6
申请日:2022-08-04
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/28 , G06F16/2457 , G06Q30/02
Abstract: 本发明涉及一种基于列式存储的流水排序方法,其技术特点是:包括异步IO线程、流水化线程和排序线程,其根据所有CU的元信息构建CU序列,并根据CU序列的最小值信息构造边界序列,在排序过程中,将CU视为一个数据集合,对于相邻的两个CU,使用后一个CU的最小值做边界将数据划分为两部分,前一部分可以作为子集合单独排序,后一部分和第二个CU组成一个新的集合,再和后面的CU继续进行相同的处理,实现流水排序。本发明设计合理,实现了对采用列式存储并且近似有序的数据集合进行快速排序功能,具有处理速度快、占用资源小等特点。
-
公开(公告)号:CN115145961B
公开(公告)日:2025-05-16
申请号:CN202210778517.8
申请日:2022-07-01
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/2455 , G06F16/901
Abstract: 本发明涉及一种神通数据库三层缓存段搜索管理结构及页面查找方法,其技术特点是:包括线程级缓存、段搜索全局缓存和物理空间;线程级缓存是一个线程的局部缓存;段搜索全局缓存包括全局缓存结点及全局缓存结点管理的一批空闲页面项,每个缓存结点管理的页面项按照空闲空间档位组织成多级链表;物理空间采用PFS页面进行管理,段内所有PFS页面均为多叉树状结构,一个PFS页面管理若干个数据页面,每个PFS页面记录一批数据页面以及它们的空间空闲值。本发明设计合理,提高了多线程并发查找页面的性能,有效地提高了并发性和吞吐率,解决了每次查找页面时都去访问段的PFS树造成大量I/O以及多个线程并发对PFS树进行搜索时产生的资源竞争的问题。
-
公开(公告)号:CN115174452B
公开(公告)日:2024-05-31
申请号:CN202210765191.5
申请日:2022-07-01
Applicant: 天津神舟通用数据技术有限公司
Abstract: 本发明涉及一种基于Oracle数据库协议代理的应用移植方法,其技术特点是:使用TNS协议代理程序对原Oracle网络进行拦截及监听;建立应用与TNS协议代理程序之间的连接、TNS协议代理程序与神通数据库之间的连接以及两个连接的映射关系;应用客户端通过TNS协议代理程序进行认证授权;认证授权后,TNS协议代理程序解析应用客户端发送的数据包并转发给神通数据库处理,神通数据库处理后通过TNS协议代理程序将处理结果发送给Oracle驱动。本发明采用将通信协议翻译转换为与神通数据库之间的协议模式,有效地解决了缺少应用系统源码难以进行移植的问题,并且任何语言开发的应用系统都可以访问神通数据库,提高了开发效率、降低了开发难度、扩大了应用范围。
-
-
-
-
-
-
-
-
-