-
公开(公告)号:CN119474170A
公开(公告)日:2025-02-18
申请号:CN202411551913.2
申请日:2024-11-01
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F16/2458 , G06F16/22 , G06F17/18
Abstract: 本发明涉及数据库管理和优化技术领域,具体涉及一种数据库统计信息高频值修正方法,采用无放回取样依次对初步的MCV列表内值进行概率估算;对所有MCV值的概率进行修正处理;对比修正处理后的该值的置信区间的下界行数与其在所述样本数据中出现的行数;若样本数据中的行数大于置信区间的下限则认为该值为MCV,保留;否则,将该值从初步的MCV列表中移除;保留的MCV值组成偏差更小、修正后的MCV值列表。采用了超几何分布的方差和标准差来修正MCV的概率,经过修正处理后,可得到偏差更小的MCV值列表,较现有技术很大地提高了MCV信息准确度。
-
公开(公告)号:CN116996505B
公开(公告)日:2023-12-15
申请号:CN202311252984.8
申请日:2023-09-27
Applicant: 天津神舟通用数据技术有限公司
IPC: H04L67/06 , H04L67/288 , H04L67/56 , H04L67/60
Abstract: 本发明提供一种基于调度引擎的文件交换控制方法和系统,包括:定义文件交换任务,向调度引擎中的API节点发送启动文件交换任务请求;调度引擎中的API节点收到任务请求后,生成启动任务的调度命令;调度引擎中的多个调度节点轮询调度命令;当某个调度节点捕获到调度命令后,对调度命令加上分布式锁,阻止其他调度节点获取;该调度节点选择一个执行节点,向该执行节点发送文件交换任务指令;执行节点接收到任务指令后,对任务信息进行解析,获取任务类型,以及任务指定的交换节点,向交换节点发送文件交换请求;交换节点对待交换的文件进行切片后,根据并发数设置,调用文件交换服务并发交换文件;服务端并发接收并存储文件。
-
公开(公告)号:CN116996505A
公开(公告)日:2023-11-03
申请号:CN202311252984.8
申请日:2023-09-27
Applicant: 天津神舟通用数据技术有限公司
IPC: H04L67/06 , H04L67/288 , H04L67/56 , H04L67/60
Abstract: 本发明提供一种基于调度引擎的文件交换控制方法和系统,包括:定义文件交换任务,向调度引擎中的API节点发送启动文件交换任务请求;调度引擎中的API节点收到任务请求后,生成启动任务的调度命令;调度引擎中的多个调度节点轮询调度命令;当某个调度节点捕获到调度命令后,对调度命令加上分布式锁,阻止其他调度节点获取;该调度节点选择一个执行节点,向该执行节点发送文件交换任务指令;执行节点接收到任务指令后,对任务信息进行解析,获取任务类型,以及任务指定的交换节点,向交换节点发送文件交换请求;交换节点对待交换的文件进行切片后,根据并发数设置,调用文件交换服务并发交换文件;服务端并发接收并存储文件。
-
公开(公告)号:CN110533112A
公开(公告)日:2019-12-03
申请号:CN201910830182.8
申请日:2019-09-04
Applicant: 天津神舟通用数据技术有限公司
IPC: G06K9/62
Abstract: 本发明涉及一种车联网大数据跨域分析融合方法,其主要技术特点是:建立车联网云数据挖掘架构,该车联网云数据挖掘架构包括分布式数据访问引擎、并行挖掘引擎及代理节点和Web服务器集群;采用车联网数据挖掘算法进行数据挖掘;采用共享内存并行计算技术实现共享内存的并行功能。本发明采用由分布式数据访问引擎、并行挖掘引擎、Web服务器集群及代理节点构成的可支持并行计算的云数据挖掘架构,提高了面向海量数据的支撑能力;通过数据预处理技术、不确定数据预处理技术车联网行业数据处理与融合技术,优化流数据等车联网特有数据的支持;基于车联网流数据的挖掘、分析、聚类技术、行为识别、异常检测等新型数据挖掘算法,提升系统的智能化水平。
-
公开(公告)号:CN102831146A
公开(公告)日:2012-12-19
申请号:CN201210202879.9
申请日:2012-06-19
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F17/30
Abstract: 本发明涉及一种数据库子串过滤索引系统及其构建、查询方法,其技术特点是:该子串过滤索引系统包括将导入数据进行分片数据存储并从每个分片数据中提取出描述分片数据的子串特征构建一个或多个子串特征过滤位图的分片式数据存储模块,以及用于存储以子串特征过滤位图为子串特征索引的过滤索引存储模块,还包括该子串过滤索引系统的构建和查询方法。本发明设计合理,解决了传统索引空间占用大、压缩数据难以索引的的问题,实现了对海量文本数据高效的子串、关键字查询功能,大大减少了对数据的磁盘读写次数,提升了数据库的全表扫描性能。
-
公开(公告)号:CN102750376A
公开(公告)日:2012-10-24
申请号:CN201210209343.X
申请日:2012-06-25
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F17/30
Abstract: 本发明公开一种用于海量存储查询专用数据库的多版本存储引擎系统及其相关处理的实现方法。所述存储引擎系统包括:数据存储模块,用于存储压缩数据包;索引模块,用于存储和处理知识网格索引;数据缓存模块,用于存储插入数据;和修改存储区模块,用于存储事务对数据包的修改记录;其特征在于:将数据分块压缩成数据包存储,将数据的版本信息和修改记录存储在一个修改存储区中。这些模块构成了这个多版本存储引擎的整体框架,在这个框架的基础上本发明设计和实现了一系列查询处理和版本信息处理相关的关键算法,从而实现了多版本控制技术。通过这个多版本存储引擎,本发明使得该数据库支持了多版本操作,显著地提高了数据库系统的并发度,实现了数据库系统性能的极大提升。
-
公开(公告)号:CN102054050B
公开(公告)日:2012-08-01
申请号:CN201110033362.7
申请日:2011-01-30
Applicant: 天津神舟通用数据技术有限公司
IPC: G06F17/30
Abstract: 本发明涉及一种神通数据库的包机制的实现方法,包括包的创建方法、包的执行方法、包的编译方法和包的删除方法,通过包的创建、包的执行、包的编译和包的删除处理对包的系统表、包管理器和包实例进行管理,从而在神通数据库上实现包机制的功能。本发明实现了神通数据库与基于Oracle开发的应用程序的无缝对接功能,通过将复杂的应用逻辑转化为神通数据库服务器上的包,可以大大减少网络上数据的传输,降低应用开发的工作量,提高了神通数据库的执行效率。
-
-
-
-
-
-