-
公开(公告)号:CN118331880A
公开(公告)日:2024-07-12
申请号:CN202410544376.2
申请日:2024-04-30
Applicant: 北京人大金仓信息技术股份有限公司
Abstract: 本发明提供了一种数据库的数据同步程序多节点测试方法、存储介质及产品。其中,数据库的数据同步程序多节点测试方法包括:构建带有不同数据库的最小化操作系统的镜像并上传到镜像仓库;创建数据同步程序的自动化测试脚本的环境配置文件,根据待测试组合和拓扑结构确定其节点信息;启动镜像生成待测试组合和拓扑结构对应的数据库容器;在对应的数据库容器中部署数据同步程序;创建自动化测试脚本的测试套配置文件,根据待测试组合和拓扑结构确定其自动化测试用例;以及获取待测试组合和拓扑结构的自动化测试用例,按照测试套顺序执行自动化测试用例,能够基于容器实现数据库数据同步程序测试环境的快速部署,提高部署灵活性并提高测试效率。
-
公开(公告)号:CN118069744A
公开(公告)日:2024-05-24
申请号:CN202410205481.3
申请日:2024-02-23
Applicant: 北京人大金仓信息技术股份有限公司
IPC: G06F16/27
Abstract: 本发明提供了一种数据同步方法、存储介质及设备。其中,数据处理方法包括:启动解析主线程,当所述解析主线程识别到待同步事务的提交事件后,创建一个线程变更队列;将所述待同步事务的事务ID和所述线程变更队列提交至二次解析线程池,创建一个二次解析线程;启动所述二次解析线程,获取所述待同步事务的初次解析数据;对所述初次解析数据进行二次解析得到二次解析数据,将所述二次解析数据提交到所述线程变更队列。本发明的优点是可以在二次解析阶段使用多线程并行处理,提高待同步事务的整体解析速度。
-
公开(公告)号:CN112231409B
公开(公告)日:2024-04-26
申请号:CN202011144072.5
申请日:2020-10-23
Applicant: 北京人大金仓信息技术股份有限公司 , 太极计算机股份有限公司
IPC: G06F16/27
Abstract: 本公开实施例公开了一种数据库同步的初始化装载方法、装置、设备和存储介质。该方法包括:获取源端数据库中日志的当前活动SCN,并向源端数据同步服务发送同步暂停请求,以控制源端数据同步服务在当前活动SCN处暂停日志解析操作;将源端数据库中待装载的表数据封装为源端数据同步服务对应的目标数据格式,并将封装后的待装载的表数据插入源端数据同步服务对应的同步文件中;向源端数据同步服务发送同步恢复请求,以使源端数据同步服务将同步文件发送至目标端数据库。实现了将待装载的表数据插入数据同步的同步文件中,从而利用数据库中增量数据的同步机制,将源端数据库中待装载的表数据同步至目标端数据库。
-
公开(公告)号:CN117827862A
公开(公告)日:2024-04-05
申请号:CN202311864435.6
申请日:2023-12-29
Applicant: 北京人大金仓信息技术股份有限公司
Abstract: 本申请提供一种数据校验方法、装置、设备和介质,判断每个初始分片区间的分散因子是否处于分散因子区间内,若否,根据第一分片区间的分散因子重新划分第一分片区间。而后,计算重新划分后,所有分片区间的分散因子,并判断所有分片区间的分散因子是否处于分散因子区间内,若否,继续重新划分,直至划分次数在预设次数内时,所有分片区间的分散因子处于分散因子区间内,将最后一次划分后的所有分片区间作为目标分片区间。最后,基于目标分片区间对表进行并行校验。由于所有分片区间的分散因子处于分散因子区间内,则所有分片区间的数据量相差较小,提高分片均匀性,从而能够在基于分片区间进行并行校验时,提升校验速度,缩短校验时间。
-
公开(公告)号:CN117609376A
公开(公告)日:2024-02-27
申请号:CN202311587612.0
申请日:2023-11-24
Applicant: 北京人大金仓信息技术股份有限公司
Abstract: 本申请提供一种数据处理方法、装置、设备和介质,读取数据库事务日志,判断事务日志记录的变更数据表的表名是否匹配底层过滤白名单中的表名;若变更数据表的表名与底层过滤白名单中的表名匹配,则判定变更数据需要同步;若变更数据表的表名与底层过滤白名单中的表名不匹配,判断变更数据表是否为分区表,若否,判定变更数据不需要同步,若是,获取变更数据表对应的主分区表;在获取变更数据表对应的主分区表之后,判断变更数据表对应的主分区表的表名是否匹配底层过滤白名单中的表名,若是,判定变更数据需要同步,若否,判定变更数据不需要同步。本申请的方案准确的实现数据的过滤和同步,减少底层过滤白名单的配置的复杂性,提升数据同步效率。
-
公开(公告)号:CN117609261A
公开(公告)日:2024-02-27
申请号:CN202311587156.X
申请日:2023-11-24
Applicant: 北京人大金仓信息技术股份有限公司
Abstract: 本发明提供一种数据校验方法、装置、设备、介质和计算机程序产品,该方法包括:获取源端数据库对应的目标文件,所述目标文件包括所述源端数据库中同步至目标端数据库的各个第一数据的第一标识;在所述目标端数据库中,获取当前同步至所述目标端数据库中的数据对应的第二标识;根据各个所述第一数据同步至所述目标端数据库的同步规则、所述第二标识以及所述目标文件中的各个第一标识,确定已同步至所述目标端数据库的第一数据,作为第二数据;确定所述第二数据在所述目标端数据库所对应的数据以作为第三数据,并比对所述第二数据与所述第三数据是否一致。本申请中,提高了数据校验效率。
-
公开(公告)号:CN116244380A
公开(公告)日:2023-06-09
申请号:CN202310147437.7
申请日:2023-02-09
Applicant: 北京人大金仓信息技术股份有限公司
IPC: G06F16/27 , G06F16/2455 , G06F9/54
Abstract: 本发明提供了一种数据库的同步事务的处理方法、存储介质与计算机设备。其中数据库的同步端预先配置有多个并行的分区通道,并且每个分区通道设置有各自的入库队列,并且上述数据库的同步事务的处理方法包括:获取待分配至分区通道的事务;提取事务的所有关联表的信息;在预设的分区索引集合中查找包含事务的任一关联表信息的分区通道,分区索引集合用于记录各分区通道的入库队列中的事务及其关联表信息;根据查找结果为事务分配分区通道。本发明的方案,在保证关联事务顺序提交的前提下,使用多入库队列和多入库器并行提交入库,提升了数据的入库效率。
-
公开(公告)号:CN116166474A
公开(公告)日:2023-05-26
申请号:CN202310259064.2
申请日:2023-03-16
Applicant: 北京人大金仓信息技术股份有限公司
Abstract: 本发明提供了一种数据库日志的离线解析方法、存储介质及设备。数据库日志的离线解析方法包括:预先获取源端数据库的数据库日志的日志路径;预先导出源端数据库的数据字典;根据日志路径查找并扫描数据库日志中的文件,得到待解码文件;将待解码文件放入预先配置的解码队列中;从解码队列中读取并解析待解码文件。通过预先导出源端数据库的数据库日志的日志路径以及源端数据库的数据字典,可以利用预先导出的日志路径和数据字典在源端数据库无法被访问的情况下进行数据同步,并且利用队列保证解析的先后顺序符合要求。
-
公开(公告)号:CN116150275A
公开(公告)日:2023-05-23
申请号:CN202310174703.5
申请日:2023-02-27
Applicant: 北京人大金仓信息技术股份有限公司
IPC: G06F16/27 , G06F16/2458
Abstract: 本发明提供了一种数据同步方法、存储介质及设备。该数据同步方法包括:获取待同步的数据;将所述待同步的数据写入缓冲队列;判断所述待同步的数据是否满足预设的传输条件;若是,将所述缓冲队列的数据写入临时文件;校验所述临时文件,并将所述临时文件的数据拷贝至目标数据库。本发明的优点是能够以文件形式进行数据的传输,满足跨隔离设备的数据同步,同时保证了数据同步的性能和效率。
-
公开(公告)号:CN116150274A
公开(公告)日:2023-05-23
申请号:CN202310152480.2
申请日:2023-02-22
Applicant: 北京人大金仓信息技术股份有限公司
IPC: G06F16/27 , G06F16/215
Abstract: 本发明提供了一种数据同步方法、存储介质及设备,该数据同步方法包括:从多个影子表中查找起始日志序号,将所述起始日志序号对应数据所在的影子表记为第一影子表;从所述第一影子表中抽取全部的增量数据,确定全部的增量数据中最大的日志序号,并将所述最大的日志序号记为数据断点;从其余影子表中抽取日志序号小于等于所述数据断点的增量数据;将从所述多个影子表中抽取的增量数据封装为一个分片,并存入中间文件。本发明的优点是只需记录一个数据断点即可在抽取增量数据使数据不重复、不缺失,有效保证了生产环境中数据的可靠性。
-
-
-
-
-
-
-
-
-