-
公开(公告)号:CN118069745A
公开(公告)日:2024-05-24
申请号:CN202410205740.2
申请日:2024-02-23
Applicant: 北京人大金仓信息技术股份有限公司
IPC: G06F16/27 , G06F16/242
Abstract: 本发明提供了一种基于事务日志的SQL Server增量获取方法、存储介质及设备。其中,基于事务日志的SQL Server增量获取方法包括:启动源端数据同步软件;读取SQL Server的事务日志文件并识别出数据断点;判断所述数据断点是否在在线日志中;若是,从所述数据断点开始解析所述在线日志。本发明的优点是通过直接解析事务日志,避免了常规轮询方法带来的性能损耗,可以准确跟踪数据的变化,不会因表结构的变更而导致解析错误,并且可以支持DDL和DML变更,而不仅仅是DML变更。
-
公开(公告)号:CN116340360A
公开(公告)日:2023-06-27
申请号:CN202310141681.2
申请日:2023-02-08
Applicant: 北京人大金仓信息技术股份有限公司
IPC: G06F16/2455 , G06F16/27 , G06F9/445
Abstract: 本发明提供了一种数据库的同步数据入库方法、存储介质与计算机设备。其中入库方法包括:获取等待同步入库的事务;按照预设的分区规则为事务分配分区通道,其中同步目标数据库预先配置有多个分区通道,并且每个分区通道具有各自的入库队列及入库器;获取事务的关键事务标记状态以及多个分区通道内的入库队列状态;根据关键事务标记状态以及队列状态判断是否满足阻塞条件;若是,则等待多个分区通道内的队列全部清空后,将事务放入被分配的分区通道的入库队列中。本发明的方案,在保证关联事务顺序提交的前提下,使用多入库队列和多入库器并行提交入库,加快了文件缓存中的事务的入库速度,提升了数据的入库效率。
-
公开(公告)号:CN118093717A
公开(公告)日:2024-05-28
申请号:CN202410205743.6
申请日:2024-02-23
Applicant: 北京人大金仓信息技术股份有限公司
Abstract: 本发明提供了一种数据同步方法、存储介质及设备。其中,该数据同步方法用于在源端数据库与多个目标端数据库之间进行数据同步,每个目标端同步软件与源端同步软件的连接器一一对应连接,数据同步方法包括:读取一个待同步的事务数据,计算待同步的事务数据所需的使用内存;获取所有连接器的全局缓存容量上限和全局缓存已使用内存;根据事务数据所需的使用内存、全局缓存容量上限和全局缓存已使用内存判断当前连接器能否存放事务数据;若不能,发送当前连接器的事务数据,并清空当前连接器。本发明的优点是能够动态管理同步过程中的内存使用,减少源端同步软件出现内存溢出的风险,提高数据同步的可靠性。
-
公开(公告)号:CN116244382A
公开(公告)日:2023-06-09
申请号:CN202310233870.2
申请日:2023-03-03
Applicant: 北京人大金仓信息技术股份有限公司
IPC: G06F16/27 , G06F16/22 , G06F16/23 , G06F16/2455
Abstract: 本发明提供了一种数据库同步数据的处理方法、存储介质与设备。其中上述方法包括:数据库对事务数据进行解析,并将断点信息保存至每条解析后的事务数据中;在事务数据中获取断点信息,并根据断点信息与LSN段找到待同步数据表集合;通过断点信息与待同步数据表集合在CD表中查找已变更目标数据行的更改操作信息,并进行同步。通过这种方法,避免了断点与数据分开存储会导致的不一致的问题,保证了多张CD表事件数据的有序性,并且断点信息中记录了处理时的唯一序列号,可以在处理任意行时提交断点。
-
公开(公告)号:CN118467628A
公开(公告)日:2024-08-09
申请号:CN202410205429.8
申请日:2024-02-23
Applicant: 北京人大金仓信息技术股份有限公司
IPC: G06F16/27
Abstract: 本发明提供了一种数据同步方法、存储介质、设备及计算机程序产品。其中,数据同步方法包括:从初次解析的事务数据中提取事务ID和日志序列号,并将提取的事务ID和日志序列号存入缓冲器中;定期检查当前时刻与缓冲器中当前缓存事务的最早摄入时刻的差值是否大于预设阈值;若是,对缓冲器中的所有事务数据进行快照;生成本次快照的元信息,并将生成快照时缓冲器中的所有事务的最大日志序列号记为快照序列号。本发明的优点是可以有效减少解析长事务时软件异常恢复的时间,降低性能损耗。
-
公开(公告)号:CN118069744A
公开(公告)日:2024-05-24
申请号:CN202410205481.3
申请日:2024-02-23
Applicant: 北京人大金仓信息技术股份有限公司
IPC: G06F16/27
Abstract: 本发明提供了一种数据同步方法、存储介质及设备。其中,数据处理方法包括:启动解析主线程,当所述解析主线程识别到待同步事务的提交事件后,创建一个线程变更队列;将所述待同步事务的事务ID和所述线程变更队列提交至二次解析线程池,创建一个二次解析线程;启动所述二次解析线程,获取所述待同步事务的初次解析数据;对所述初次解析数据进行二次解析得到二次解析数据,将所述二次解析数据提交到所述线程变更队列。本发明的优点是可以在二次解析阶段使用多线程并行处理,提高待同步事务的整体解析速度。
-
公开(公告)号:CN117609376A
公开(公告)日:2024-02-27
申请号:CN202311587612.0
申请日:2023-11-24
Applicant: 北京人大金仓信息技术股份有限公司
Abstract: 本申请提供一种数据处理方法、装置、设备和介质,读取数据库事务日志,判断事务日志记录的变更数据表的表名是否匹配底层过滤白名单中的表名;若变更数据表的表名与底层过滤白名单中的表名匹配,则判定变更数据需要同步;若变更数据表的表名与底层过滤白名单中的表名不匹配,判断变更数据表是否为分区表,若否,判定变更数据不需要同步,若是,获取变更数据表对应的主分区表;在获取变更数据表对应的主分区表之后,判断变更数据表对应的主分区表的表名是否匹配底层过滤白名单中的表名,若是,判定变更数据需要同步,若否,判定变更数据不需要同步。本申请的方案准确的实现数据的过滤和同步,减少底层过滤白名单的配置的复杂性,提升数据同步效率。
-
公开(公告)号:CN116244380A
公开(公告)日:2023-06-09
申请号:CN202310147437.7
申请日:2023-02-09
Applicant: 北京人大金仓信息技术股份有限公司
IPC: G06F16/27 , G06F16/2455 , G06F9/54
Abstract: 本发明提供了一种数据库的同步事务的处理方法、存储介质与计算机设备。其中数据库的同步端预先配置有多个并行的分区通道,并且每个分区通道设置有各自的入库队列,并且上述数据库的同步事务的处理方法包括:获取待分配至分区通道的事务;提取事务的所有关联表的信息;在预设的分区索引集合中查找包含事务的任一关联表信息的分区通道,分区索引集合用于记录各分区通道的入库队列中的事务及其关联表信息;根据查找结果为事务分配分区通道。本发明的方案,在保证关联事务顺序提交的前提下,使用多入库队列和多入库器并行提交入库,提升了数据的入库效率。
-
公开(公告)号:CN116150275A
公开(公告)日:2023-05-23
申请号:CN202310174703.5
申请日:2023-02-27
Applicant: 北京人大金仓信息技术股份有限公司
IPC: G06F16/27 , G06F16/2458
Abstract: 本发明提供了一种数据同步方法、存储介质及设备。该数据同步方法包括:获取待同步的数据;将所述待同步的数据写入缓冲队列;判断所述待同步的数据是否满足预设的传输条件;若是,将所述缓冲队列的数据写入临时文件;校验所述临时文件,并将所述临时文件的数据拷贝至目标数据库。本发明的优点是能够以文件形式进行数据的传输,满足跨隔离设备的数据同步,同时保证了数据同步的性能和效率。
-
-
-
-
-
-
-
-