一种海量开票数据实时存储和大规模并行访问方法及系统

    公开(公告)号:CN112613931A

    公开(公告)日:2021-04-06

    申请号:CN202011561149.9

    申请日:2020-12-25

    Abstract: 本发明公开了一种海量开票数据实时存储和大规模并行访问方法及系统,所述方法包括获取MySQL数据库中海量开票数据;根据Canal实时同步所述海量开票数据至crateDB数据库;通过所述crateDB数据库实现所述海量开票数据实时存储、相关发票查询、明细导出等高并行访问。本发明所公开的方法,使用crateDB数据库集群提高了数据存储量,支持大规模并行访问快速查询,与开票系统代码的兼容性强;使用Canal既能确保数据的一致性、及时性,也能做到代码无侵入的方式;配合Zookeeper集群,开启多个Canal的server端、client端,支持高可用部署,提升了服务的稳定性;所述发明能够满足云开票系统存储海量数据和高并行访问并且实时数据查询的需求。

Patent Agency Ranking