一种基于HBase+Redis的分布式存储中间件

    公开(公告)号:CN112395318A

    公开(公告)日:2021-02-23

    申请号:CN202011333445.3

    申请日:2020-11-24

    Applicant: 福州大学

    Abstract: 本发明涉及一种基于HBase+Redis的分布式存储中间件,以HBase集群和Redis作为底层框架,包括存储模块和查询模块,所述存储模块包括负载均衡组件、数据缓存组件和数据同步组件;所述负载均衡组件实现HBase Region和RegionServer的负载均衡,以提高HBase的读写性能;所述数据缓存组件实现基于时间平滑方法计算的热值缓存淘汰策略,以提高缓存命中率;所述数据同步组件实现基于协处理器的HBase和Redis的数据同步,以避免脏数据的产生。该分布式存储中间件有利于提高数据读写速率。

    一种基于HBase+Redis的分布式存储中间件

    公开(公告)号:CN112395318B

    公开(公告)日:2022-10-04

    申请号:CN202011333445.3

    申请日:2020-11-24

    Applicant: 福州大学

    Abstract: 本发明涉及一种基于HBase+Redis的分布式存储中间件,以HBase集群和Redis作为底层框架,包括存储模块和查询模块,所述存储模块包括负载均衡组件、数据缓存组件和数据同步组件;所述负载均衡组件实现HBase Region和RegionServer的负载均衡,以提高HBase的读写性能;所述数据缓存组件实现基于时间平滑方法计算的热值缓存淘汰策略,以提高缓存命中率;所述数据同步组件实现基于协处理器的HBase和Redis的数据同步,以避免脏数据的产生。该分布式存储中间件有利于提高数据读写速率。

    基于FastDFS+Redis的分布式文件存储系统及方法

    公开(公告)号:CN112486943A

    公开(公告)日:2021-03-12

    申请号:CN202011573535.X

    申请日:2020-12-28

    Applicant: 福州大学

    Abstract: 本发明涉及一种基于FastDFS+Redis的分布式文件存储系统,包括数据库和中间件;所述中间包括存储模块、查询模块和删除模块;所述存储模块利用FastDFS集群实现海量文件数据的分布式存储;所述查询模块利用Redis集群实现基于分布式缓存的高性能文件查询;所述删除模块提供分布式文件的删除功能。本发明提出一种基于Base64和Gzip压缩算法的文件压缩缓存策略,解决了Redis缓存文件时字符串长度过长、内存空间占用大的问题,并设计了一种基于文件使用频率的缓存替换算法,提高了缓存的命中率。

    一种基于协处理器的HBase二级索引创建方法以及系统

    公开(公告)号:CN109165222A

    公开(公告)日:2019-01-08

    申请号:CN201810945470.3

    申请日:2018-08-20

    Applicant: 福州大学

    Abstract: 本发明涉及一种基于协处理器的HBase二级索引创建方法以及系统,根据预分区和随机散列策略,将索引数据和主数据进行逻辑分离;根据同一表中的不同列族,将索引数据和主数据进行物理分离。该系统包括:插入模块,用于在数据插入时,根据索引配置文件构建二级索引,将索引数据插入到二级索引区,将新生成的主数据插入到主数据区;还包括:查询模块,用于在数据查询时,根据索引配置文件构建查询条件,并行查询Region的二级索引区获取索引行键后,在Region上异步获取主数据。本发明提出的一种基于协处理器的HBase二级索引创建方法以及系统,可以高效、快速地对HBase进行字段检索。

Patent Agency Ranking