基于异构Hadoop集群环境的数据块放置方法及系统

    公开(公告)号:CN113407620B

    公开(公告)日:2023-04-21

    申请号:CN202010185518.2

    申请日:2020-03-17

    Inventor: 宋莹 许家豪

    Abstract: 本发明提出一种基于异构Hadoop集群环境的数据块放置方法及系统,首先通过计算数据块各周期的访问频率,以此来衡量数据块的冷热程度,之后通过数据块热度的不同将数据块放置到不同的数据节点上,在放置过程中考虑其相关性问题,将具有相关性的数据块分散放置,不同时存储在同一个数据节点上,避免了在一个数据节点上多个数据块同时被访问,降低了数据节点的负载。通过本发明提出的放置策略,提高了集群的执行性能和资源的利用率。

    基于异构Hadoop集群环境的数据块放置方法及系统

    公开(公告)号:CN113407620A

    公开(公告)日:2021-09-17

    申请号:CN202010185518.2

    申请日:2020-03-17

    Inventor: 宋莹 许家豪

    Abstract: 本发明提出一种基于异构Hadoop集群环境的数据块放置方法及系统,首先通过计算数据块各周期的访问频率,以此来衡量数据块的冷热程度,之后通过数据块热度的不同将数据块放置到不同的数据节点上,在放置过程中考虑其相关性问题,将具有相关性的数据块分散放置,不同时存储在同一个数据节点上,避免了在一个数据节点上多个数据块同时被访问,降低了数据节点的负载。通过本发明提出的放置策略,提高了集群的执行性能和资源的利用率。

Patent Agency Ranking