一种面向大规模数据的并行任务处理方法和系统

    公开(公告)号:CN113821329A

    公开(公告)日:2021-12-21

    申请号:CN202111399905.7

    申请日:2021-11-24

    Applicant: 湖南大学

    Abstract: 本发明公开了一种面向大规模数据的并行任务处理方法及系统,应用于面向大规模数据的并行任务处理系统,系统包括反馈节点、计算节点和主节点,方法包括如下步骤:当侦测到待处理数据时,向各个主节点发送工作状态检测信号;根据各个主节点反馈的工作状态信号,从各个主节点中确定管理节点;将待处理数据发送至管理节点;管理节点从各个计算节点中侦测空闲状态的计算节点作为处理节点;管理节点将待处理数据分发至各个处理节点,以通过各个处理节点对待处理数据进行数据处理,通过反馈节点接收各个处理节点的输出结果。本发明的技术方案有利于提高大规模数据的并行处理效率。

    一种互联网海量数据检索方法和检索系统

    公开(公告)号:CN114372190A

    公开(公告)日:2022-04-19

    申请号:CN202210279242.3

    申请日:2022-03-22

    Applicant: 湖南大学

    Abstract: 本发明公开了一种互联网海量数据检索方法及系统,互联网海量数据检索系统包括服务器,以及与服务器分别通信连接的各个检索模块;服务器与用户终端通信连接;方法包括如下步骤:获取通过用户终端输入的检索条件,根据检索条件处理得到各个筛选信息,将根据各个筛选信息建立的检索式发送至服务器;将各个筛选信息和对应的检索式分别带入筛选结果预测模型,以确定检索模块数量;根据检索模块数量,将检索条件对应的检索任务向检索模块进行分配;将每个检索模块的筛选结果上传至服务器;在服务器中根据检索式对各个检索模块上传的筛选结果进行处理,按照筛选结果的重要性逐轮发布检索结果。本发明的技术方案有利于降低检索器的任务量。

    一种互联网海量数据检索方法和检索系统

    公开(公告)号:CN114372190B

    公开(公告)日:2022-05-17

    申请号:CN202210279242.3

    申请日:2022-03-22

    Applicant: 湖南大学

    Abstract: 本发明公开了一种互联网海量数据检索方法及系统,互联网海量数据检索系统包括服务器,以及与服务器分别通信连接的各个检索模块;服务器与用户终端通信连接;方法包括如下步骤:获取通过用户终端输入的检索条件,根据检索条件处理得到各个筛选信息,将根据各个筛选信息建立的检索式发送至服务器;将各个筛选信息和对应的检索式分别带入筛选结果预测模型,以确定检索模块数量;根据检索模块数量,将检索条件对应的检索任务向检索模块进行分配;将每个检索模块的筛选结果上传至服务器;在服务器中根据检索式对各个检索模块上传的筛选结果进行处理,按照筛选结果的重要性逐轮发布检索结果。本发明的技术方案有利于降低检索器的任务量。

    一种面向大规模数据的并行任务处理方法和系统

    公开(公告)号:CN113821329B

    公开(公告)日:2022-02-11

    申请号:CN202111399905.7

    申请日:2021-11-24

    Applicant: 湖南大学

    Abstract: 本发明公开了一种面向大规模数据的并行任务处理方法及系统,应用于面向大规模数据的并行任务处理系统,系统包括反馈节点、计算节点和主节点,方法包括如下步骤:当侦测到待处理数据时,向各个主节点发送工作状态检测信号;根据各个主节点反馈的工作状态信号,从各个主节点中确定管理节点;将待处理数据发送至管理节点;管理节点从各个计算节点中侦测空闲状态的计算节点作为处理节点;管理节点将待处理数据分发至各个处理节点,以通过各个处理节点对待处理数据进行数据处理,通过反馈节点接收各个处理节点的输出结果。本发明的技术方案有利于提高大规模数据的并行处理效率。

Patent Agency Ranking