一种spark计算调度的方法、装置、电子设备及介质

    公开(公告)号:CN117573368A

    公开(公告)日:2024-02-20

    申请号:CN202311753831.1

    申请日:2023-12-19

    Abstract: 本申请实施例提供一种spark计算调度的方法、装置、电子设备及介质,方法包括:分析总体资源情况以及执行spark任务所需的资源情况,并根据总体资源情况以及执行spark任务所需的资源情况确定任务拆分的策略;根据任务拆分的策略,分别对各条spark任务运行所需的资源进行拆分,获得具有不同范围的参数值的spark任务命令;将具有不同范围参数的spark任务命令进行任务调度并编写成脚本,根据业务需要进行脚本的执行。本申请实施例解决了spark计算存储大批量的数据到Hbase时任务执行过慢甚至失败的问题,通过任务拆分的策略,实现计算存储任务在一定资源下可正常运行、高效完成计算和存储。

    采集C/S客户端软件数据的方法、装置、介质及电子设备

    公开(公告)号:CN114625369A

    公开(公告)日:2022-06-14

    申请号:CN202011446072.0

    申请日:2020-12-08

    Abstract: 本公开涉及一种采集C/S客户端软件数据的方法、装置、介质及电子设备。该方法包括:采集服务插件通过调用服务器接口,将采集到的目标C/S客户端的数据文件信息上传至服务器;在接收到服务器根据数据文件信息确定的数据采集参数的情况下,根据数据采集参数中的目标起止时间,从目标C/S客户端的数据库中采集目标元数据信息;将采集到的目标元数据信息转换成目标C/S客户端的Protobuf模型类库中对应的Protobuf数据结构的目标数据信息,并将Protobuf数据结构的目标数据信息转换成二进制格式的报文,将报文上传至服务器,以使服务器将报文对应的目标元数据信息存入服务器的数据库中。采用这种方法,在向服务器上传数据时可提高数据传输的速度。

Patent Agency Ranking