账号资源管理装置、方法及数据采集系统、方法

    公开(公告)号:CN111083136A

    公开(公告)日:2020-04-28

    申请号:CN201911275230.8

    申请日:2019-12-12

    Abstract: 本公开涉及一种账号资源管理装置、方法及数据采集系统、方法。本公开提供的技术方案,对于每个账号使用不同的固定登录IP、登录Header信息进行模拟登录,在登录后将获得的Cookie信息与所述登录IP和登录Header信息关联存储,以模拟一个用户在一个地方使用固定浏览器上网,避免出现一个账号、cookie对应多个IP及单个IP被大量用户使用的情况,从而避免受到浏览拦截限制。并且,每一账号登录模块与一下载解析服务节点对应且与一组登录IP对应,从而可以通过控制每个下载解析服务节点对应的登录IP分配,以实现控制多个下载解析服务节点的负载均衡。

    一种网页数据采集模板的生成方法和装置

    公开(公告)号:CN110489625A

    公开(公告)日:2019-11-22

    申请号:CN201910690874.7

    申请日:2019-07-29

    Abstract: 本发明公开了一种采集网页数据模板的生成方法、装置、电子设备和计算机可读存储介质。该方法包括:接收对网页中至少一个目标元素的选取指令,确定选取的目标元素的DOM路径,确定选取的目标内容的DOM路径;根据所述DOM路径生成解析模板;接收用户对所述解析模板中DOM路径的修改操作得到目标解析模板,其中,修改后的所述DOM路径中,用通配规则表示目标内容的DOM路径中的特殊属性值;所述目标解析模板用于对所述网页中的目标元素进行采集。

Patent Agency Ranking