公开(公告)号：CN109743411B

公开(公告)日：2022-03-01

申请号：CN201811509275.2

申请日：2018-12-10

Applicant: 厦门市美亚柏科信息股份有限公司

Inventor： 谢鹏达 ,  栾江霞 ,  李火泉 ,  徐晓文 ,  章正道

IPC: H04L61/5046 ,  H04L61/5061 ,  H04L61/5007 ,  H04L61/59

Abstract: 本发明提供了一种在分布式环境下动态调度IP代理池的方法、装置及存储介质。该方法包括：构建步骤，扫描代理IP资源，为扫描获得的代理IP初始化状态标识后构建IP代理池；检测步骤，对初始代IP理池中的代理IP进行检测，并根据检测结果更新代理IP的状态标识；调度步骤，获取IP代理池中M个代理IP生成代理IP队列以供下载中心请求使用。本发明确保代理池中的可用IP代理保持在一定数量之上，并根据加锁机制和缓存机制，实现单个代理IP在面对多线程调度的情况下可以做到时间维度上的有序响应，防止单个代理IP高频率访问，通过IP代理池、有效性检测及调度的协同，使分布式数据采集系统在保证采集效率的同时，又可以避免因高频率访问导致访问失败。

公开(公告)号：CN109743411A

公开(公告)日：2019-05-10

申请号：CN201811509275.2

申请日：2018-12-10

Applicant: 厦门市美亚柏科信息股份有限公司

Inventor： 谢鹏达 ,  栾江霞 ,  李火泉 ,  徐晓文 ,  章正道

IPC: H04L29/12

Abstract: 本发明提供了一种在分布式环境下动态调度IP代理池的方法、装置及存储介质。该方法包括：构建步骤，扫描代理IP资源，为扫描获得的代理IP初始化状态标识后构建IP代理池；检测步骤，对初始代IP理池中的代理IP进行检测，并根据检测结果更新代理IP的状态标识；调度步骤，获取IP代理池中M个代理IP生成代理IP队列以供下载中心请求使用。本发明确保代理池中的可用IP代理保持在一定数量之上，并根据加锁机制和缓存机制，实现单个代理IP在面对多线程调度的情况下可以做到时间维度上的有序响应，防止单个代理IP高频率访问，通过IP代理池、有效性检测及调度的协同，使分布式数据采集系统在保证采集效率的同时，又可以避免因高频率访问导致访问失败。