计算机网络中分布式爬虫使用代理IP的方法

这篇文章主要介绍了计算机网络中分布式爬虫使用代理IP的方法，具有一定借鉴价值，感兴趣的朋友可以参考下，希望大家阅读完这篇文章之后大有收获，下面让小编带着大家一起了解一下。

1、方法一，每个进程从接口API中随机取一个IP来运用，失败则再调用API获取一个IP，大约逻辑如下：

（1）每个进程，从接口随机取回一个IP来，用这个IP去访问资源；

（2）假如访问胜利，则继续抓下一条；

（3）假如失败，再从接口随机取一个IP，继续尝试。

注意：调用api获取IP的行为十分频繁，会对代理效劳器形成十分大的压力，影响API接口稳定，可能会被限制提取。这种计划也不合适，不能耐久稳定的运转。

2、方法二，每个进程从接口API中随机取一个IP列表来循环运用，失败则再调用API获取，大约逻辑如下：

（1）每个进程，从接口随机取回一批IP回来，循环尝试IP列表去抓取数据；

（2）假如访问胜利，则继续抓取下一条；

（3）假如失败了，再从接口取一批IP，继续尝试。

注意：每个IP都是有有效期的，假如提取了100个，当运用了第10个的时分，可能后面的大局部都失效了。假如你设置Http恳求的时分衔接时间超时为3秒，读取时间超时为5秒，那你将会有可能花费3-8秒的时间，说不定这3-8秒曾经能够抓取几十次了。

以上就是分布式爬虫使用代理IP的方法，大家可以根据不同的情况进行方法的挑选。爬虫时建议建议结合代理ip的使用，如果大家想测试使用下，可以尝试品易云http代理ip，免费测试包含各种类ip资源，无限调用IP量！更多常见问题解决：ip

感谢你能够认真阅读完这篇文章，希望小编分享的“计算机网络中分布式爬虫使用代理IP的方法”这篇文章对大家有帮助，同时也希望大家多多支持编程网，关注编程网精选频道，更多相关知识等着你来学习!