收藏 400-998-9776 转2 服务时间 周一至周日 9:00-23:00 注意:本站不提供境外服务
您的位置:首页 >文章内容
爬虫采集被封了怎么办?
来源:互联网 作者:admin 时间:2019-11-19 09:12:31

  爬虫采集被封了怎么办?在使用代理ip进行网络爬虫抓取信息的过程中,如果抓取频率过高或者使用了多线程,很容易被禁止访问。通常,网站的反爬虫机制都是依据IP和用户的User-Agent来标识爬虫的。

爬虫采集被封了怎么办

  于是在爬虫的开发者通常需要采取两种手段来解决这个问题:

  1、放慢抓取速度,减小对于目标网站造成的压力。但是这样会减少单位时间类的抓取量。

  2、第二种方法是通过设置代理IP等手段,突破反爬虫机制继续高频率抓取。但是这样需要大量稳定的代理IP。

  代理IP可以搜索到免费的,但是可能不太稳定,也有收费的,比如智连代理IP。下面介绍两种方式:

  普通的基于ADSL拨号的解决办法

  通常,在抓取过程中遇到禁止访问,可以重新进行ADSL拨号,获取新的IP,从而可以继续抓取。但是这样在多网站多线程抓取的时候,如果某一个网站的抓取被禁止了,

  同时也影响到了其他网站的抓取,整体来说也会降低抓取速度。

  一种可能的解决办法

  同样也是基于ADSL拨号,不同的是,需要两台能够进行ADSL拨号的服务器,抓取过程中使用这两台服务器作为代理。

  假设有A、B两台可以进行ADSL拨号的服务器。爬虫程序在C服务器上运行,使用A作为代理访问外网,如果在抓取过程中遇到禁止访问的情况,立即将代理切换为B,然后将A进行重新拨号。如果再遇到禁止访问就切换为A做代理,B再拨号,如此反复。

  综上,最简单方法就是购买现成的代理IP产品。【推荐阅读:哪儿有高质量代理ip?


推荐阅读
  • 25 2019-09
    为什么说免费代理ip​弊大于利?

    为什么说免费代理ip​弊大于利?很多人在使用代理ip之前最关注的就是价格的高低,毕竟成本问题也是很多人的第一考虑,但是免费的代理ip虽说不要钱,但你有没有听说过一句话“免费的才是

  • 17 2020-02
    代理ip经常要变化怎么办?

    ip在我们的网络使用上是非常重要的,因为如果没有ip地址,我们的网络就无法正常使用。现在除了自身的ip之外,代理ip也是当代互联网经常使用到的一个ip工具。

  • 04 2020-01
    学习代理服务器的分类

    现在,使用ip代理已经是非常流行的了。因为我们在上网进行浏览的时候,是通过ip来进行的,如果ip被追踪了,那么我们的浏览历史以及操作就会泄露。所以用代理ip来换ip,是当代网络使用者

  • 15 2019-03
    【选购攻略】测评代理IP的实际效果

    想找一款好用的代理IP,但是市场上如此多的代理IP商家,我们怎么知道哪家的好用?哪家的IP质量情况?难道还是需要我们每家都尝试使用,才能知道效果吗?

  • 22 2019-10
    怎样在电脑上自动更换ip​?

    怎样在电脑上自动更换ip​?变换ip地址很多人都有这种需要,特别是对于营销人员来说更是如此,因为很多网站都有ip限制的模式,为了能够更高效率的推广广告,大量的代理ip地址是不可或缺的

  • 06 2019-09
    如何隐藏自己的IP地址?

    如何隐藏自己的IP地址?我们都知道,上网是需要使用IP地址的否则无法上网,若是你有留意连接网络的情况,其实是可以看到在成功连接网络之前,是需要先获取到IP地址的。这IP地址也容易泄露