收藏 400-998-9776 转2 服务时间 周一至周日 9:00-23:00 注意:本站不提供境外服务
您的位置:首页 >文章内容
单IP频繁爬取某网站,多久会被限制住?
来源:互联网 作者:admin 时间:2019-04-22 18:01:00

  单IP频繁爬取某网站,多久会被限制住?IP被不被封,这需要看你使用的频率,越快越容易被封,这基本上是个常规了。


  因为很多网站都设了IP防刷的,也就是在短时间内有大量相同ip的请求,可能是恶意的,网站自然会把这频繁访问的IP地址给封了。一般上被封了,短时间内是不会放出来的。


  对于IP被封了一个问题,也不用太担心,虽然现在很多都没有固定的IP使用,但是换个动态IP还是很简单的,这就是个换IP的问题。怎么换IP呢?比如:


单IP频繁爬取某网站,多久会被限制住?


  如果是局域网,带路由器的,可以控制路由器重新拨号,换IP,这其实是一种折中的办法,曲线救国。


  如果是通过ADSL拨号的,可以重新拨号一次的,每拨一次就会有一个新IP,较好解决IP单一问题。


  又或者,使用代理IP,利用购买的或者网上抓取的免费代理IP,实现多IP爬虫,这种形式是最常见的。


  从这里看到,其实换个IP很简单的,但是要杜绝短时间内大量请求的问题,也难。既然有这个需求,网站也不配合,自然是免不了要大量请求的,但是被限制了,怎么办呢?


  当然是换IP了,既然同IP被封,那么我就多换一些,从这个角度看来路由器换IP和ADSL拨号换IP就不适用了,还得使用代理IP的。


  由上可见,单IP频繁爬取某网站,多久会被限制住?只要超过网站设置的频率,马上就会被封了,因此要进行爬取网站,还是需要大量IP的。


推荐阅读
  • 10 2019-10
    使用ip代理​进行爬虫要注意什么?

    使用ip代理​进行爬虫要注意什么?在用代理IP爬虫的时候,可能会出现无法爬取的情况。这个时候,我们要找对原因去解决问题,首先应该要对IP的可用性做一个测试,如果IP是有效的,可以使用

  • 05 2018-12
    贴吧怎么做推广好?发帖小技巧

    虽然现在出现许多新的流量平台,但是贴吧的流量依然非常的大,但是在贴吧上做推广也并不好做,凡是广告帖都会被删除,而言敏感词也多,链接还不给发,这还能不能做推广了?

  • 24 2019-10
    爬虫采集遇到限制怎么办?

    爬虫采集遇到限制怎么办?在我们爬虫工作中,遇到最多的问题是访问频率限制。如果访问频率太快太反人类,IP将会受到目标网站的限制,这是目标网站服务器为减轻负载压力自我保护的一种措

  • 28 2021-04
    高匿名代理ip合适用在爬虫

    在这个数据分析很关键的网络时代,我们要通过爬虫工具来获取有价值的数据进行分析处理。

  • 16 2019-10
    为什么API提取代理ip​不可用?

    为什么API提取代理ip​不可用?收到不少朋友问,为什么我通过API获取http代理之后,把IP+端口填入代理设置端口,然后发现不可用,这是什么原因?这里需要强调一下

  • 07 2018-12
    Python爬虫怎么设置请求头

    有些新手在学习Python爬虫过程中,会遇到一些麻烦,比如,为什么使用爬虫请求失败,难度这爬虫这么没有用,还没有开始就失败了,到底是哪里出问题了?可能是请求头设置有问题。

您好,当前有客服在线,请问有什么需要咨询的吗?