收藏 400-998-9776 转2 服务时间 周一至周日 9:00-23:00 注意:本站不提供境外服务
您的位置:首页 >文章内容
目前爬虫经常遇到的限制有哪些
来源:互联网 作者:admin 时间:2018-11-27 17:33:58

    以前网站都多爬虫非常的友好,但随着时间的发展,爬虫被应用于许多场景,比如有些人利用爬虫采集对方大量数据,通过分析,挖掘有价值的信息,并与对方进行商业竞争;也有是因为出于安全考虑,因此现在大部分的网站都设置了反爬机制,这给爬虫增加了许多难度,下面智连代理带大家去了解下目前爬虫经常遇到的限制有哪些。


    1.IP限制问题


    这是目前对后台爬虫中最致命的。网站的防火墙会对某个固定ip在某段时间内请求的次数做限制,如果没有超过上线则正常返回数据,超过了,则拒绝请求,如qq 邮箱。


    值得说明的是,ip限制有时并非是专门为了针对爬虫的,而大多数时候是出于网站安全原因针对DOS攻击的防御措施。后台爬取时机器和ip有限,很容易达到上线而导致请求被拒绝。目前主要的应对方案是使用代理,这样一来ip的数量就会多一些,但是建议选用安全高效的代理IP,保证数据安全。


    比如使用智连代理,智连代理是一款可以自动切换IP的软件,有全国上百的城市IP节点,每天可以提供几万的IP,上千万的IP资源,满足用户频繁换IP的需求。所有IP均为高匿名,可以隐藏用户真实IP,更加安全。


爬虫经常遇到的限制有哪些


    2.Javascript解析问题


    如前文所述,javascript可以动态生成dom。目前大多数网页属于动态网页(内容由javascript动态填充),尤其是在移动端,SPA/PWA应用越来越流行,网页中大多数有用的数据都是通过ajax/fetch动态获取后然后再由js填充到网页dom树中,单纯的html静态页面中有用的数据很少。


    目前主要应对的方案就是对于js ajax/fetch请求直接请求ajax/fetch的url ,但是还有一些ajax的请求参数会依赖一段javascript动态生成,比如一个请求签名,再比如用户登陆时对密码的加密等等。


    如果一昧的去用后台脚本去干javascript本来做的事,这就要清楚的理解原网页代码逻辑,而这不仅非常麻烦,而且会使你的爬取代码异常庞大臃肿,但是,更致命的是,有些javascript可以做的事爬虫程序是很难甚至是不能模仿的,比如有些网站使用拖动滑块到某个位置的验证码机制,这就很难再爬虫中去模仿。


    其实,总结一些,这些弊端归根结底,是因为爬虫程序并非是浏览器,没有javascript解析引擎所致。针对这个问题,目前主要的应对策略就是在爬虫中引入Javascript 引擎,如PhantomJS,但是又有着明显的弊端,如服务器同时有多个爬取任务时,资源占用太大。


    还有就是,这些 无窗口的javascript引擎很多时候使用起来并不能像在浏览器环境中一样,页面内部发生跳转时,会导致流程很难控制。


    3.交互问题


    有些网页往往需要和用户进行一些交互,进而才能走到下一步,比如输入一个验证码,拖动一个滑块,选几个汉字。网站之所以这么做,很多时候都是为了验证访问者到底是人还是机器。


    而爬虫程序遇到这种情况很难处理,传统的简单图片验证码可以通过图形处理算法读出内容,但是随着各种各样,花样百出,人神共愤的、变态的验证码越来越多(尤其是买火车票时,分分钟都想爆粗口),这个问题就越来越严重。


    以上介绍了三个爬虫经常遇到的限制,每天网站的反爬虫机制都不一样,建议在抓取数据时,要尽可能的伪装好自己是个爬虫的事实,不然分分钟被封。


推荐阅读
  • 07 2019-07
    为什么用了代理IP也没法保证安全

    为什么用了代理IP也没法保证安全?如今这个时代,信息是很难保证安全的,每当产生新数据的时候,总要一些程序获得你的信息并被其他程序获取的。

  • 10 2019-05
    代理ip平台哪个价格低些?

    一个网站可能前期搭建起来比较快,什么规则以及防御这些都没有完善,大家使用起来也非常方便。但是随着科技的进步,网络也发展得特别得快,逐渐的网站一层一层增加防御,还想多发广告

  • 03 2019-06
    IP加速器解决网络延迟问题

    IP加速器解决网络延迟问题,这是许多人都不知道的,以为要解决网络延迟,一定要使用网游加速器,这是不正确的。

  • 08 2019-01
    换IP工具用vps还是pptp好?

    免费IP实在不好用,效果太差了,就想换IP好点的换IP工具,大家使用的都是什么换IP工具?有没有好的介绍?有些人使用vps换IP,使用pptp换IP的也不少,那么换IP工具用vps还是pptp好?

  • 22 2019-08
    高匿名代理ip的原理是什么?

    高匿名代理ip的原理是什么?很多爬虫爱好者在进行抓取数据的时候,首推使用的代理IP就是高匿名代理ip,那么高匿名代理IP的实现原理是什么?使用高匿名代理ip真的更好吗?

  • 29 2019-08
    什么是HTTP代理ip?

    什么是HTTP代理ip?HTTP代理ip是什么意思呢?相信很多用代理IP​的人都曾经有过这样的疑问,知道怎么使用也知道有什么作用,但是就是不懂它的内在意义,下面就由智连代理给大家稍稍理解一下