收藏 400-998-9776 转2 服务时间 周一至周日 9:00-23:00 注意:本站不提供境外服务
您的位置:首页 >文章内容
盘点一些常见的网站反爬虫措施
来源:极客猴 作者:admin 时间:2018-12-18 15:00:35

现在不管是哪个行业,做项目之前都会想着收集有些数据来参考一下,特别是来自同行的数据,但目标网站并不想给你采集,因为这不仅会影响服务器,还带来了竞争,因此大部分的网站都有设置反爬虫机制,今天智连代理为大家盘点一些常见的网站反爬虫措施


一、乱码符号


汽车之家论坛的反爬虫机制就比较高级。它利用前端页面自定义字体的方式来实现反爬的技术手段。具体使用到是CSS3中的自定义字体(@font-face)模块,自定义字体主要是实现将自定义的Web字体嵌入到指定网页中去。这就导致我们去爬取论坛帖子的口碑时,获取到的返回文本中每隔几个字就出现一个乱码符号。


每次访问论坛页面,其中字体是不变的,但字符编码是变化的。因此,我们需要根据每次访问动态解析字体文件。


具体可以先访问需要爬取的页面,获取字体文件的动态访问地址并下载字体,读取js渲染后的文本内容,替换其中的自定义字体编码为实际文本编码,就可复原网页为页面所见内容了。


盘点一些常见的网站反爬虫措施


二、登陆验证+IP限制


拉勾网站刚出来的时候,反爬虫机制还没有现在这么严格。估计爬取网站的人多了起来,网站管理员为了保护服务器增加一些手段。该网站的反爬虫机制大概是这样子。


1、在没有登录的情况下,程序只能连续访问3个Url。如果再继续访问,网站会将链接重定向,然后提示我们登录。


2、如果在登录情况下,连续请求部分url之后,我们的IP会被封。


针对这样的爬虫机制,我们只能使用IP代理池来突破。


三、cookie+IP限制


几乎所有的爬虫新手都会爬取豆瓣练练手。但是豆瓣还是保持开放的态度,反爬虫机制做得还是很人性化。它的反爬虫机制大概如下:


1、在没有携带cookie的情况下,如果某个IP短时间高并发请求网站,该IP会立马被封。当IP被封,登录豆瓣网站会解封。


2、在携带cookie的情况下,某个IP请求网站过于频繁。豆瓣的反爬虫机制变为只封cookie不封IP。也就说退出登录或者换个账号还能继续访问网站。


面对这么体谅新手的网站,我们要下手不能那么猛。我们只要在代码中登录账号,同时降低并发数,再随机延迟等待一段时间。我们的爬虫程序就不会被封杀了。


四、Referer字段


妹子图这个网站的反爬虫机制比较简单。当我们使用网络请求库下载图片时,该网站会对检查每个HTTP请求的headers头部中Referer字段。它判断该字段是否为空,如果字段为空,那么不会返回正常显示的图片,而是返回一张带有“图片来自妹子网,请勿盗链”字样的图片。


遇到这种机制,突破也是比较简单。对每个HTTP请求,将页面的url地址填充到Referer字段中。


上文盘点了四个网站的反爬虫措施,不同的网站采集的措施不一样,如果需要采集数据,需要分析目标网站的反爬虫机制,然后再制定采集方法,并可以使用各种工具突破反爬虫机制,比如使用智连代理,或者精灵代理,可以实现换IP的作用,以突破IP限制,加快采集的速度。


当然,也不能无限制的进行采集工作,即使使用代理,也一样需要控制采集的速度,避免高速采集导致目标网站出现问题。


推荐阅读
  • 13 2019-02
    网站排名要多久能起来?SEO怎么快速提升网站排名?

    做SEO的优点就是可以不花钱把排名做上去,如果能否把排名做到首页,那么这效果不比花钱投广告的效果差。这通过SEO获得的自然排名时间更加长,不像付费广告一停止花钱马上不见了。因此,

  • 20 2019-09
    爬虫代理ip​被封原因有哪些?

    爬虫代理ip​被封原因有哪些?爬虫工作者在用代理IP爬虫的时候都会因为一些奇奇怪怪的原因突然被封,明明运行的好好的,怎么就突然停止抓取了。这时候,要么就是触发了网站的反爬机制要

  • 13 2019-09
    代理IP​助力直播人气提升!

    代理IP​助力直播人气提升!互联网的快速发展,给我们物质生活带来便利的同时,也给我们的精神生活带来了丰富多彩,比如很多朋友就喜欢看各种直播平台的直播,导致最近几年的直播平台也

  • 06 2019-04
    购买动态ip,满足哪些条件使用效果好?

    想购买动态ip使用,也是要做一些数据上的对比,如果质量太差也就没有购买使用的必要了。照这么说,我们选用什么样的动态ip会比较好呢?我们首先来看看一下几个问题。

  • 26 2019-08
    代理ip服务器是做什么的?

    代理ip服务器是做什么的?代理服务器(Proxy Server)是一种重要的服务器安全功能,它的工作主要在开放系统互联(OSI)模型的会话层,从而起到防火墙的作用,那么它还有什么作用?

  • 27 2019-08
    路由器重启会变IP吗?

    路由器重启会变IP吗?有时候因为某些工作的原因而需要更换ip地址,除了在网络设置里手动输入IP地址可以换ip​之外,重启路由器可以换IP吗?一般家庭的基于PPPOE拨号方式上网的,使用的是动态IP