收藏 400-998-9776 转2 服务时间 周一至周日 9:00-23:00 注意:本站不提供境外服务
您的位置:首页 >文章内容
盘点一些常见的网站反爬虫措施
来源:极客猴 作者:admin 时间:2018-12-18 15:00:35

现在不管是哪个行业,做项目之前都会想着收集有些数据来参考一下,特别是来自同行的数据,但目标网站并不想给你采集,因为这不仅会影响服务器,还带来了竞争,因此大部分的网站都有设置反爬虫机制,今天智连代理为大家盘点一些常见的网站反爬虫措施


一、乱码符号


汽车之家论坛的反爬虫机制就比较高级。它利用前端页面自定义字体的方式来实现反爬的技术手段。具体使用到是CSS3中的自定义字体(@font-face)模块,自定义字体主要是实现将自定义的Web字体嵌入到指定网页中去。这就导致我们去爬取论坛帖子的口碑时,获取到的返回文本中每隔几个字就出现一个乱码符号。


每次访问论坛页面,其中字体是不变的,但字符编码是变化的。因此,我们需要根据每次访问动态解析字体文件。


具体可以先访问需要爬取的页面,获取字体文件的动态访问地址并下载字体,读取js渲染后的文本内容,替换其中的自定义字体编码为实际文本编码,就可复原网页为页面所见内容了。


盘点一些常见的网站反爬虫措施


二、登陆验证+IP限制


拉勾网站刚出来的时候,反爬虫机制还没有现在这么严格。估计爬取网站的人多了起来,网站管理员为了保护服务器增加一些手段。该网站的反爬虫机制大概是这样子。


1、在没有登录的情况下,程序只能连续访问3个Url。如果再继续访问,网站会将链接重定向,然后提示我们登录。


2、如果在登录情况下,连续请求部分url之后,我们的IP会被封。


针对这样的爬虫机制,我们只能使用IP代理池来突破。


三、cookie+IP限制


几乎所有的爬虫新手都会爬取豆瓣练练手。但是豆瓣还是保持开放的态度,反爬虫机制做得还是很人性化。它的反爬虫机制大概如下:


1、在没有携带cookie的情况下,如果某个IP短时间高并发请求网站,该IP会立马被封。当IP被封,登录豆瓣网站会解封。


2、在携带cookie的情况下,某个IP请求网站过于频繁。豆瓣的反爬虫机制变为只封cookie不封IP。也就说退出登录或者换个账号还能继续访问网站。


面对这么体谅新手的网站,我们要下手不能那么猛。我们只要在代码中登录账号,同时降低并发数,再随机延迟等待一段时间。我们的爬虫程序就不会被封杀了。


四、Referer字段


妹子图这个网站的反爬虫机制比较简单。当我们使用网络请求库下载图片时,该网站会对检查每个HTTP请求的headers头部中Referer字段。它判断该字段是否为空,如果字段为空,那么不会返回正常显示的图片,而是返回一张带有“图片来自妹子网,请勿盗链”字样的图片。


遇到这种机制,突破也是比较简单。对每个HTTP请求,将页面的url地址填充到Referer字段中。


上文盘点了四个网站的反爬虫措施,不同的网站采集的措施不一样,如果需要采集数据,需要分析目标网站的反爬虫机制,然后再制定采集方法,并可以使用各种工具突破反爬虫机制,比如使用智连代理,或者精灵代理,可以实现换IP的作用,以突破IP限制,加快采集的速度。


当然,也不能无限制的进行采集工作,即使使用代理,也一样需要控制采集的速度,避免高速采集导致目标网站出现问题。


推荐阅读
  • 19 2018-11
    ip代理那个稳定点?智连代理IP可用率95%以上

    许多企业都需要用到IP代理,目前IP代理软件比较多,有免费的,也有付费的,那么ip代理那个稳定点?使用那个效果比较好呢?今天智连代理跟大家分享一下ip代理那个稳定点。

  • 20 2019-06
    动态代理和独享代理选谁?

    动态代理和独享代理选谁?网络上不泛各种代理IP,不过要找个高质量的有些难度的,大部分都是使用动态代理,也就是共享代理的,今天小编就给大家介绍个独享代理。

  • 16 2019-02
    正向代理和反向代理的区别

    说到代理服务器,了解的人可不少,有些人可能会经常用到代理服务器访问网络获取资源。而提取正向代理和反向代理,知道的人就比较少了,也高不清楚什么原理,有什么作用的。下面小编为

  • 21 2019-12
    使用https的好处有哪些?

    我国网民有十几亿的活跃用户,虽然其中使用代理ip的占比相对而言会比较小,但是随着网络的发展,这个占比正在不断提升。特别是大数据的推广,让ip代理的活跃度又更加高了。

  • 06 2019-12
    为什么爬虫采集需要代理ip​?

    为什么爬虫采集需要代理ip​?现在都是大数据时代了,许多人都喜欢使用爬虫来采集不同网站的数据然后进行分析,在爬虫的过程当中我们会经常遇见许多网站为了保护自己的信息采取了防爬取

  • 21 2019-07
    改ip软件怎么给win7换ip

    改ip软件怎么给win7换ip?win7系统换ip,这个操作大家知道怎么弄吗?如果不常换ip,可以试试手动操作,比如:

您好,当前有客服在线,请问有什么需要咨询的吗?