收藏 400-998-9776 转2 服务时间 周一至周日 9:00-23:00 注意:本站不提供境外服务
您的位置:首页 >文章内容
爬虫是如何突破网站的反爬虫机制的
来源:互联网 作者:admin 时间:2019-01-28 17:50:07

    不管是哪个网站,都是设置了反爬虫机制的,否则无法正常的运营,毕竟限制爬虫非常多,整个网络大半的流量都是由它贡献的。这对爬虫来说,可不是什么好事,因为这样大大限制了爬虫的活动,但也不是全部限制住了。今天跟小编去了解下爬虫是如何突破网站的反爬虫机制的。


    其实,爬虫可以伪装成为浏览器,伪装为一个正常的用户使用浏览器去访问目标网站,并顺利的获取到数据,伪装方法:


爬虫是如何突破网站的反爬虫机制的


    1.使用add_header()添加报头


    import urllib.request


    url = "http://blog.csdn.net/hurmishine/article/details/71708030"req = urllib.request.Request(url)


    req.add_header('User-Agent','Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36')


    data = urllib.request.urlopen(req).read()


    print(data)


    导入包,定义url地址我们就不说了,我们使用urllib.request.Request(url)创建一个Request对象,并赋值给变量req,创建Request对象的格式:urllib.request.Request(url地址)


    随后我们使用add_header()方法添加对应的报头信息,格式:Request(对象名).add_header(‘对象名’,’对象值’)


    现在我们已经设置好了报头,然后我们使用urlopen()打开该Request对象即可打开对应的网址,多以我们使用


    data = urllib.request.urlopen(req).read()打开了对应的网址,并读取了网页内容,并赋值给data变量。


    2.使用build_opener()修改报头


    由于urlopen()不支持一些HTTP的高级功能,所以我们需要修改报头。可以使用urllib.request.build_opener()进行,我们修改一下上面的代码:


    import urllib.request


    url = "http://blog.csdn.net/hurmishine/article/details/71708030"headers = ("User-Agent","Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36")


    opener = urllib.request.build_opener()


    opener.addheaders = [headers]


    data = opener.open(url).read()


    print(data)


    上面代码中我们先定义一个变量headers来储存User-Agent信息,定义的格式是(“User-Agent”,具体信息)


    具体信息我们上面已经获取到了,这个信息获取一次即可,以后爬取其他网站也可以用,所以我们可以保存下来,不用每次都F12去找了。


    然后我们用urllib.request.build_opener()创建自定义的opener对象并赋值给opener,然后设置opener的addheaders,就是设置对应的头信息,格式为:“opener(对象名).addheaders = [头信息(即我们储存的具体信息)]”,设置好后我们就可以使用opener对象的open()方法打开对应的网址了。格式:“opener(对象名).open(url地址)”打开后我们可以使用read()方法来读取对应数据,并赋值给data变量。


    综上所述,两种方法都可以实现了爬虫模拟浏览器打开网址,并获取网址的内容信息,避免了403错误,但是在使用的过程中要注意两者方法的区别。


推荐阅读
  • 24 2020-06
    端午有礼 充值即享优惠

    刚刚过去的618年中大促,大家斩获了什么战利品呢?如果感觉没有什么好收获,那么就千万不能够错过智连代理带来的端午福利了!

  • 01 2019-11
    代理IP​如何区分类型?

    代理IP如何区分类型?代理ip运用在网络营销和爬虫方面非常广泛,是网络营销等工作密不可分的帮手。从保护使用代理用户IP的级别上分,代理可以分为高匿名代理、普通匿名代理和透明代理三

  • 23 2020-03
    ip代理解决网络爬虫与反爬虫的抗衡

    网络的爬虫与反爬虫,一直都是两股不停在进行斗争的力量。毕竟网站也需要对自己平台的数据以及服务器进行保护措施,不能够放任爬虫。

  • 29 2019-09
    动态和独享代理ip​哪个好?

    动态和独享代理ip​哪个好? 代理IP一般有动态代理和独享代理,动态代理也就是共享代理,独享代理正如字面意思就是独享,质量更高一些。那么,动态代理和独享代理怎么选择呢?

  • 12 2019-02
    动态vps与vpn使用哪个好?

    使用动态vps与vpn的人群都不少,二者都能够实现更换IP的作用,但其基本原理是不一样的,因此使用的效果以及主要的用途也是有区别的,那么动态vps与vpn使用哪个好呢?对此,我们首先要先了

  • 16 2019-02
    选择哪种方式上网好?路由器设置上网方法

    大家在设置路由器的时候,都会看到宽带拨号上网、自动获得IP地址上网、固定IP地址上网这3种上网方式,有一些新手就要问了,这几种方式有什么区别?应该如何选择?今天小编就来给大家说