收藏 400-998-9776 转2 服务时间 周一至周日 9:00-23:00 注意:本站不提供境外服务
您的位置:首页 >文章内容
爬虫是如何突破网站的反爬虫机制的
来源:互联网 作者:admin 时间:2019-01-28 17:50:07

    不管是哪个网站,都是设置了反爬虫机制的,否则无法正常的运营,毕竟限制爬虫非常多,整个网络大半的流量都是由它贡献的。这对爬虫来说,可不是什么好事,因为这样大大限制了爬虫的活动,但也不是全部限制住了。今天跟小编去了解下爬虫是如何突破网站的反爬虫机制的。


    其实,爬虫可以伪装成为浏览器,伪装为一个正常的用户使用浏览器去访问目标网站,并顺利的获取到数据,伪装方法:


爬虫是如何突破网站的反爬虫机制的


    1.使用add_header()添加报头


    import urllib.request


    url = "http://blog.csdn.net/hurmishine/article/details/71708030"req = urllib.request.Request(url)


    req.add_header('User-Agent','Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36')


    data = urllib.request.urlopen(req).read()


    print(data)


    导入包,定义url地址我们就不说了,我们使用urllib.request.Request(url)创建一个Request对象,并赋值给变量req,创建Request对象的格式:urllib.request.Request(url地址)


    随后我们使用add_header()方法添加对应的报头信息,格式:Request(对象名).add_header(‘对象名’,’对象值’)


    现在我们已经设置好了报头,然后我们使用urlopen()打开该Request对象即可打开对应的网址,多以我们使用


    data = urllib.request.urlopen(req).read()打开了对应的网址,并读取了网页内容,并赋值给data变量。


    2.使用build_opener()修改报头


    由于urlopen()不支持一些HTTP的高级功能,所以我们需要修改报头。可以使用urllib.request.build_opener()进行,我们修改一下上面的代码:


    import urllib.request


    url = "http://blog.csdn.net/hurmishine/article/details/71708030"headers = ("User-Agent","Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36")


    opener = urllib.request.build_opener()


    opener.addheaders = [headers]


    data = opener.open(url).read()


    print(data)


    上面代码中我们先定义一个变量headers来储存User-Agent信息,定义的格式是(“User-Agent”,具体信息)


    具体信息我们上面已经获取到了,这个信息获取一次即可,以后爬取其他网站也可以用,所以我们可以保存下来,不用每次都F12去找了。


    然后我们用urllib.request.build_opener()创建自定义的opener对象并赋值给opener,然后设置opener的addheaders,就是设置对应的头信息,格式为:“opener(对象名).addheaders = [头信息(即我们储存的具体信息)]”,设置好后我们就可以使用opener对象的open()方法打开对应的网址了。格式:“opener(对象名).open(url地址)”打开后我们可以使用read()方法来读取对应数据,并赋值给data变量。


    综上所述,两种方法都可以实现了爬虫模拟浏览器打开网址,并获取网址的内容信息,避免了403错误,但是在使用的过程中要注意两者方法的区别。


推荐阅读
  • 10 2019-01
    爬虫怎么应对网页更新问题

    互联网的数据是不断变化的,如果爬虫想要获取到实时的数据,也需要进行更新,那么爬虫怎么应对网页更新问题呢?如何更新早先抓取下载的页面?小编为大家介绍一下爬虫是如何应对的:

  • 01 2019-05
    开游戏工作室要用代理IP吗?

    开游戏工作室要用代理IP吗?很多人都说游戏多开是要换IP的,不然容易被封号,这是真的吗?确实,游戏多开是需要更换IP地址的,否则账号关联之后,如果你的账号过好,使用行为异常,这是

  • 23 2019-04
    想要减少信息泄露,高匿名代理是个好选择

    想要减少信息泄露,高匿名代理是个好选择,为什么这么讲呢?很多时候,我们在上网的过程中,商家都可以获取到我们的信息,造成信息的泄露,面对这种情况,大家怎么看?

  • 24 2019-09
    使用代理ip​合法吗?

    使用代理ip​合法吗?虽然使用代理ip的人越来越多了,可以应用的场景也慢慢变多,但是对于一些不太了解的人来说,代理ip合不合法这个问题一直萦绕在心。

  • 08 2019-08
    单机单IP被封号,代理IP还能防封吗?

    单机单IP被封号,代理IP还能防封吗?很多人都说,游戏公司封号无非就是IP检测,硬件检测,行为检测,还有用辅助检测到的等等。其实,如果是那种检测很牛逼的游戏(例如网易),虽然利润

  • 12 2019-10
    怎么选择爬虫代理ip​?

    怎么选择爬虫代理ip​?对于从事互联网工作的朋友们来说,代理IP就是我们工作的工具,每天都要用到代理ip,如果你是做网络爬虫的相关工作,那么你的工作是离不开代理ip的存在。通俗点说,