收藏 400-998-9776 转2 服务时间 周一至周日 9:00-23:00 注意:本站不提供境外服务
您的位置:首页 >文章内容
Python爬虫怎么设置请求头
来源:互联网 作者:admin 时间:2018-12-07 16:19:10

    有些新手在学习Python爬虫过程中,会遇到一些麻烦,比如,为什么使用爬虫请求失败,难度这爬虫这么没有用,还没有开始就失败了,到底是哪里出问题了?可能是请求头设置有问题。


    使用Python爬虫采集数据,需要先向目标网站发起请求,网站会进行自动检测,如果请求头设置有问题,即请求失败,返回失败码,那么Python爬虫怎么设置请求头


    Python爬虫请求流程:


    无论是浏览器还是爬虫程序,在向服务器发起网络请求的时候,都会发过去一个头文件:headers,比如知乎的requestsheaders:


Python爬虫怎么设置请求头


    这里面的大多数的字段都是浏览器向服务器“表明身份”用的,对于爬虫程序来说,最需要注意的字段就是:User-Agent


    很多网站都会建立user-agent白名单,只有属于正常范围的user-agent才能够正常访问。


Python爬虫怎么设置请求头


    可以看到,这里的请求被拒绝了,并且返回了一个500的错误码:


    这里就是因为requests库本身的headers是这样的:


Python爬虫怎么设置请求头


    这里面并没有user-agent字段,自然不被知乎的服务器所接受了。


    解决方法:


    可以自己设置一下user-agent,或者更好的是,可以从一系列的user-agent里随机挑出一个符合标准的使用,代码如下:


Python爬虫怎么设置请求头


    通过上文,我们可以知道Python爬虫怎么设置请求头有效,避免错误的设置,另外可以多备不同的user-agent,轮换使用,更好的伪装自己。如果遇到IP限制,可以使用智连代理进行IP切换,突破IP限制,可以持续的采集数据,提高工作效率。


推荐阅读
  • 22 2018-11
    换IP能保护隐私吗?高匿代理隐藏真实IP

    换IP能保护隐私吗?网络时代,信息非常容易被泄露,商家很容易就收集到我们的个人信息,消费习惯等等,这对我们的生活也有一定的影响,那么上网时可以通过换IP的方法保护隐私吗?

  • 20 2019-09
    使用ip代理有什么好处?

    使用ip代理有什么好处?ip代理可能对于普通用户而言,使用率跟熟悉率都不高,通常是爬虫工作者或是某些项目需要大量不同IP才会利用到,可是ip代理的作用不仅仅如此,使用ip代理有什么好处

  • 01 2019-06
    微信使用什么代理IP好?

    微信使用什么代理IP好?有些人做微商的,手上的账号多了,如果不注意些,这是容易被封的,因此微信最好也是要使用下代理IP来换IP地址的,这一点大家要注意些。如果我们选择微信使用代理

  • 04 2019-04
    代理IP在游戏中的作用--防封、多开、降低延迟

    我们玩游戏的时候,网络经常突然卡的,这导致游戏也卡,关键时刻卡了,结果打输了,真是扫兴。但是为什么别人的网如此流畅呢?其实也不是所有玩家的网都那么溜的,很多玩家都使用了代

  • 02 2019-05
    游戏多开使用ip代理软件的作用

    游戏多开使用ip代理软件的作用,这点大家了解有多少呢?到底有没有游戏防封的作用?或者是其他的作用?我们来分析下。

  • 29 2019-01
    代理服务器在工作中有什么作用

    相对于几十亿的网民而言,使用代理服务器的占比是非常小的,即使占比小,但使用的人数也不少。而且现在随着技术的进步,很多平台的限制越多了,需要使用到代理的地方也多了起来,那么