收藏 400-998-9776 转2 服务时间 周一至周日 9:00-23:00 注意:本站不提供境外服务
您的位置:首页 >文章内容
Python调用代理IP的几个方法
来源:互联网 作者:admin 时间:2019-03-21 16:01:08

  网络爬虫与代理IP的关系,很多人都是知道的,不过虽然知道我们在使用爬虫进行抓取网页时要使用代理IP,但这如何使用的方法其实很多人都不知道的。不同爬虫设置代理的方法可能是不一样的,不通用,这样大家就需要多学习几个使用代理IP的方法,下面小编介绍Python调用代理IP的几个方法:


  1.Selenium调用代理

  from selenium import webdriver

  proxy='123.58.10.36:8080'

  chrome_options=webdriver.ChromeOptions()

  chrome_options.add_argument('--proxy-server=http://'+proxy)

  browser=webdriver.Chrome(chrome_options=chrome_options)

  browser.get('http://httpbin.org/get')


Python调用代理IP的几个方法


  2.requests调用代理

  import requests

  proxy='123.58.10.36:8080' #本地代理

  #proxy='username:password@123.58.10.36:8080'

  proxies={

  'http':'http://'+proxy,

  'https':'https://'+proxy

  }

  try:

  response=requests.get('http://httpbin.org/get',proxies=proxies)

  print(response.text)

  except requests.exceptions.ConnectionError as e:

  print('错误:',e.args)


  3.urllib调用代理

  from urllib.error import URLError

  from urllib.request import ProxyHandler,build_opener

  proxy='123.58.10.36:8080' #使用本地代理

  #proxy='username:password@123.58.10.36:8080' #购买代理

  proxy_handler=ProxyHandler({

  'http':'http://'+proxy,

  'https':'https://'+proxy

  })

  opener=build_opener(proxy_handler)

  try:

  response=opener.open('http://httpbin.org/get') #测试ip的网址

  print(response.read().decode('utf-8'))

  except URLError as e:

  print(e.reason)


  以上介绍了三种关于代理IP的调用方法,仅供参考。并没有汇总全部的使用方法,而且每一个人都有自己的使用习惯,如果你有更好的方法,可以分享出来学习的。对于代理IP的使用,小编使用智连代理也是不错的,IP的数量以及匿名性都符合网络爬虫的需求。


推荐阅读
  • 25 2019-05
    软文推广使用动态代理IP的效果

    软文推广使用动态代理IP的效果怎样?在软文推广的过程中,大部分都是利用其他的平台进行传播,但是很多平台都是有限制的,这就是为什么软文推广要用动态代理IP的原因,那么软文推广使

  • 15 2019-11
    代理ip​授权错误怎么判断?

    代理ip​授权错误怎么判断?工作中运用代理IP的时候,经常会遇到一些问题,比如说软件不工作,或者提示IP代理全部失效,或者是代码运行之后返回结果为空等等,一般这样的提示结果往往让

  • 27 2019-08
    网络营销人员怎么选择代理IP?

    网络营销人员怎么选择代理IP?现在很多网站营销在各种论坛以及网站上发过帖子的人都知道,遇到遇到同一个问题,当你操作频繁时,马上就会网站的自动监视并提示被限制发帖,为什么呢?主

  • 29 2019-11
    代理ip​能否提高爬虫效率?

    代理ip​能否提高爬虫效率?爬虫在数据采集方面效果比较好,比如可以采集几万、上百万网页数据进行分析,带来极有价值的数据,那么使用代理ip之后能不能让爬虫有更高的效率呢?

  • 26 2019-03
    网站限制爬取薪资信息,代理IP来助阵

    换工作需要知道该岗位目前市场薪资信息,企业招聘也需要知道各岗位当前薪资福利情况,这些情况是怎么分析出来的呢?这就要用到大数据了,抓取大量的信息,无疑是使用爬取的方法最快的

  • 09 2019-07
    修改ip重新登录能破除限制吗?

    修改ip重新登录能破除限制吗?有时候我们的ip地址被限制了怎么办呢?修改这个被封的ip,换其他的ip重新进行登陆怎么样?