收藏 400-998-9776 转2 服务时间 周一至周日 9:00-23:00 注意:本站不提供境外服务
您的位置:首页 >文章内容
使用IP代理​后还会被封吗?
来源:互联网 作者:admin 时间:2019-10-01 10:03:00

  使用IP代理后还会被封吗?最近有小伙伴告诉我,他写了个爬虫对网页进行抓取,被屏蔽IP地址后使用了IP代理,可还是被屏蔽了。难道是用ip代理后还是会被封吗?如果不是,那么爬虫被封的原因都有哪些呢?


使用IP代理后还会被封吗


  在刚开始接触python爬虫的过程中,总会遇到数据采集时,遇到爬虫被封的问题。我想大家也遇到过类似的问题,我们今天探讨下从http代理ip的角度解决这个问题。


  一般爬虫被封的排查方法有以下几种:


  一、首先,检查 JavaScript 。如果你从网络服务器收到的页面是空白的,缺少信息,或其遇到他不符合你预期的情况(或者不是你在浏览器上看到的内容),有可能是因为网站创建页面的 JavaScript 执行有问题。


  二、检查正常浏览器提交的参数。如果你准备向网站提交表单或发出 POST 请求,记得检查一下页面的内容,看看你想提交的每个字段是不是都已经填好,而且格式也正确。用 Chrome 浏览器的网络面板(快捷键 F12 打开开发者控制台,然后点击“Network”即可看到)查看发送到网站的 POST 命令,确认你的每个参数都是正确的。


  三、是否有合法的 Cookie?如果你已经登录网站却不能保持登录状态,或者网站上出现了其他的“登录状态”异常,请检查你的 cookie。确认在加载每个页面时 cookie 都被正确调用,而且你的 cookie 在每次发起请求时都发送到了网站上。


  四、IP 被封禁?如果你在客户端遇到了 HTTP 错误,尤其是 403 禁止访问错误,这可能说明网站已经把你的 IP 当作机器人了,不再接受你的任何请求。你要么等待你的 IP 地址从网站黑名单里移除,要么就换个 IP 地址(可以去星巴克上网)。如果你确定自己并没有被封杀,那么再检查下面的内容。


  五、确认你的爬虫在网站上的速度不是特别快。快速采集是一种恶习,会对网管的服务器造成沉重的负担,还会让你陷入违法境地,也是 IP 被网站列入黑名单的首要原因。给你的爬虫增加延迟,让它们在夜深人静的时候运行。切记:匆匆忙忙写程序或收集数据都是拙劣项目管理的表现;应该提前做好计划,避免临阵慌乱。


  六、还有一件必须做的事情:修改你的请求头!有些网站会封杀任何声称自己是爬虫的访问者。如果你不确定请求头的值怎样才算合适,就用你自己浏览器的请求头吧。


推荐阅读
  • 30 2019-04
    一个可靠的代理IP隐藏效果更好

    一个可靠的代理IP隐藏效果更好,如果大家需要匿名,或者是隐藏自己的信息,保护自己的信息不被泄露,可以找代理IP的。

  • 26 2019-10
    什么是静态的代理ip​?

    什么是静态的代理ip​?动态的代理ip大家很好理解,智连代理之前也为大家详细介绍过了,那么静态的代理ip又是什么东西,虽然不及动态代理ip受欢迎,但是它有什么作用呢?

  • 16 2019-04
    免费的换IP软件风险性怎样?

    免费的换IP软件风险性怎样?不管什么东西,可能都是存在风险的,因此我们在使用之前是有必要去了解下其风险性程度的,倘若风险性过大,与收益差之深远,这就没有必要了,是吧。

  • 11 2019-05
    修改ip地址最快的方法是什么?

    修改ip地址最快的方法是什么?修改IP地址是比较常见的,估计大部分的用户都修改过,尤其是局域网的上网人员,其实平常我们重启路由器也是可能更换了IP地址的,手机也会更换IP地址,只是

  • 06 2019-11
    代理ip​能防止网络攻击吗?

    代理ip​能防止网络攻击吗?随着网络攻击的频繁和衍变,如今每个公司都会考虑服务器防御能力的部署,通常会把安全防护需求交给专业服务商。

  • 04 2019-05
    游戏丢包了IP加速器能解决吗?

    游戏丢包了IP加速器能解决吗?网络在使用的过程中可能会产生丢包的现象,因此有时候网络一卡,可能就会导致游戏卡顿,丢包,或者掉线的,这怎么解决呢?