在线客服
扫描二维码
下载博学谷APP扫描二维码
关注博学谷微信公众号
反爬技术解决方案有哪些?常见的反爬措施分享:反爬技术Headers、IP限制、UA限制、验证码反爬虫或者模拟登陆、Ajax动态加载、cookie限制的相关介绍。
一、反爬技术Headers:
从用户的Headers进行反爬是最常见的反爬虫策略。Headers(上一讲中已经提及)是一种区分浏览器行为和机器行为中最简单的方法,还有一些网站会对Referer(上级链接)进行检测(机器行为不太可能通过链接跳转实现)从而实现爬虫。
相应的解决措施:通过审查元素或者开发者工具获取相应的Headers然后把相应的Headers传输给python的requests,这样就能很好地绕过。
二、反爬技术IP限制
一些网站会根据你的IP地址访问的频率,次数进行反爬。也就是说如果你用单一的IP地址访问频率过高,那么服务器会在短时间内禁止这个IP访问。
解决措施:构造自己的IP代理池,然后每次访问时随机选择代理(但一些IP地址不是非常稳定,需要经常检查更新)。
三、反爬技术UA限制
UA是用户访问网站时候的浏览器标识,其反爬机制与ip限制类似。
解决措施:构造自己的UA池,每次python做requests访问时随机挂上UA标识,更好地模拟浏览器行为。当然如果反爬对时间还有限制的话,可以在requests设置timeout最好是随机休眠,这样会更安全稳定,time.sleep()。
四、反爬技术验证码反爬虫或者模拟登陆
验证码:这个办法也是相当古老并且相当的有效果,如果一个爬虫要解释一个验证码中的内容,这在以前通过简单的图像识别是可以完成的,但是就现在来讲,验证码的干扰线,噪点都很多,甚至还出现了人类都难以认识的验证码(~~~~~~~)。
相应的解决措施:验证码识别的基本方法:截图,二值化、中值滤波去噪、分割、紧缩重排(让高矮统一)、字库特征匹配识别。(python的PIL库或者其他)模拟登陆(例如知乎等):用好pythonrequests中的session(下面几行代码实现了最简单的163邮箱的登陆,其实原理是类似的~~)。
import requests
s =requests.session()
login_data={"account":" ","password":" "}
res=s.post("http://mail.163.com/",login_data)
五、反爬技术Ajax动态加载
网页的不希望被爬虫拿到的数据使用Ajax动态加载,这样就为爬虫造成了绝大的麻烦,如果一个爬虫不具备js引擎,或者具备js引擎,但是没有处理js返回的方案,或者是具备了js引擎,但是没办法让站点显示启用脚本设置。基于这些情况,ajax动态加载反制爬虫还是相当有效的。
Ajax动态加载的工作原理是:从网页的url加载网页的源代码之后,会在浏览器里执行JavaScript程序。这些程序会加载出更多的内容,并把这些内容传输到网页中。这就是为什么有些网页直接爬它的URL时却没有数据的原因。
处理方法:若使用审查元素分析”请求“对应的链接(方法:右键→审查元素→Network→清空,点击”加载更多“,出现对应的GET链接寻找Type为text/html的,点击,查看get参数或者复制RequestURL),循环过程。如果“请求”之前有页面,依据上一步的网址进行分析推导第1页。以此类推,抓取抓Ajax地址的数据。对返回的json使用requests中的json进行解析,使用eval()转成字典处理(上一讲中的fiddler可以格式化输出json数据。
六、反爬技术cookie限制
一次打开网页会生成一个随机cookie,如果再次打开网页这个cookie不存在,那么再次设置,第三次打开仍然不存在,这就非常有可能是爬虫在工作了。
解决措施:在Headers挂上相应的cookie或者根据其方法进行构造(例如从中选取几个字母进行构造)。如果过于复杂,可以考虑使用selenium模块(可以完全模拟浏览器行为)。
— 申请免费试学名额 —
在职想转行提升,担心学不会?根据个人情况规划学习路线,闯关式自适应学习模式保证学习效果
讲师一对一辅导,在线答疑解惑,指导就业!
相关推荐 更多
Python爬虫入门教程 零基础高效学习Python爬虫技术
Python简单易学,爬虫技术,不需要你系统地精通一门编程语言,也不需要高深的数据库技术,从实际的项目中去学习这些零散的知识点。掌握正确的方法,在短时间内做到能够爬取主流网站的数据,其实非常容易实现。
10340
2019-08-08 16:07:57
Python爬虫一般用什么框架比较好?
Python爬虫一般用什么框架比较好?一般来讲,只有在遇到比较大型的需求时,才会使用Python爬虫框架。这样的做的主要目的,是为了方便管理以及扩展。本文将向大家推荐十个Python爬虫框架,它们分别是Scrapy、Crawley、Portia、newspaper、python-goose、Beautiful Soup、mechanize、selenium、cola和PySpider。
8110
2019-10-21 16:51:17
为什么大家都学Python编程?学Python开发优势
在招聘网站上不难发现很多公司的招聘信息,某些岗位招聘要求有Python编程经验优先。近年国家政策大力扶持,python进入学校的课堂,各大高校相继开设人工智能专业;学python编程可以高效解决工作中遇到的问题,提高工作效率。
5616
2020-02-07 15:46:32
不做程序员学Python有什么用?
不做程序员学Python有什么用?用处当然是十分广泛的,如果你的思维还停留在只有编程开发者才能学习Python,那就真的与现代社会脱节了。编程更像是一种工具,一种技能,而不仅仅只是一个职业岗位。尤其是以其高效简洁,新手友好著称的Python,更是适合所有想要提高工作效率的职场人掌握。下面我们一起看看学Python的实际作用,主要有自动化办公、数据分析以及Python的另类操作等等。
7953
2020-04-17 10:17:33
常见的反爬虫技术有哪些?如何防止别人爬自己的网站?
搜索引擎可以通过爬虫抓取网页信息,同时也有很多企业通过爬虫获取其他平台的信息用于数据分析或者内容优化,但是对于自身网站有些页面或者信息并不希望被爬虫抓取,那我们如何来实现反爬虫技术呢?如何防止别人爬自己的网站呢?
8184
2020-08-24 14:20:55