在线客服
扫描二维码
下载博学谷APP
扫描二维码
关注博学谷微信公众号
Python面试题scrapy和scrapy-redis的区别是什么？为什么选择redis数据库？scrapy 是一个Python爬虫框架，爬取效率极高，具有高度定制性，但是不支持分布式。选择redis 数据库因为 redis支持主从同步，而且数据都是缓存在内存中的。
scrapy和scrapy-redis的区别
scrapy 是一个Python爬虫框架，爬取效率极高，具有高度定制性，但是不支持分布式。而 scrapy-redis 一套基于redis数据库、运行在 scrapy 框架之上的组件，可以让 scrapy 支持分布式策略，Slaver端共享 Master 端 redis 数据库里的 item 队列、请求队列和请求指集合。
为什么选择redis数据库？
选择redis 数据库因为 redis支持主从同步，而且数据都是缓存在内存中的，所以基于redis 的分布式爬虫，对请求和数据的高频读取效率非常高。
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
Python面试题 scrapy 框架运行的机制？
下一篇：
Python应该怎么学？学习python有技巧吗？
相关推荐 更多
Python虚拟机框架知识点讲解
Python虚拟机框架知识点讲解，博学谷小编主要介绍讲解Python字节码、Python虚拟机的运行框架、Python运行时环境初探的相关内容，Python是一种半编译半解释型运?行环境，在模块"载?入"时将源码编译成字节码(ByteCode)，这些字节码会被虚拟机在一个"巨大"的核心函数里解释执，接下来我们一起看下。
8389
2019-06-26 11:00:10
Python开发中给定两个列表怎么找出相同元素和不同元素?
Python开发中给定两个列表怎么找出他们相同元素和不同元素?相同元素：print(set1&set2)；不同元素：print(set1^set2)
13105
2019-06-28 14:18:46
Python开发岗位求职面试常见问题集锦（二）
Python是目前国内外广受关注的编程语言之一。因此很多朋友选择学习python编程语言，而再人才大量涌入这个行业的同时，企业有了更多的选择性，对求职者的筛选也越来越严格。如果没有充分准备就去面试，很容易遭遇碰壁。那如何才能增加自己面试成功的几率呢？……
9399
2019-06-28 18:21:33
Python爬虫Ajax动态加载知识点讲解
Python爬虫Ajax动态加载知识点讲解，Ajax动态加载工作原理从网页的url加载网页的源代码之后，会在浏览器里执行JavaScript程序。这些程序会加载出更多的内容，并把这些内容传输到网页中。
8877
2019-07-25 18:03:44
Django框架在Python开发很重要为什么？
Django框架是一个web框架,且是一个后端框架程序,它不是服务器，需要注意Django框架帮我们封装了很多的组件,帮助我们实现各种功能,具有很强的扩展性。功能强大的脚手架和诸多开箱即用的组件，用Django搭建Web应用快速而又省力。
6990
2020-10-15 11:56:21
