在线客服
扫描二维码
下载博学谷APP
扫描二维码
关注博学谷微信公众号
Python面试题scrapy和scrapy-redis的区别是什么？为什么选择redis数据库？scrapy 是一个Python爬虫框架，爬取效率极高，具有高度定制性，但是不支持分布式。选择redis 数据库因为 redis支持主从同步，而且数据都是缓存在内存中的。
scrapy和scrapy-redis的区别
scrapy 是一个Python爬虫框架，爬取效率极高，具有高度定制性，但是不支持分布式。而 scrapy-redis 一套基于redis数据库、运行在 scrapy 框架之上的组件，可以让 scrapy 支持分布式策略，Slaver端共享 Master 端 redis 数据库里的 item 队列、请求队列和请求指集合。
为什么选择redis数据库？
选择redis 数据库因为 redis支持主从同步，而且数据都是缓存在内存中的，所以基于redis 的分布式爬虫，对请求和数据的高频读取效率非常高。
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
Python面试题 scrapy 框架运行的机制？
下一篇：
Python应该怎么学？学习python有技巧吗？
相关推荐 更多
Python虚拟机框架知识点讲解
Python虚拟机框架知识点讲解，博学谷小编主要介绍讲解Python字节码、Python虚拟机的运行框架、Python运行时环境初探的相关内容，Python是一种半编译半解释型运?行环境，在模块"载?入"时将源码编译成字节码(ByteCode)，这些字节码会被虚拟机在一个"巨大"的核心函数里解释执，接下来我们一起看下。
8756
2019-06-26 11:00:10
如何理解Python开发中字符串中的\字符？
如何理解Python开发中字符串中的\字符？Python字符串中的\字符代表转义字符、路径名中用来连接路径名、编写太长代码手动软换行。
12671
2019-06-27 15:41:50
Python开发Flask中数据库设置？
Flask中数据库设置？#动态追踪修改设置，如未设置只会提示警告#查询时会显示原始SQL语句。
9350
2019-07-02 17:04:55
Python面试题 Tornado的核心是什么？
Tornado 的核心是 ioloop 和 iostream 这两个模块，前者提供了 一个高效的 I/O 事件循环，后者则封装了 一个无阻塞的 socket 。 通过向 ioloop 中添加网络 I/O 事件，利用无阻塞的 socket ，再搭配相应的回调函数，便可达到梦寐以求的高效异步执行。
13351
2019-07-02 17:43:40
Python爬虫框架有哪些？
在大数据时代，掌握数据就掌握了企业发展的方向。爬虫作为抓取互联网数据的一个途径，成为企业需求量非常大的岗位之一。一般情况下小型的爬虫需求直接使用request库+BS4就可以解决了。稍微复杂一点的可以使用selenium解决JS的异步加载问题。而如果遇到大型的爬虫需求，则需要考虑使用框架了。下面我们来一起学习以及各框架。
9541
2019-07-15 17:57:58
