在线客服
扫描二维码
下载博学谷APP
扫描二维码
关注博学谷微信公众号
Python面试题scrapy和scrapy-redis的区别是什么？为什么选择redis数据库？scrapy 是一个Python爬虫框架，爬取效率极高，具有高度定制性，但是不支持分布式。选择redis 数据库因为 redis支持主从同步，而且数据都是缓存在内存中的。
scrapy和scrapy-redis的区别
scrapy 是一个Python爬虫框架，爬取效率极高，具有高度定制性，但是不支持分布式。而 scrapy-redis 一套基于redis数据库、运行在 scrapy 框架之上的组件，可以让 scrapy 支持分布式策略，Slaver端共享 Master 端 redis 数据库里的 item 队列、请求队列和请求指集合。
为什么选择redis数据库？
选择redis 数据库因为 redis支持主从同步，而且数据都是缓存在内存中的，所以基于redis 的分布式爬虫，对请求和数据的高频读取效率非常高。
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
Python面试题 scrapy 框架运行的机制？
下一篇：
Python应该怎么学？学习python有技巧吗？
相关推荐 更多
什么是 cookie？cookie和session 有什么区别？
cookie 数据存放在客户的浏览器上，session 数据放在服务器上。cookie 不是很安全，别人可以分析存放在本地的 cookie 并进行 cookie 欺骗，考虑到安全应当使用 session。session 会在一定时间内保存在服务器上。当访问增多，会比较占用你服务器的性能，考虑到减轻服务器性能方面，应当使用cookie。
8581
2019-06-27 11:12:42
Python开发中match和search的区别是什么
Python开发中match和search的区别:match()函数只检测 RE 是不是在string的开始位置匹配，search()会扫描整个string查找匹配；也就是说 match()只有在0位置匹配成功的话才有返回，如果不是开始位置匹配成功的话，match()就返回none。
9942
2019-07-01 16:12:22
Python开发工程师面试题之爬虫面试题分享
Python开发工程师的就业方向非常多，其中一个方向就是python爬虫开发工程师，这也是很多企业热招的岗位之一。如何能提高自己面试的成功率，不仅仅需要开发者在学习工作中不断的积累专业技能知识，最关键的是在面试过程中能正常发挥。下面为大家提供几个Python爬虫工程师面试的题目，希望对大家的面试有帮助。
9114
2019-08-14 10:20:09
开发中Django和Flask框架的区别是什么？
Django和Flask框架的区别是什么？Python中Django框架和Flask框架都是比较常见的，在开发应用系统时，使用框架可以提升开发效率，让应用开发更加规范、拓展性更强，程序员把更多的精力放在业务逻辑的实现上，而不是重复、而复杂的基础环境上。
6983
2020-08-24 16:15:31
需要学习的Python自动化测试框架有哪些？
常用的Python自动化测试框架有Robot Framework、Pytest、UnitTest/PyUnit、Behave、Lettuce。软件测试的自动化在预设条件下运行系统或应用程序，评估运行结果，预先条件应包括正常条件和异常条件。自动化测试以人为驱动的测试行为转化为机器执行的一种过程。
6363
2021-05-13 16:06:39
