在线客服
扫描二维码
下载博学谷APP
扫描二维码
关注博学谷微信公众号
Python面试题 scrapy 框架运行的机制？从start_urls里获取第一批url并发送请求，请求由引擎交给调度器入请求队列，获取完毕后，调度器将请求队列里的请求交给下载器去获取请求对应的响应资源，并将响应交给自己编写的解析方法做提取处理：
如果提取出需要的数据，则交给管道文件处理；如果提取出 url，则继续执行之前的步骤（发送 url 请求，并由引擎将请求交给调度器入队列...)，直到请求队列里没有请求，程序结束。
根据 scrapy 的流程图，描述出五大组件、两个中间件，以及完成一个请求的流程。
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
Python工程师常见面试题集锦--网络编程（2）
下一篇：
Python面试题scrapy和scrapy-redis的区别是什么？
相关推荐 更多
django中间件的使用方法博学谷讲师总结
django中间件的使用方法，Django在中间件中预置了六个方法;初始化、处理请求前、处理视图前、处理模板响应前、处理响应后、异常处理。
8867
2019-07-02 17:31:17
推荐十个Python图像处理工具
今天的世界充满了各种各样的数据，而图像是这些数据的重要组成部分。但当我们在使用它们之前，必须对这些数字图像进行处理、分析和操作，以提高其质量甚至提取一些可以使用的信息。本文将推荐十个Python图像处理工具。
7572
2019-07-09 14:27:16
Python开发工程师面试题之爬虫面试题分享
Python开发工程师的就业方向非常多，其中一个方向就是python爬虫开发工程师，这也是很多企业热招的岗位之一。如何能提高自己面试的成功率，不仅仅需要开发者在学习工作中不断的积累专业技能知识，最关键的是在面试过程中能正常发挥。下面为大家提供几个Python爬虫工程师面试的题目，希望对大家的面试有帮助。
8107
2019-08-14 10:20:09
MySQL和Redis高可用性体现在哪些方面？
MySQL和Redis高可用主要体现三个方面：MySQLReplication是MySQL官方提供的主从同步方案；Sentinel是Redis官方为集群提供的高可用解决方案；Sentinel主要功能。
8049
2019-07-16 17:00:32
自动化测试常用的Python框架有哪些？
自动化测试常用的Python框架有哪些？常用的框架有Robot Framework、Pytest、UnitTest/PyUnit、Behave、Lettuce。Pytest、Robot Framework和UnitTest主要用于功能与单元测试，Lettuce和Behave仅适用于行为驱动测试。
5224
2020-09-09 16:34:55
