在线客服
扫描二维码
下载博学谷APP
扫描二维码
关注博学谷微信公众号
Python面试题 scrapy 框架运行的机制？从start_urls里获取第一批url并发送请求，请求由引擎交给调度器入请求队列，获取完毕后，调度器将请求队列里的请求交给下载器去获取请求对应的响应资源，并将响应交给自己编写的解析方法做提取处理：
如果提取出需要的数据，则交给管道文件处理；如果提取出 url，则继续执行之前的步骤（发送 url 请求，并由引擎将请求交给调度器入队列...)，直到请求队列里没有请求，程序结束。
根据 scrapy 的流程图，描述出五大组件、两个中间件，以及完成一个请求的流程。
— 申请免费试学名额 —
在职想转行提升，担心学不会？根据个人情况规划学习路线，闯关式自适应学习模式保证学习效果
讲师一对一辅导，在线答疑解惑，指导就业！
上一篇：
Python工程师常见面试题集锦--网络编程（2）
下一篇：
Python面试题scrapy和scrapy-redis的区别是什么？
相关推荐 更多
Python开发的魔法方法总结
Python开发的魔法方法总结：魔法方法就是可以给你的类增加魔力的特殊方法， __init__ 构造器，__new__才是实例化对象调用的第一个方法，__call__ 允许一个类的实例像函数一样被调用。
8028
2019-07-01 15:55:02
Python开发TCP和UDP的区别是什么？优缺点对比总结
Python开发TCP和UDP的区别是什么？优缺点对比总结：UDP 是面向无连接的通讯协议，UDP 数据包括目的端口号和源端口号信息。TCP 是面向连接的通讯协议，通过三次握手建立连接，通讯完成时四次挥手。UDP 速度快、操作简单、要求系统资源较少；TCP 在数据传递时，有确认、窗口、重传、阻塞等控制机制，能保证数据正确性，较为可靠。
9273
2019-07-02 16:47:16
Python面试题 Tornado的核心是什么？
Tornado 的核心是 ioloop 和 iostream 这两个模块，前者提供了 一个高效的 I/O 事件循环，后者则封装了 一个无阻塞的 socket 。 通过向 ioloop 中添加网络 I/O 事件，利用无阻塞的 socket ，再搭配相应的回调函数，便可达到梦寐以求的高效异步执行。
13057
2019-07-02 17:43:40
需要学习的Python自动化测试框架有哪些？
常用的Python自动化测试框架有Robot Framework、Pytest、UnitTest/PyUnit、Behave、Lettuce。软件测试的自动化在预设条件下运行系统或应用程序，评估运行结果，预先条件应包括正常条件和异常条件。自动化测试以人为驱动的测试行为转化为机器执行的一种过程。
6268
2021-05-13 16:06:39
Python2和 Python3都有哪些区别？
很多新同学在学习Python的过程当中，都会犹豫是学Python2还是Python3呢，这里给大家整理了一下关于Python2和Python3都有哪些区别，希望对迷茫的同学有所帮助
4979
2021-06-24 15:22:08
