在线客服
扫描二维码
下载博学谷APP扫描二维码
关注博学谷微信公众号
大数据Apache Hadoop YARN 工作原理介绍,Apache Hadoop YARN是一种新的 Hadoop 资源管理器,通用资源管理系统可为上层应用提供统一的资源管理和调度,引入为集群在利用率、资源统一管理和数据共享等方面具有很强的优势。
Apache Hadoop YARN 工作原理:
一、Apache Hadoop YARN基本构成
Master/Slave结构,1 个ResourceManager(RM)对应多个 NodeManager(NM);YARN 由 Client、ResourceManager、NodeManager、ApplicationMaster (AM)组成;Client 向 RM 提交任务、杀死任务等;AM由对应的应用程序完成;每个应用程序对应一个 AM,AM向RM申请资源用于在NM上启动相应的 Task;NM 向 RM通过心跳信息:汇报 NM健康状况、任务执行状况、领取任务等;
大数据系列之Hadoop的资源管理模块YARN
1、RM:整个集群只有一个,负责集群资源的统一管理和调度:
处理来自客户端的请求(启动/杀死应用程序);启动/监控 AM;一旦某个 AM 挂了之后,RM 将会在另外一个节点上启动该 AM;监控 NM,接收 NM的心跳汇报信息并分配任务到 NM去执行;一旦某个 NM挂了,标志下该 NM 上的任务,来告诉对应的 AM 如何处理;负责整个集群的资源分配和调度;
2、NM:整个集群中有多个,负责单节点资源管理和使用
周期性向 RM汇报本节点上的资源使用情况和各个 Container 的运行状;接收并处理来自 RM 的 Container 启动/停止的各种命令;处理来自 AM的命令;负责单个节点上的资源管理和任务调度;
3、AM:每个应用一个,负责应用程序的管理
数据切分;为应用程序/作业向 RM 申请资源(Container),并分配给内部任务;与 NM通信以启动/停止任务;任务监控和容错(在任务执行失败时重新为该任务申请资源以重启任务);处理 RM发过来的命令:杀死 Container、让 NM重启等;
4、Container:对任务运行环境的抽象
任务运行资源(节点、内存、CPU);任务启动命令;任务运行环境;任务是运行在Container中,一个Container中既可以运行AM也可以运行具体的Map/Reduce/MPI/SparkTask;
二、YARN工作原理
用户向YARN 中提交应用程序/作业,其中包括 ApplicaitonMaster 程序、启动ApplicationMaster 的命令、用户程序等;ResourceManager 为作业分配第一个 Container,并与对应的 NodeManager 通信,要求它在这个 Containter 中启动该作业的 ApplicationMaster;ApplicationMaster 首 先 向 ResourceManager 注 册 , 这 样 用 户 可 以 直 接 通 过ResourceManager 查询作业的运行状态;然后它将为各个任务申请资源并监控任务的运行状态,直到运行结束。即重复步骤 4-7;ApplicationMaster 采用轮询的方式通过 RPC 请求向 ResourceManager 申请和领取资源;
一旦 ApplicationMaster 申请到资源后,便与对应的 NodeManager 通信,要求它启动任务;NodeManager 启动任务;各个任务通过 RPC 协议向 ApplicationMaster 汇报自己的状态和进度,以让ApplicaitonMaster 随时掌握各个任务的运行状态,从而可以在任务失败时重新启动任务;在作业运行过程中,用户可随时通过 RPC 向 ApplicationMaster 查询作业当前运行状态;作业完成后,ApplicationMaster 向 ResourceManager 注销并关闭自己;
三、YARN容错性
ResourceMananger基于 ZooKeeper 实现 HA 避免单点故障;NodeManager执行失败后,ResourceManager 将失败任务告诉对应的 ApplicationMaster;由 ApplicationMaster 决定如何处理失败的任务;ApplicationMaster执行失败后,由 ResourceManager 负责重启;ApplicationMaster 需处理内部任务的容错问题;RMAppMaster 会保存已经运行完成的 Task,重启后无需重新运行。
四、YARN调度框架
1、双层调度框架
ResourceManager 将资源分配给 ApplicationMaster;ApplicationMaster 将资源进一步分配给各个 TASK;
2、基于资源预留的调度策略
资源不够时,会为 Task 预留,直到资源充足;描述:当一个 Task 需要 10G 资源时,各个节点都不足 10G,那么就选择一个节点,但是某个 NodeManager上只有 2G, 那么就在这个 NodeManager上预留, 当这个 NodeManager上释放其他资源后,会将资源预留给 10G 的作业,直到攒够 10G 时,启动 Task;缺点:资源利用率不高,要先攒着,等到 10G 才利用,造成集群的资源利用率低;
与"all or nothing"策略不同描述:当一个作业需要 10G 资源时,节点都不足 10G慢慢等,等到某个节点上有 10G 空闲资源时再运行,很可能会导致该 Task停工。
Apache Hadoop YARN 优势总结:hadoop2将资源管理功能从MapReduce框架中独立出来,也就是现在的YARN模块。大大减小了 JobTracker的资源消耗,对于资源的表示以内存为单位,比之前以剩余slot 数目更合理;在新的 Yarn 中,ApplicationMaster 是一个可变更的部分,用户可以对不同的编程模型写自己的 AppMst。
— 申请免费试学名额 —
在职想转行提升,担心学不会?根据个人情况规划学习路线,闯关式自适应学习模式保证学习效果
讲师一对一辅导,在线答疑解惑,指导就业!
相关推荐 更多
数据库开发转行大数据开发工程师怎么样?
数据库开发转行大数据开发工程师怎么样?大数据的方向的工作有大数据运维工程师、大数据开发工程师、数据分析、数据挖掘、架构师等。有工作经验想转行大数据开发主要考察基础、学习能力、解决问题的能力。
8786
2019-05-20 17:54:38
云计算大数据培训班学费多少钱?
云计算大数据培训就业班学费多少钱?在互联网行业,云计算大数据技术可谓是夺人眼球,对于企业来说,云计算大数据技术为企业优化产业结构,大大节约了成本。对于从业者来说,提供了更多的就业机会,同时也让大家的加薪成为现实。从而很多同学想通过技术培训就业班进入云计算大数据技术领域。现在云计算大数据培训机就业班学费多少钱?
7851
2019-12-05 15:48:33
大数据Hadoop集群搭建步骤讲解
相信每一个大数据学习者都明白,Hadoop在大数据中的重要地位。Hadoop简称HDFS,它是是大数据的基础,所以大家一定要掌握好Hadoop的相关基础知识。本文主要是详细讲解Hadoop集群的基本概念、搭建步骤及注意事项。
6086
2019-08-22 16:18:16
推荐零基础学习大数据的10本经典图书
学习大数据并不是一蹴而就的事情,及时工作多年的开发工程师都需要不断的补充新鲜的知识内容。目前学习大数据知识可以通过视频和图书两种方式学习,视频的优势在于能够将老师的个人开发经验传授给学习者,而图书的优势在于能够随时翻阅,内容比较丰富。这里为大家推荐零基础学习大数据的8本经典图书,希望同学们能够通过不同的学习途径充分掌握大数据开发技能。
4384
2020-09-14 16:01:31
大数据开发为什么要参加系统学习呢?
自从发展大数据产业被写入政府工作报告、BAT高薪聘请专业大数据人才之后,很多小白也开始纷纷转行进入大数据领域。很多的转型者都将参加培训机构看成是自己转型最高效的方式。
3191
2020-12-10 15:31:43