yarn基本架构（【深入浅出 Yarn 架构与实现】4-1 ResourceManager 功能概述）

前面几篇文章对 Yarn 基本架构    
    
    
、程序基础库  


     


     


   、应用设计方法等进行了介绍 
    
    
   。之后几篇将开始对 Yarn 核心组件进行剖析
     


     


     

。

ResourceManager（RM）是 Yarn 的核心管理服务    
    
    
，负责集群管理


 




 




 

、任务调度   

   

   

、状态机管理等  


     


     


   ，本篇将对 RM 总体架构进行介绍 




 




 




。

一   

     

     

  、RM 基本职能

主要包含以下几个功能：

Client 交互：处理来自 Client 的请求； 管理 ApplicationMaster：启动



  




  




  
、管理  


  


  


、重启等； 管理 Nodemanager：接收 NM 汇报的资源信息


 




 




 

，并下达管理指令； 资源管理与调度：接收 AM 的资源请求   

   

   

，并分配资源 

   

   

  。

如上图所示   

     

     

  ，RM 中各组件通过对应 RPC 与各 Client 进行通信：

ResourceTrackerProtocol: NodeManager（NM）通过该 RPC 协议向 RM 注册    
     
     
 、汇报节点健康状况和 Container 运行状态



  




  




  
，并领取 RM 下达的命令
     

     

     
。NM 与 RM 之间采用了「pull模型」  


  


  


，NM 总是周期性地主动向 RM 发起请求（心跳）    
     
     
 ，并领取下达给自己的命令  




  




  




。 ApplicationMasterProtocol: 应用程序的 ApplicationMaster 通过该 RPC 协议向 RM 注册




   




   




   、申请资源和释放资源 


  


  


 。（AM 与 RM 交互参考上一篇文章「3-3 Yarn Application Master 编写」） ApplicationClientProtocol: 应用程序的客户端通过该 RPC 协议向 ResourceManager 提交应用程序 



 



 



、查询应用程序状态和控制应用程序（比如杀死应用程序）等
     
     
     。（AppClient 与 RM 交互参考文章「3-2 Yarn Client 编写」

从以上介绍中可以看出




   




   




   ，与 RM 通过 RPC 通信的组件都采用「Pull 模型」 



 



 



，各个「Client」通过心跳定期向 RM 汇报               ，在心跳返回值中领取 RM 下达的指令   




   




   




。

二               、RM 内部架构

本节将深入 RM 内部




    




    




    ，看其内部组织结构和主要模块














，架构图如下所示：

一）用户交互模块

RM 分别针对普通用户




    




    




    、管理员和 Web 提供了三种对外服务：

ClientRMService: 为普通用户提供的服务               ，它处理来自客户端各种RPC请求 



     



     



    ，比如提交应用程序














、终止应用程序               、获取应用程序运行状态等； AdminService: RM 为管理员提供了一套独立的服务接口














，以防止管理员发送的管理命令饿死    
    
    
，管理员可通过这些接口管理集群  


     


     


   ，比如动态更新节点列表 



     



     



    、更新ACL列表














、更新队列信息等； WebApp: 更加友好地展示集群资源使用情况和应用程序运行状态等信息 



 



 



。

二） NM 管理模块

NMLivelinessMonitor: 监控 NM 是否活着


 




 




 

，长时间（默认为10min）内未汇报心跳信息   

   

   

，则认为其挂了； NodesListManager: 维护正常节点和异常节点列表   

     

     

  ，管理exclude（类似于黑名单）和include（类似于白名单）节点列表



  




  




  
，这两个列表均是在配置文件中设置的  


  


  


，可以动态加载； ResourceTrackerService: 处理来自 NM 的请求    
     
     
 ，主要包括注册和心跳两种请求               。

三） AM 管理模块

AMLivelinessMonitor: 监控AM是否活着




   




   




   ，长时间未汇报心跳 



 



 



，它上面所有正在运行的 Container 将被置为失败状态               ，而 AM 本身会被重新分配到另外一个节点上执行（AM 重试次数默认是2）； ApplicationMasterLauncher: 与某个 NM 通信




    




    




    ，要求它为某个应用程序启动 ApplicationMaster； ApplicationMasterService（AMS）: 处理来自 AM 的请求














，主要包括注册和心跳两种请求
    




    




    



。其中心跳汇报信息包含所需资源描述    
    
    
、待释放的Container列表  


     


     


   、黑名单列表等               ，而 AMS 则为之返回相应的 Container 信息














。

四） Application 管理模块

ApplicationACLsManage: 管理应用程序访问权限 



     



     



    ，包含两部分权限：查看权限和修改权限； RMAppManager: 管理应用程序的启动和关闭； ContainerAllocationExpirer: 当 AM 收到 RM 新分配的一个 Container 后














，必须在一定的时间内启动该 Container    
    
    
，否则将被回收               。

五）状态机管理模块

RM 共维护四类状态机：

RMApp: 维护一个 Application 的整个运行周期  


     


     


   ，可能会包括多次 Attempt； RMAppAttempt: 一个实例运行失败后


 




 




 

，可能再次启动一个重新运行   

   

   

，而每次启动称为一次运行尝试用 「RMAppAttempt」描述   

     

     

  ，RMAppAttempt 维护了一次运行尝试的整个生命周期； RMContainer: 维护一个 Container 的运行周期
     



     



     


。RM 将资源封装成 Container 发送给应用程序的 AM



  




  




  
，而AM 则会在 Container 中启动任务； RMNode: 维护一个 NM 的生命周期  


  


  


，包括启动到运行结束整个过程














。

六）安全管理模块

RM 有非常全面的权限管理机制    
     
     
 ，主要包括：

ClientToAMSecretManager ContainerTokenSecretManager ApplicationTokenSecretManager

七）资源分配模块

该模块主要涉及一个组件「ResourceScheduler」 
    
    
   。其是资源调度器




   




   




   ，按照一定的约束条件（比如队列容量限制等）将集群中的资源分配给各个应用程序
     


     


     

。

ResourceScheduler 是一个插拔式模块 



 



 



，自带三个调度器               ，用户可以自己定制： FIFO：先进先出




    




    




    ，单用户 Fair Scheduler:公平调度器(FairScheduler基本上具备其它两种的所有功能) Capacity Scheduler:容量调度器

此部分将在后面文章中更详细的介绍 




 




 




。

三


 




 




 

、RM事件与事件处理器

Yarn采用了事件驱动机制














，而RM是的实现则是最好的例证 

   

   

  。所有服务和组件均是通过中央异步调度器组织在一起的               ，不同组件之间通过事件交互 



     



     



    ，从而实现了一个异步并行的高效系统
     

     

     
。

下面是详细的表格：

四   

   

   

、小结

在 YARN 中














，ResourceManager 负责集群中所有资源的统一管理和分配    
    
    
，它接收来自各个节点（NodeManager）的资源汇报信息  


     


     


   ，并把这些信息按照一定的策略分配给各个应用程序  




  




  




。

本篇对 ResourceManager 总体架构进行了介绍 


  


  


 。对其基本职能   

     

     

  、内部结构



  




  




  
、处理的事件进行了梳理
     
     
     。后续文章中将会对每个部分深入源码进行更深入讨论   




   




   




。

参考文章：

《Hadoop 技术内幕 - 深入解析 Yarn 结构设计与实现原理》第五章