其他分享
首页 > 其他分享> > ResourceManager总体架构

ResourceManager总体架构

作者:互联网

一、ResourceManager基本职能

在YARN中,ResourceManager负责集群中所有资源的统一管理和分配,它接收来自各个节点(NodeManager)的资源汇报信息,并把这些信息按照一定的策略分配给各个应用程序(实际上是ApplicationMaster)。整体上讲,ResourceManager需通过两个RPC协议与NodeManager和(各个应用程序的)ApplicationMaster交互,如图所示,具体如下。

ResourceManager相关RPC协议

ResourceTrackerProtocol:NodeManager通过该RPC协议向ResourceManager注册、汇报节点健康状况和Container运行状态,并领取ResourceManager下达的命令,这些命令包括重新初始化、清理Container等,在该RPC协议中,ResourceManager扮演RPC Server的角色(由内部组件ResourceTrackerService实现),而NodeManager扮演RPC Client的角色,换句话说,NodeManager与ResourceManager之间采用了“pull模型”(与MRv1类似),NodeManager 总是周期性地主动向ResourceManager发起请求,并通过领取下达给自己的命令。   ApplicationMasterProtocol:应用程序的ApplicationMaster通过该RPC协议向ResourceManager注册、申请资源和释放资源。在该协议中,ApplicationMaster扮演RPCClient的角色,而ResourceManager扮演RPC Server的角色,换句话说,ResourceManager与ApplicationMaster之间也采用了“pull模型”。   ApplicationClientProtocol:应用程序的客户端通过该RPC协议向ResourceManager提交应用程序、查询应用程序状态和控制应用程序(比如杀死应用程序)等。在该协议中,应用工程序客户端扮演RPC Client的角色,而ResourceManager扮演RPC Server的角色。   概括起来,ResourceManager主要完成以下几个功能:

二、ResourceManager内部架构

这部分主要介绍ResourceManager的内部组织结构和主要模块,如图所示。
ResourceManager内部架构图 ResourceManager主要由以下几个部分组成:

2.1 用户交互模块

ResourceManager分别针对普通用户、管理员和Web提供了三种对外服务,具体实现分别对应ClientRMService、AdminService和WebApp。   ClientRMService。ClientRMService是为普通用户提供的服务,它处理来自客户端各种RPC请求,比如提交应用程序、终止应用程序、获取应用程序运行状态等。   AdminService。ResourceManager为管理员提供了一套独立的服务接口,以防止大量的普通用户请求使管理员发送的管理命令饿死,管理员可通过这些接口管理集群,比如动态更新节点列表、更新ACL列表、更新队列信息等。    WebApp。为了更加友好地展示集群资源使用情况和应用程序运行状态等信息,YARN对外提供了一个Web 界面,这一部分是YARN仿照Haml。

2.2 NM管理模块

该模块主要涉及以下组件:    NMLivelinessMonitor。监控NM是否活着,如果一个NodeManager在一定时间(默认为10min)内未汇报心跳信息,则认为它死掉了,需将其从集群中移除。   NodesListManager。维护正常节点和异常节点列表,管理exclude(类似于黑名单)和include(类似于白名单)节点列表,这两个列表均是在配置文件中设置的,可以动态加载。   ResourceTrackerService。处理来自NodeManager的请求,主要包括注册和心跳两种请求,其中,注册是NodeManager启动时发生的行为,请求包中包含节点ID、可用的资源上限等信息;而心跳是周期性行为,包含各个Container运行状态,运行的Application列表、节点健康状况(可通过一个脚本设置)等信息,作为请求的应答,ResourceTrackerService可为NodeManager返回待释放的Container列表、Application列表等信息。

2.3 AM管理模块

该模块主要涉及以下组件:   AMLivelinessMonitor。监控AM是否活着,如果一个ApplicationMaster在一定时间(默认为10min)内未汇报心跳信息,则认为它死掉了,它上面所有正在运行的Container将被置为失败状态,而AM本身会被重新分配到另外一个节点上(用户可指定每个ApplicationMaster的尝试次数,默认是2)执行。    ApplicationMasterLauncher。与某个NodeManager通信,要求它为某个应用程序启动ApplicationMaster。    ApplicationMasterService(AMS)。处理来自ApplicationMaster的请求,主要包括注册和心跳两种请求,其中,注册是ApplicationMaster启动时发生的行为,注册请求包中包含ApplicationMaster启动节点;对外RPC端口号和tracking URL等信息;而心跳则是周期性行为,汇报信息包含所需资源描述、待释放的Container列表、黑名单列表等,而AMS则为之返回新分配的Container、失败的Container、待抢占的Container列表等信息。

2.4 Application管理模块

该模块主要涉及以下组件:    ApplicationACLsManage。管理应用程序访问权限,包含两部分权限:查看权限和修改权限。查看权限主要用于查看应用程序基本信息,而修改权限则主要用于修改应用程序优先级、杀死应用程序等。    RMAppManager。管理应用程序的启动和关闭。    ContainerAllocationExpirer。当AM收到RM新分配的一个Container后,必须在一定的时间(默认为10min)内在对应的NM上启动该Container,否则RM将强制回收该Container,而一个已经分配的Container是否该被回收则是由ContainerAllocationExpirer决定和执行的。

2.5 状态机管理模块

ResourceManager使用有限状态机维护有状态对象的生命周期,状态机的引入使得YARN设计架构更加清晰。ResourceManager共维护了4类状态机,分别是RMApp、RMAppAttempt、RMContainer和RMNode(这几个均是接口,具体实现类为对应接口名加上"Impl"后缀)。    RMApp。RMApp维护了一个应用程序(Application)的整个运行周期,包括从启动到运行结束整个过程。由于一个Application的生命周期可能会启动多个Application运行实例(Application Attempt),因此可认为,RMApp维护的是同一个Application启动的所有运行实例的生命周期。    RMAppAttempt。一个应用程序可能启动多个实例,即一个实例运行失败后,可能再次启动一个重新运行,而每次启动称为一次运行尝试(或者“运行实例”),用"RMAppAttempt"描述,RMAppAttempt维护了一次运行尝试的整个生命周期。    RMContainer。RMContainer维护了一个Container的运行周期,包括从创建到运行结束整个过程。ResourceManager将资源封装成Container发送给应用程序的ApplicationMaster,而ApplicationMaster则会在Container描述的运行环境中启动任务,因此,从这个层面上讲,Container和任务的生命周期是一致的(目前YARN尚不支持Container重用,一个Container用完后会立刻释放,将来可能会增加Container重用机制)。    RMNode。RMNode维护了一个NodeManager的生命周期,包括启动到运行结束整个过程。

2.6 安全管理模块

ResourceManage自带了非常全面的权限管理机制,主要由ClientTo-AMSecretManager、ContainerTokenSecretManager、ApplicationTokenSecretManager等模块完成。

2.7 资源分配模块

该模块主要涉及一个组件—ResourceScheduler。ResourceScheduler是资源调度器,它按照一定的约束条件(比如队列容量限制等)将集群中的资源分配给各个应用程序,当前主要考虑内存和CPU资源。ResourceScheduler是一个插拔式模块,YARN自带了一个批处理资源调度器—FIFO(First In First Out)和两个多用户调度器—Fair Scheduler和CapacityScheduler。

 

【参考资料】 转载:https://www.cnblogs.com/lemonu/p/12956810.html

标签:总体,Container,ResourceManager,ApplicationMaster,应用程序,RPC,架构,NodeManager
来源: https://www.cnblogs.com/gentlescholar/p/15048137.html