Application 流程与编写方法

一、icode9简介

本篇将对 Yarn Application 编写流程进行介绍。将一个新的应用程序运行到 Yarn 上，主要编写两个组件 Client 和 ApplicationMaster，组件的具体实现案例将在后两篇文章中介绍。
（实际使用中，我们并不需要实现一个 Yarn Application，直接将任务提交到 MapReduce、Spark、Hive、Flink 等框架上，再由这些框架提交任务即可，这些框架也可以被视为一种特定的 Yarn Application。）
其中，Client 主要用于提交应用程序和管理应用程序，ApplicationMaster 负责实现应用程序的任务切分、调度、监控等功能。

一）Application 的提交和启动流程

二）各服务间涉及的 protocol

二、组件实现流程

一）Client 实现

1. 创建并启动 YarnClient;
2. 通过 YarnClient 创建 Application;
3. 完善 ApplicationSubmissionContext 所需内容:
   1. 设置 application name;
   2. 设置 ContainerLaunchContext;（包含 app master jar）
   3. 设置优先级、队列等
4. 提交 Application。

二）ApplicationMaster实现

1. 创建并启动 AMRMClientAsync，用于与 ResourceManager 通信;
2. 创建并启动 NMClientAsync ，用于与 NodeManager 通信;
3. 向 ResourceManager 注册，之后会向 ResourceManager 发送心跳;
4. 向 ResourceManager 申请 Container。
5. 在 Container 中运行 task

三）Hadoop 实现案例

Hadoop 自带的 hadoop-yarn-applications-distributedshell 是个很好的学习案例，可以参考其中的 Client.java 和 ApplicationMaster.java 两个类进行学习。DistributedShell 可以执行用户指定的 Shell 命令或脚本，包含了编写一个 YARN Application 的完整内容。

标签：icode9,Application,编写,介绍,应用程序,运行,框架,数据,流程
来源：