乐鱼电竞

教育行业A股IPO第一股（股票代码 003032）

全国咨询/投诉热线：400-618-4000

MapReduce编程原理介绍[MapReduce开发必读]

更新时间:2019年09月16日15时57分 来源:乐鱼播客 浏览次数:

相信关于Hadoop中MapReduce的相关文章会很多，这里只简单介绍一下MapReduce的相关知识。

Hadoop的MapReduce来源于Google公司的三篇论文中的MapReduce，其核心思想是“分而治之”。Map负责“分”，即把复杂的任务分解为若干个“简单的任务”来并行处理。可以进行拆分的前提是这些小任务可以并行计算，彼此间几乎没有依赖关系。Reduce负责“合”，即对map阶段的结果进行全局汇总。

现阶段MapReduce一般运行在Hadoop2.x版本的yarn资源平台上，具体运行过程后面会有详细说明。

MapReduce编程规范

MapReduce 的开发一共有八个步骤, 其中 Map 阶段分为 2 个步骤，Shuffle 阶段 4 个步骤，Reduce 阶段分为 2 个步骤

Map 阶段 2 个步骤

1)设置 InputFormat 类, 将数据切分为 Key-Value(K1和V1) 对, 输入到第二步；

2)自定义 Map 逻辑, 将第一步的结果转换成另外的 Key-Value(K2和V2)对, 输出结果；

Shuffle 阶段 4 个步骤

3)对输出的 Key-Value 对进行分区；

4)对不同分区的数据按照相同的 Key 排序；

5)(可选) 对分组过的数据初步规约, 降低数据的网络拷贝；

6)对数据进行分组, 相同 Key 的 Value 放入一个集合中；

Reduce 阶段 2 个步骤

7)对多个 Map 任务的结果进行排序以及合并, 编写 Reduce 函数实现自己的逻辑, 对输入的 Key-Value 进行处理, 转为新的 Key-Value(K3和V3)输出；

8)设置 OutputFormat 处理并保存 Reduce 输出的 Key-Value 数据；

MapReduce步骤

yarn资源调度

yarn是hadoop集群当中的资源管理系统�？椋觝adoop2.0开始引入yarn模块,yarn可为各类计算框架提供资源的管理和调度,主要用于管理集群当中的资源(主要是服务器的各种硬件资源，包括CPU，内存，磁盘，网络IO等)以及调度运行在yarn上面的各种任务。

相比于hadoop1.x版本，yarn核心出发点是为了分离资源管理与作业监控，实现分离的做法是拥有一个全局的资源管理ResourceManager(RM)，以及每个应用程序对应一个的应用管理器ApplicationMaster(AM)。

总结一句话就是说：yarn主要就是为了调度资源，管理任务。

YARN总体上是Master/Slave结构，主要由ResourceManager、NodeManager、 ApplicationMaster和Container等几个组件构成。

ResourceManager(RM) 负责处理客户端请求,对各NM上的资源进行统一管理和调度。给ApplicationMaster分配空闲的Container 运行并监控其运行状态。主要由两个组件构成：调度器和应用程序管理器：

调度器(Scheduler)：调度器根据容量、队列等限制条件，将系统中的资源分配给各个正在运行的应用程序。调度器仅根据各个应用程序的资源需求进行资源分配，而资源分配单位是Container。Shceduler不负责监控或者跟踪应用程序的状态。总之，调度器根据应用程序的资源要求，以及集群机器的资源情况，为应用程序分配封装在Container中的资源。

应用程序管理器(Applications Manager)：应用程序管理器负责管理整个系统中所有应用程序，包括应用程序提交、与调度器协商资源以启动ApplicationMaster 、监控ApplicationMaster运行状态并在失败时重新启动等，跟踪分给的Container的进度、状态也是其职责。

NodeManager (NM) NodeManager：NodeManager (NM) NodeManager 是每个节点上的资源和任务管理器。它会定时地向ResourceManager汇报本节点上的资源使用情况和各个Container的运行状态;同时会接收并处理来自ApplicationMaster 的Container 启动/停止等请求。

ApplicationMaster (AM)： 用户提交的应用程序均包含一个ApplicationMaster ，负责应用的监控，跟踪应用执行状态，重启失败任务等。ApplicationMaster是应用框架，它负责向ResourceManager协调资源，并且与NodeManager协同工作完成Task的执行和监控。

Container： Container是YARN中的资源抽象，它封装了某个节点上的多维度资源，如内存、CPU、磁盘、网络等，当ApplicationMaster向ResourceManager申请资源时，ResourceManager为ApplicationMaster 返回的资源便是用Container 表示的。


yarn的架构和工作流程


YARN的架构和工作流程

步骤分析：

1. 客户端通过命令(hadoop jar xxx.jar)提交上传任务到主节点ResourceManager(RM)中的ApplicationManager进程；

2. 主节点RM判断集群状态，选择一台NodeManager(NM)，开启一块资源Container，用来开启AppMaster进程；

3. AppMaster进程获取RM接收的任务请求，进行任务分配；

4. AppMaster根据任务情况向RM中的ResourceScheduler索要资源分配方案；

5. AppMaster根据资源分配方案找到到各个NodeManager从节点；

6. 在从节点上开启资源Container，并运行任务Task；

7. AppMaster获取各个Task上传的任务执行进度和结果；

8. AppMaster将任务执行的结果返回给ApplicationManager。



以上我们介绍MapReduce编程原理，如果想系统学习大数据开发相关课程，可以点击页面咨询按钮，了解乐鱼播客课程详情。

0 分享到：
和我们在线交谈！
【网站地图】【sitemap】