Mapreduce的主要功能有哪些？-CDA数据分析师官网

热线电话：13121318867

Mapreduce的主要功能有哪些？

2020-05-13

Mapreduce是种编程模型，结合了概念"Map（映射）"和"Reduce（归约）"，用于大规模数据集（大于1TB）的并行运算。它极大地方便了编程人员在不会分布式并行编程的情况下，将自己的程序运行在分布式系统上。

MapReduce实现了以下4大主要功能：

1）数据划分和计算任务调度

系统自动将一个作业（Job）待处理的大数据划分为很多个数据块，每个数据块对应于一个计算任务（Task），并自动调度计算节点来处理相应的数据块。作业和任务调度功能主要负责分配和调度计算节点（Map节点或Reduce节点），同时负责监控这些节点的执行状态，并负责Map节点执行的同步控制。

2）数据/代码互定位

为了减少数据通信，一个基本原则是本地化数据处理，即一个计算节点尽可能处理其本地磁盘上所分布存储的数据，这实现了代码向数据的迁移；当无法进行这种本地化数据处理时，再寻找其他可用节点并将数据从网络上传送给该节点（数据向代码迁移），但将尽可能从数据所在的本地机架上寻找可用节点以减少通信延迟。

3）系统优化

为了减少数据通信开销，中间结果数据进入Reduce节点前会进行一定的合并处理；一个Reduce节点所处理的数据可能会来自多个 Map节点，为了避免Reduce计算阶段发生数据相关性，Map节点输出的中间结果需使用一定的策略进行适当的划分处理，保证相关性数据发送到同一个 Reduce节点；此外，系统还进行一些计算性能优化处理，如对最慢的计算任务采用多备份执行、选最快完成者作为结果。

4）出错检测和恢复

以低端商用服务器构成的大规模Mapreduce计算集群中，节点硬件（主机、磁盘、内存等）出错和软件出错是常态，因此 MapReduce需要能检测并隔离出错节点，并调度分配新的节点接管出错节点的计算任务。同时，系统还将维护数据存储的可靠性，用多备份冗余存储机制提高数据存储的可靠性，并能及时检测和恢复出错的数据。

MapReduce的简单执行流程为：

1、hdfs数据的读取；

2、splite 分片；

3、map阶段（key，value）；

4、shuffle；

5、reduce阶段（数据归约）；

6、存储到hdfs

这里特别介绍下Mapreduce执行流程中的第五步，Reduce阶段，其处理过程如下：

1、获取map阶段的输出结果；

2、合并和排序；

3、reduce方法归约处理；

4、保存到hdfs。

CDA数据分析师考试相关入口一览（建议收藏）：