Hadoop MapReduce 教程

MapReduce是一种可用于数据处理的编程模型。Hadoop可以运行各种语言版本的MapReduce程序。最重要的是,MapReduce程序本质上是并行运行的,因此可以将大规模的数据分析任务分发给任何一个拥有足够多机器的数据中心。MapReduce的优势在于处理大规模数据集。

MapReduce任务过程分为两个处理阶段:map阶段和reduce阶段。每阶段都以键-值对作为输入和输出,其类型由程序员来选择。MapReduce编程遵循一个特定的流程。首先写map函数和reduce函数,最好使用单元测试来确保函数的运行符合预期。然后,写一个驱动程序来运行作业,看这个驱动程序是否可以正确运行。

 

对mapreduce的介绍之前也整理过很多文章,所以下面参考一下,而对于mapreduce的开放应用,将在子章节中慢慢记录。

 

1.mapreduce概念

什么是Hadoop MapReduce

 

2.mapreduce运行原理

hadoop MapReduce 概念及原理

 

3.hadoop mapreduce和spark

Hadoop MapReduce和Spark对比