MapReduce生产经验

1.MapReduce跑得慢的原因

 

MapReduce程序效率的瓶颈在于两点：

（1）计算机性能

  CPU、内存、磁盘、网络

 

（2）I/O操作优化

  1）数据倾斜

  2）Map运行时间太长，导致Reduce等待过久

  3）小文件过多

 

2.MapReduce常用调优参数

 

 

 

 

 

 

 

 

3.MapReduce数据倾斜问题

（1）数据倾斜现象

  数据频率倾斜——某一个区域的数据量要远远大于其他区域。

  数据大小倾斜——部分记录的大小远远大于平均值。

 

 

（2）减少数据倾斜的方法

  1）首先检查是否空值过多造成的数据倾斜。

  生产环境，可以直接过滤掉空值；如果想保留空值，就自定义分区，将空值加随机数打散。最后再二次聚合。

 

 

  2）能在map阶段提前处理，最好先在Map阶段处理。如：Combiner、MapJoin。

 

 

  3）设置多个reduce个数。

 

标签：Map,经验,倾斜,MapReduce,过多,空值,生产,数据
来源： https://www.cnblogs.com/xiao-wang-tong-xue/p/16540777.html