Mapreduce效率降低器
题
什么将在MapReduce作业中仅导致单个减速器与地图功能输出的所有键相同?
解决方案
可能的原因:
- 您的群集仍然具有仅具有1个REDUCER(=默认值)的默认设置。
- 您的代码明确地将值设置为1减速器。
- 您在本地模式下运行(即根本没有集群)。
.<property> <name>mapred.reduce.tasks</name> <value>1</value> <description>The default number of reduce tasks per job. Typically set to 99% of the cluster's reduce capacity, so that if a node fails the reduces can still be executed in a single wave. Ignored when mapred.job.tracker is "local". </description> </property>
不隶属于 StackOverflow