什么将在MapReduce作业中仅导致单个减速器与地图功能输出的所有键相同?

有帮助吗?

解决方案

可能的原因:

  1. 您的群集仍然具有仅具有1个REDUCER(=默认值)的默认设置。
  2. 您的代码明确地将值设置为1减速器。
  3. 您在本地模式下运行(即根本没有集群)。

    引用 mapred-default.xml

    <property>
      <name>mapred.reduce.tasks</name>
      <value>1</value>
      <description>The default number of reduce tasks per job. Typically set to 99%
      of the cluster's reduce capacity, so that if a node fails the reduces can 
      still be executed in a single wave.
      Ignored when mapred.job.tracker is "local".
      </description>
    </property>
    
    .

许可以下: CC-BY-SA归因
不隶属于 StackOverflow
scroll top