Amazon MapReduce kein Reduktions Job
-
22-09-2019 - |
Frage
Ich versuche, einen Mapper nur Job über AWS (einen Streaming-Job) zu erstellen. Das Reduktionsmittel ist erforderlich, so dass ich eine Dummy-ausführbare gäbe, und das Hinzufügen von -jobconf mapred.map.tasks = 0 auf das Extra Args Box. In der Hadoop-Umgebung (Version 0.20) I installiert haben, werden keine Reduktions Jobs starten, aber in AWS die Dummy-ausführbaren Starts und schlägt fehl.
Wie kann ein nicht Minderer / Mapper nur Arbeitsplätze in AWS laufen?
Lösung
Sie können auch Katze oder NONE als Reduktions Argument verwenden.
Andere Tipps
Es gibt keine Möglichkeit, einen Mapper nur Job in amazon M / R zu erstellen. Ich bin mit dem Identity-Reduzierer (org.apache.hadoop.mapred.lib.IdentityReducer) statt.
Lizenziert unter: CC-BY-SA mit Zuschreibung
Nicht verbunden mit StackOverflow