MapReduce Amazon pas d'emploi réducteur
-
22-09-2019 - |
Question
Je suis en train de créer un seul emploi mappeur via AWS (un travail en continu). Le champ réducteur est nécessaire, donc je donne un exécutable factice, et en ajoutant -jobconf mapred.map.tasks = 0 à la case Args supplémentaire. Dans l'environnement Hadoop (version 0.20) J'ai installé, pas d'emploi réducteur va lancer, mais dans AWS les lancements exécutables factices et échoue.
Comment peut fonctionner un non réducteur / Mapper seulement des emplois dans AWS?
La solution
vous pouvez également utiliser le chat ou NONE comme argument réducteur.
Autres conseils
Il n'y a aucun moyen de créer un seul emploi mappeur en amazone M / R. J'utilise le réducteur d'identité (org.apache.hadoop.mapred.lib.IdentityReducer) à la place.