Amazon MapReduce без задания редуктора
-
22-09-2019 - |
Вопрос
Я пытаюсь создать задание только для картографа через AWS (потоковое задание).Поле редуктора является обязательным, поэтому я даю фиктивный исполняемый файл и добавляю -jobconf mapred.map.tasks=0 в поле Дополнительные аргументы.В установленной мной среде Hadoop (версия 0.20) задания редуктора не запускаются, но в AWS запускается фиктивный исполняемый файл и происходит сбой.
Как можно запускать в AWS задания только без редуктора/сопоставителя?
Решение
вы также можете использовать cat или NONE в качестве аргумента редуктора.
Другие советы
В Amazon M/R невозможно создать задание только для картографа.Вместо этого я использую редуктор Identity (org.apache.hadoop.mapred.lib.IdentityReducer).
Не связан с StackOverflow