Instalar oozie no Hadoop 2.2
-
23-12-2019 - |
Pergunta
Eu preciso de alguma orientação sobre como instalar Oozie no Hadoop 2.2.O Início Rápido docs página indica que
IMPORTANTE:Por padrão ele cria contra o Hadoop 1.1.1.É possível construir contra o Hadoop 2.x versões bem, mas é fortemente recomendo usar um Bigtop distribuição se usar o Hadoop 2.x porque o Oozie sharelibs construído a partir da tarball de distribuição não funcionará com isso.
Eu não tenho sido capaz de obter Bigtop para o trabalho.
Tentei seguir algumas orientações de aqui mas ele só me diz para editar o pom.xml arquivos, não o que para editar neles.
Eu tenho porco e o maven instalado.
Obrigado antecipadamente
Solução
Este é um problema com as versões resolução de bibliotecas compartilhadas com o Maven, e tem sido, desde então, resolveu se você usar o git master.Eu tive esse problema por isso espero que esta solução irá funcionar para o Oozie versão que você está criando.
Os conselhos de aqui é de uso.Semelhante ao post de blog que você vinculada, o comando grep indicará os arquivos incorreto:
$ grep -l "2.2.0-SNAPSHOT" `find . -name "pom.xml"`
./hadooplibs/hadoop-2/pom.xml
./hadooplibs/hadoop-distcp-2/pom.xml
./hadooplibs/hadoop-test-2/pom.xml
./pom.xml
Qualquer menção de 2.2.0-INSTANTÂNEO para esses arquivos devem ser substituídos com 2.2.0
Gostaria de sugerir a remoção a -INSTANTÂNEO parte usando o seguinte comando:
$ grep -l "2.2.0-SNAPSHOT" `find . -name "pom.xml"` | xargs sed -i 's|2.2.0-SNAPSHOT|2.2.0|g'
ATUALIZAÇÃO:Se você não tem o Hadoop Frascos construído a partir de quando você criou o Hadoop em si, em seguida, você precisa adicionar a opção -DincludeHadoopJars
E, em seguida, construir o pacote:
$ mvn clean package assembly:single -Dhadoop.version=2.2.0 -DskipTests
Ou se você estiver usando o JDK7 e/ou segmentação do Java 7 (como eu fiz):
$ mvn clean package assembly:single -Dhadoop.version=2.2.0 -DjavaVersion=1.7 -DtargetJavaVersion=1.7 -DskipTests
A documentação sobre a construção de Oozie (versão 4 docs) está disponível aqui.
Acima trabalhou a construção de lançamento-4.0.0 com o Hadoop 2.2 e SDK para Java 7.
A distro pode ser encontrado na distro/destino.