R 2.15.1;Rhipe 0,73;CDH 5 - Java.io.ioException: Нет файловой системы для схемы: HDFS

StackOverflow https://stackoverflow.com//questions/23010542

  •  21-12-2019
  •  | 
  •  

Вопрос

Я установил CDH5 на Debian 7. У меня работают Hadoop с MapReduce1 в одном узле псевдопрессионный режим.

Я хотел бы запустить rhipe внутри R. После загрузки я его установил:

sudo R CMD INSTALL Rhipe_0.73.1.tar.gz
.

Затем я экспортировал переменные среды:

export HADOOP_CONF_DIR="/etc/hadoop/conf"
export HADOOP="/usr/lib/hadoop"
export HADOOP_BIN=/usr/lib/hadoop/bin
export HADOOP_HOME=/usr/lib/hadoop
.

После запуска R:

> library(Rhipe)
------------------------------------------------
| Please call rhinit() else RHIPE will not run |
------------------------------------------------
> rhinit()
Rhipe: Using Rhipe.jar file
Initializing Rhipe v0.73
14/04/11 12:21:08 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
java.io.IOException: No FileSystem for scheme: hdfs
    at org.apache.hadoop.fs.FileSystem.getFileSystemClass(FileSystem.java:2385)
    at org.apache.hadoop.fs.FileSystem.createFileSystem(FileSystem.java:2392)
    at org.apache.hadoop.fs.FileSystem.access$200(FileSystem.java:89)
    at org.apache.hadoop.fs.FileSystem$Cache.getInternal(FileSystem.java:2431)
    at org.apache.hadoop.fs.FileSystem$Cache.get(FileSystem.java:2413)
    at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:368)
    at org.apache.hadoop.fs.FileSystem.get(FileSystem.java:167)
    at org.godhuli.rhipe.PersonalServer.run(PersonalServer.java:321)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:616)
    at RJavaTools.invokeMethod(RJavaTools.java:386)
Error in .jcall("RJavaTools", "Ljava/lang/Object;", "invokeMethod", cl,  : 
  java.lang.NullPointerException
> 
.

Я что-то не хватает?

Java используется в системе:

There are 2 choices for the alternative java (providing /usr/bin/java).

  Selection    Path                                            Priority   Status
------------------------------------------------------------
  0            /usr/lib/jvm/java-6-openjdk-amd64/jre/bin/java   1061      auto mode
* 1            /usr/lib/jvm/j2sdk1.7-oracle/jre/bin/java        317       manual mode
  2            /usr/lib/jvm/java-6-openjdk-amd64/jre/bin/java   1061      manual mode
.

Это было полезно?

Решение

Функция RHINIT () пытается загрузить баночки Hadoop, которые присутствуют в каталоге, указанном в каталоге, указанном в Dataoop_home Variable.since Эта функция загружает только эти банки в Hadoop_home на путь классов, который вы должны сохранить все банки Hadoop Space в этом каталоге.

Вы можете понять это, если вы посмотрите в файл zzz.r в пакете rhipe.

Лицензировано под: CC-BY-SA с атрибуция
Не связан с StackOverflow
scroll top