Hadoop выбрасывает ClassCastException для Keytype of java.nio.bytebuffer
-
28-10-2019 - |
Вопрос
Я использую "Hadoop-0.20.203.0rc1.tar.gz" для моей настройки кластера. Всякий раз, когда я установил job.setMapOutputKeyClass(ByteBuffer.class);
и запустите работу, которую я получаю следующим образом:
12/01/13 15:09:00 INFO mapred.JobClient: Task Id : attempt_201201131428_0005_m_000001_2, Status : FAILED
java.lang.ClassCastException: class java.nio.ByteBuffer
at java.lang.Class.asSubclass(Class.java:3018)
at org.apache.hadoop.mapred.JobConf.getOutputKeyComparator(JobConf.java:776)
at org.apache.hadoop.mapred.MapTask$MapOutputBuffer.<init>(MapTask.java:958)
at org.apache.hadoop.mapred.MapTask$NewOutputCollector.<init>(MapTask.java:673)
at org.apache.hadoop.mapred.MapTask.runNewMapper(MapTask.java:755)
at org.apache.hadoop.mapred.MapTask.run(MapTask.java:369)
at org.apache.hadoop.mapred.Child$4.run(Child.java:259)
at java.security.AccessController.doPrivileged(Native Method)
at javax.security.auth.Subject.doAs(Subject.java:396)
at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1059)
at org.apache.hadoop.mapred.Child.main(Child.java:253)
Кроме того, я заметил, что Bytebuffer сопоставим, а не является записи, что это делает какую -либо разницу? Дайте мне знать, если необходима дополнительная информация.
Решение
Вот где исключение бросается. Здесь код от SVN.
public RawComparator getOutputKeyComparator() {
Class<? extends RawComparator> theClass = getClass("mapred.output.key.comparator.class",
null, RawComparator.class);
if (theClass != null)
return ReflectionUtils.newInstance(theClass, this);
return WritableComparator.get(getMapOutputKeyClass().asSubclass(WritableComparable.class));
}
Если mapred.output.key.comparator.class
Свойство не определено на JobConf, чем ключ должен реализовать интерфейс wrisableComplable. Класс Bytebuffer не реализует интерфейс wrisablecomplable, поэтому исключение.
КСТАТИ, Writablecomplable Интерфейс является подпозицией для записи и сопоставимых классов.
Не связан с StackOverflow