Kafka Java Consumerはメッセージを受信することはありません

StackOverflow https://stackoverflow.com//questions/25070003

  •  26-12-2019
  •  | 
  •  

質問

カフカのトピックからメッセージを受信するために基本的なJavaコンシューマを設定しようとしています。 at- https://cwiki.apache.org / Confluence / Display / Kafka / Consumer + Group + Example - そしてこのコードを持ってください：

package org.example.kafka.client;

import java.util.HashMap;
import java.util.List;
import java.util.Map;
import java.util.Properties;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

import kafka.consumer.ConsumerConfig;
import kafka.consumer.KafkaStream;
import kafka.javaapi.consumer.ConsumerConnector;

public class KafkaClientMain 
{

    private final ConsumerConnector consumer;
    private final String topic;
    private  ExecutorService executor;  


    public KafkaClientMain(String a_zookeeper, String a_groupId, String a_topic) 
    {
        this.consumer = kafka.consumer.Consumer.createJavaConsumerConnector(
                createConsumerConfig(a_zookeeper, a_groupId));

        this.topic = a_topic;
    }    


    private static ConsumerConfig createConsumerConfig(String a_zookeeper, String a_groupId) {
        Properties props = new Properties();
        props.put("zookeeper.connect", a_zookeeper);
        props.put("group.id", a_groupId);
        props.put("zookeeper.session.timeout.ms", "1000");
        props.put("zookeeper.sync.time.ms", "1000");
        props.put("auto.commit.interval.ms", "1000");
        props.put("auto.offset.reset", "smallest");

        return new ConsumerConfig(props);
    }    

    public void shutdown() {
        if (consumer != null) consumer.shutdown();
        if (executor != null) executor.shutdown();
    }    


    public void run(int a_numThreads) {
        Map<String, Integer> topicCountMap = new HashMap<String, Integer>();
        topicCountMap.put(topic, new Integer(a_numThreads));
        Map<String, List<KafkaStream<byte[], byte[]>>> consumerMap = consumer.createMessageStreams(topicCountMap);
        List<KafkaStream<byte[], byte[]>> streams = consumerMap.get(topic);

        System.out.println( "streams.size = " + streams.size() );

        // now launch all the threads
        //
        executor = Executors.newFixedThreadPool(a_numThreads);

        // now create an object to consume the messages
        //
        int threadNumber = 0;
        for (final KafkaStream stream : streams) {
            executor.submit(new ConsumerTest(stream, threadNumber));
            threadNumber++;
        }
    }    


    public static void main(String[] args) 
    {


        String zooKeeper = "ec2-whatever.compute-1.amazonaws.com:2181";
        String groupId = "group1";
        String topic = "test";

        int threads = 1;

        KafkaClientMain example = new KafkaClientMain(zooKeeper, groupId, topic);

        example.run(threads);

    }

}
.

と

package org.example.kafka.client;

import kafka.consumer.ConsumerIterator;
import kafka.consumer.KafkaStream;

public class ConsumerTest implements Runnable 
{

    private KafkaStream m_stream;
    private int m_threadNumber;

    public ConsumerTest(KafkaStream a_stream, int a_threadNumber) 
    {
        m_threadNumber = a_threadNumber;
        m_stream = a_stream;
    }

    public void run() 
    {
        System.out.println( "calling ConsumerTest.run()" );
        ConsumerIterator<byte[], byte[]> it = m_stream.iterator();

        while (it.hasNext())
        {    
            System.out.println("Thread " + m_threadNumber + ": " + new String(it.next().message()));
        }


        System.out.println("Shutting down Thread: " + m_threadNumber);
    }
}
.

カフカは問題のEC2ホスト上で実行されており、kafka-console-producer.shとkafka-console-consumer.shツールを使用して、トピック "test"でメッセージを送受信できます。ポート2181は、消費者が稼働しているマシンから開かれて利用可能である（そして、良い尺度では9092ですが、それはどちらも役に立たないようです）。

残念ながら、私はこれを実行するときに私の消費者にメッセージを受け取らない。パンネルの実行中は、トピック上の既存のメッセージも、kafka-console-producer.shを使用して送信する新しく送信されたメッセージもありません。

これは、OpenJDK 1.7.0_65を使用して、CentOS 6.4 x64で稼働しているKAFKA 0.8.1.1を使用しています。

編集：FWIW、コンシューマプログラムが起動すると、このZooKeeperの出力が表示されます。

[2014-08-01 15:56:38,045] INFO Accepted socket connection from /98.101.159.194:24218 (org.apache.zookeeper.server.NIOServerCnxn)
[2014-08-01 15:56:38,049] INFO Client attempting to establish new session at /98.101.159.194:24218 (org.apache.zookeeper.server.NIOServerCnxn)
[2014-08-01 15:56:38,053] INFO Established session 0x1478e963fb30008 with negotiated timeout 6000 for client /98.101.159.194:24218 (org.apache.zookeeper.server.NIOServerCnxn)
.

これで起こっているかもしれないのは何ですか？任意の助けが大歓迎です。

役に立ちましたか？

解決

これを昔のために答えるために、他の誰かが同様の問題を越えて実行される場合に答えてください。

問題はこれでした：カフカブローカーとZookeeperはEC2ノード上にあり、消費者は私のラップトップにローカルに実行されていました。ZooKeeperに接続するとき、クライアントはEC2の外部から（デフォルトで）解決されない "ip-10-0-x.ec2.internal"への参照を取得していました。これは、私がクライアント上でlog4jを正しく設定したらクリアになりました。

回避策は、ec2内部ホスト名を公的ルーティング可能なIPアドレスにマッピングするために、ETC / hostsファイルにエントリを入力するだけでした。

他のヒント

Kafka Config Folder

の下にあるserver.propertiesファイルの設定後のプロパティを使用してこの問題を解決できます。

adverted.host.name= EC2サーバー

の公開DNS

ライセンス： CC-BY-SA と 帰属
所属していません StackOverflow
scroll top