2017-10-14 9 views
0

J'essaie d'exécuter officiel "Kafka010Example.scala", mais unortunatelly il ne lit pas à partir du sujet d'entrée et d'écrire à la sortie comme prévu. Qu'est-ce que je manque ou fais mal? Toute aide ou des conseils très appréciés. Voici ce exactement ce que je faisais:Flink exemple de streaming: Kafka010Example.scala ne fonctionne pas

  1. Started kafka dans le récipient docker (spotify/kafka: dernier)

    $ docker run -d -p 2181:2181 -p 9092:9092 spotify/kafka:latest

  2. Commencer session de bash à l'intérieur du conteneur:

    $ docker exec -it 26d1cfced4cb /bin/bash

  3. Création de rubriques d'entrée et de sortie:

    $ /opt/kafka_2.11-0.10.1.0/bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test-input

    $ /opt/kafka_2.11-0.10.1.0/bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test-output

  4. Lancé "Kafka010Example.scala" en cours d'exécution flink 1.3.2 en mode local (MiniCluster), avec flink-connector-kafka-0.10_2.11

    avec les arguments suivants: --input-topic test-input --output-topic test-output --bootstrap.servers localhost:9092 --zookeeper.connect localhost:2181 --group.id myconsumer

  5. Journaux: https://file.io/jWsqI8

  6. envoyé quelques messages au sujet:

    $ /opt/kafka_2.11-0.10.1.0/bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test-input

    blah

    blahh

    blahhh

  7. Case cochée décalage sur le thème de sortie - RIEN

    $ /opt/kafka_2.11-0.10.1.0/bin/kafka-consumer-offset-checker.sh --zookeeper localhost:2181 --group myconsumer --topic test-output

    Group   Topic       Pid Offset   logSize   
    Lag    Owner 
    myconsumer  test-output     0 0    0    
    0    none 
    
  8. Vérifier groupe de consommateurs offset - RIEN

    $ /opt/kafka_2.11-0.10.1.0/bin/kafka-consumer-groups.sh --zookeeper localhost:2181 --describe --group myconsumer

    No topic available for consumer group provided 
    GROUP       TOPIC       PARTITION 
    CURRENT-OFFSET LOG-END-OFFSET LAG    OWNER 
    
+0

Ok, j'ai résolu le problème et il était entièrement lié à l'instance de Kafka que j'utilisais, l'exemple de Flink fonctionne comme prévu. @alpinegizmo Merci de m'avoir signalé cela, j'ai d'abord vérifié avec le consommateur de console comme vous l'avez suggéré mais j'ai oublié d'ajouter cette étape à la procédure. (entre les points 6 et 7) – wojtkom1

Répondre

0

Je suggère d'utiliser la console consommateur pour regarder le sujet-sortie de test. Je ne m'attendrais pas à ce que le décalage pour le sujet de test-sortie ait avancé, puisque personne n'en a lu.