2016-12-06 1 views
1

Je travaille sur la migration de Camus vers Kafka Connect. Je travaille sur la mise en œuvre de Kafka Connect et plus particulièrement sur le mode distribué. Je suis capable de démarrer un travailleur avec succès sur ma machine locale qui, je suppose, communique avec mon cluster Kafka. Je suis en outre capable d'exécuter deux commandes GET telles que / et /connector-plugins qui renvoient le bon JSON. Cependant, lorsque j'essaie de POSTER une commande pour créer un connecteur, je reçois une erreur 500 et une expiration. Plus précisément, j'utiliser cette commande pour POST pour les tests:Création d'un connecteur avec Kafka Connect Erreur de retour 500 Distribué

curl -X POST -H "Content-Type: application/json" --data '{"name": "local-file-sink", "config": {"connector.class":"FileStreamSinkConnector", "tasks.max":"1", "file":"test.sink.txt", "topics":"myTopic" }}' localhost:8083/connectors

et finalement je reçois cette réponse:

{"error_code": 500, "message": "Request timed out"}

Je suis perdu à ce qui se passe. Les journaux de mon travailleur distribué Kafka Connect montrent ceci:

[2016-12-05 14:34:32,436] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:22:34:32 +0000] "GET /connector-plugins HTTP/1.1" 200 315 2 (org.apache.kafka.connect.runtime.rest.RestServer:60) 
[2016-12-05 15:05:25,422] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:23:05:25 +0000] "GET /connector-plugins HTTP/1.1" 200 315 3 (org.apache.kafka.connect.runtime.rest.RestServer:60) 
[2016-12-05 15:05:28,389] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:23:05:28 +0000] "GET /connector-plugins HTTP/1.1" 200 315 2 (org.apache.kafka.connect.runtime.rest.RestServer:60) 
[2016-12-05 15:07:38,644] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:23:06:08 +0000] "GET /connectors HTTP/1.1" 500 48 90003 (org.apache.kafka.connect.runtime.rest.RestServer:60) 
[2016-12-05 15:07:44,450] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:23:07:44 +0000] "GET /connector-plugins HTTP/1.1" 200 315 1 (org.apache.kafka.connect.runtime.rest.RestServer:60) 
[2016-12-05 15:13:06,703] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:23:11:36 +0000] "POST /connectors HTTP/1.1" 500 48 90003 (org.apache.kafka.connect.runtime.rest.RestServer:60) 
[2016-12-05 15:15:38,506] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:23:14:08 +0000] "POST /connectors HTTP/1.1" 500 48 90005 (org.apache.kafka.connect.runtime.rest.RestServer:60) 

où vous pouvez voir les codes d'erreur et les commandes.

Je suppose que mes principales questions et les enjeux sont les suivants:

  1. Comment puis-je mieux debug Kafka Connect donc je peux essayer de résoudre ce problème?
  2. Y a-t-il quelque chose que je fasse qui est carrément faux?
  3. Existe-t-il une documentation étape par étape ou des articles de blog sur l'exécution d'un travail distribué Kafka Connect? Je n'ai pas vraiment vu quelque chose ou même les meilleures pratiques types de documentation? Peut-être que je suis juste trop tôt d'un adoptant.

Je suis impatient de recevoir des nouvelles de la communauté et je vous remercie de votre aide!

+0

Vous pouvez vérifier si votre cluster de courtiers a un courtier avec 'broker.id = 0' –

Répondre

2

J'ai été capable de résoudre ce problème. Je courais Confluent Platform 3.0.1 sur mon client et mon cluster. J'ai mis mon cluster à niveau vers Confluent Platform 3.1.1 et mon client vers la nouvelle version. J'étais capable de démarrer le cluster. De plus, vous pouvez en savoir plus sur le débogage Kafka Connect en lisant ce fil sur le groupe d'utilisateurs Kafka concernant cette même question:

http://mail-archives.apache.org/mod_mbox/kafka-users/201612.mbox/%[email protected]%3e

Espérons que aide les autres.