Je travaille sur la migration de Camus vers Kafka Connect. Je travaille sur la mise en œuvre de Kafka Connect et plus particulièrement sur le mode distribué. Je suis capable de démarrer un travailleur avec succès sur ma machine locale qui, je suppose, communique avec mon cluster Kafka. Je suis en outre capable d'exécuter deux commandes GET telles que /
et /connector-plugins
qui renvoient le bon JSON. Cependant, lorsque j'essaie de POSTER une commande pour créer un connecteur, je reçois une erreur 500 et une expiration. Plus précisément, j'utiliser cette commande pour POST pour les tests:Création d'un connecteur avec Kafka Connect Erreur de retour 500 Distribué
curl -X POST -H "Content-Type: application/json" --data '{"name": "local-file-sink", "config": {"connector.class":"FileStreamSinkConnector", "tasks.max":"1", "file":"test.sink.txt", "topics":"myTopic" }}' localhost:8083/connectors
et finalement je reçois cette réponse:
{"error_code": 500, "message": "Request timed out"}
Je suis perdu à ce qui se passe. Les journaux de mon travailleur distribué Kafka Connect montrent ceci:
[2016-12-05 14:34:32,436] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:22:34:32 +0000] "GET /connector-plugins HTTP/1.1" 200 315 2 (org.apache.kafka.connect.runtime.rest.RestServer:60)
[2016-12-05 15:05:25,422] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:23:05:25 +0000] "GET /connector-plugins HTTP/1.1" 200 315 3 (org.apache.kafka.connect.runtime.rest.RestServer:60)
[2016-12-05 15:05:28,389] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:23:05:28 +0000] "GET /connector-plugins HTTP/1.1" 200 315 2 (org.apache.kafka.connect.runtime.rest.RestServer:60)
[2016-12-05 15:07:38,644] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:23:06:08 +0000] "GET /connectors HTTP/1.1" 500 48 90003 (org.apache.kafka.connect.runtime.rest.RestServer:60)
[2016-12-05 15:07:44,450] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:23:07:44 +0000] "GET /connector-plugins HTTP/1.1" 200 315 1 (org.apache.kafka.connect.runtime.rest.RestServer:60)
[2016-12-05 15:13:06,703] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:23:11:36 +0000] "POST /connectors HTTP/1.1" 500 48 90003 (org.apache.kafka.connect.runtime.rest.RestServer:60)
[2016-12-05 15:15:38,506] INFO 0:0:0:0:0:0:0:1 - - [05/Dec/2016:23:14:08 +0000] "POST /connectors HTTP/1.1" 500 48 90005 (org.apache.kafka.connect.runtime.rest.RestServer:60)
où vous pouvez voir les codes d'erreur et les commandes.
Je suppose que mes principales questions et les enjeux sont les suivants:
- Comment puis-je mieux debug Kafka Connect donc je peux essayer de résoudre ce problème?
- Y a-t-il quelque chose que je fasse qui est carrément faux?
- Existe-t-il une documentation étape par étape ou des articles de blog sur l'exécution d'un travail distribué Kafka Connect? Je n'ai pas vraiment vu quelque chose ou même les meilleures pratiques types de documentation? Peut-être que je suis juste trop tôt d'un adoptant.
Je suis impatient de recevoir des nouvelles de la communauté et je vous remercie de votre aide!
Vous pouvez vérifier si votre cluster de courtiers a un courtier avec 'broker.id = 0' –