2017-09-04 1 views
0

je suivais le tutoriel pour exécuter WordCount.java mentionné dans here et quand je lance la ligne suivante dans le tutorielHadoop Docker Configuration - WordCount Tutorial

hadoop jar wordcount.jar org.myorg.WordCount /user/cloudera/wordcount/input /user/cloudera/wordcount/output 

je reçois l'erreur suivante -

17/09/04 01:57:29 INFO client.RMProxy: Connecting to ResourceManager at /0.0.0.0:8032 
17/09/04 01:57:30 INFO ipc.Client: Retrying connect to server: 0.0.0.0/0.0.0.0:8032. Already tried 0 time(s); retry policy is RetryUpToMaximumCountWithFixedSleep(maxRetries=10, sleepTime=1000 MILLISECONDS) 

L'image docker que j'ai utilisée était docker pull cloudera/quickstart

Il n'y avait pas de tutoriels d'installation pour Hadoop avec Docker, il serait donc utile si vous Dites-moi les configurations qui doivent être faites pour surmonter ces problèmes.

Répondre

0

Ce didacticiel suppose que vous êtes dans le cluster avec la commande client Hadoop disponible, les services Hadoop sont démarrés et correctement configurés.

0.0.0.0:8032 est the default YARN resource manager, vous devez configurer vos HADOOP_CONF_DIR fichiers XML (spécifiquement yarn-site pour cette erreur) pour pointer sur le conteneur Docker pour les bonnes adresses de YARN. core et hdfs-site devront également être configurés pour pointer sur HDFS.

+0

Existe-t-il un moyen de savoir quelle adresse IP et quel port utiliser? Et où dois-je configurer ces paramètres - car il existe plusieurs fichiers yarn-site.xml? –

+0

Il ne doit y avoir qu'un seul fichier de fichier de fils. Et à moins que vous ayez correctement exposé les ports pour YARN, HDFS, etc. à partir du conteneur, l'adresse IP ou le nom d'hôte est le conteneur docker. Sinon, c'est votre hôte local –

+0

Je suppose que votre réponse est correcte. J'ai été capable de résoudre ce docker run --hostname = quickstart.cloudera --privileged = true -t -i -p 8888 cloudera/quickstart/usr/bin/docker-quickstart. L'option -p est mentionnée comme Recommandé mais pas obligatoire, mais je pense que cette expérience est nécessaire au moins si quelqu'un veut suivre ce tutoriel. https://www.cloudera.com/documentation/other/tutorial/CDH5/topics/ht_usage.html. S'il vous plaît ajouter ce détail supplémentaire afin que je puisse accepter votre réponse. –