J'ai enchaîné 2 mappeurs suivis d'un réducteur. Est-il possible d'écrire les sorties intermédiaires (o/p de chaque mappeur dans la chaîne) vers HDFS? J'ai essayé de définir le OutputPath pour chacun, mais cela ne semble pas fonctionner. Maintenant, je ne suis pas sûr si cela peut être fait du tout. Aucune suggestion?carte de chaîne hadoop/réduire
1
A
Répondre
3
Le résultat est toujours écrit dans HDFS en tant que fichier de séquence. Mais si vous utilisez un réducteur, ces gars-là ne sont que des fichiers temporaires et ils sont supprimés après la fin du travail. Si vous avez besoin de la sortie de la carte, vous devez enchaîner deux tâches. Un travail sans réducteur et un travail avec un réducteur. Ou si vous avez un peu de talent pour écrire des fichiers hdfs à partir d'une tâche cartographique, c'est également possible.
La première approche est non-codée, mais la seconde est. C'est à vous!
Questions connexes
- 1. Décoder JSON à la carte [chaîne] carte [chaîne] chaîne
- 2. Création d'une carte [Chaîne, Chaîne]
- 3. chaîne Convertir la carte js
- 4. accès de carte, chaîne coulée à char *
- 5. Carte <Chaîne, Carte <Chaîne, Booléen >> myMap = new HashMap <Chaîne, HashMap <Chaîne, Booléen >>();
- 6. Carte mémoire directement vers la chaîne
- 7. Sérialiser une carte d'entrée en chaîne
- 8. chaîne littérale passant à std :: carte :: find (..)
- 9. Openlayers - Tracer une chaîne sur la carte
- 10. combiner deux Carte chaîne en JSON
- 11. Comment analyser la chaîne en carte
- 12. jQuery access java Carte de l'objet chaîne où l'objet est une carte de chaînes
- 13. JsonParseException lors de l'analyse de la chaîne à Carte
- 14. carte Perl à la carte
- 15. carte avec clé de chaîne et valeur de chaîne ou de tranche?
- 16. analyser une chaîne de requête url dans une carte clojure
- 17. Créer une carte à partir de la chaîne
- 18. Créer une carte de chaîne en Java pour un adaptateur
- 19. Comment créer une carte statique de chaîne -> Array
- 20. prédicat pour une carte de chaîne à int
- 21. Trier la carte par csv Valeur de chaîne
- 22. chaîne de la carte à ENUM avec Automapper
- 23. comparaison de type chaîne Arduino sur carte SD pour now.unixtime
- 24. Javascript carte itère de carte
- 25. Comment parcourir la carte de la carte de la carte de la carte de vecteur
- 26. chaîne de retour formattage pour la carte comme une chaîne mais obtenir des erreurs
- 27. Comment puis-je convertir une chaîne en carte avec une carte comme l'une des «valeurs»?
- 28. carte Groovy et carte Java sur Generics
- 29. Construction de carte STL
- 30. Serializing carte groovy à la chaîne avec des guillemets
Merci Thomas. La première approche n'a pas besoin de ChainMapper, non? C'est juste 2 emplois distincts? – Meg
oui vous avez raison, vérifiez votre configuration que le nombre de réducteurs du premier travail est mis à zéro –