J'écris un utilitaire pour nettoyer HDFS basé sur une date. Alors que l'utilitaire utilise des bibliothèques hadoop pour le retirer, il peut aussi être exécuté sur un fichier standard: /// système de fichiers en utilisant hadoop jar ou java -jar pour l'exécuter. Un défaut de l'utilitaire que j'ai trouvé, cependant, est qu'il ne peut pas nettoyer les fichiers "cachés" (précédé d'un point). Je devine, et vous demande des gens intelligents, si c'est parce que HDFS n'a pas de fichiers cachés. Cette hypothèse validée, y a-t-il une suggestion sur ce que je peux faire pour en faire un utilitaire polyvalent de sorte qu'il puisse lister et donc supprimer les fichiers cachés?hadoop fs -ls fichiers cachés
1
A
Répondre
0
commande:Liste tous les dossiers et fichiers cachés
~]$ ls -ld .?*
Questions connexes
- 1. La différence entre hadoop fs -put et hadoop fs -copyFromLocal
- 2. Délimiteur Hadoop FS
- 3. Hadoop fs -Mettre Commande inconnue
- 4. Hadoop fs mkdir et tests avec FileSystem.exists
- 5. Hadoop dfs -ls renvoie la liste des fichiers dans mon hadoop/dir
- 6. Comment afficher les fichiers cachés et cacher les fichiers affichés avec ls?
- 7. rsync fichiers à hadoop
- 8. Comment écraser les fichiers existants en utilisant la commande -copyToLocal Hadoop fs
- 9. Comment puis-je empêcher `hadoop fs rmr <uri>` de créer des fichiers $ dossier $?
- 10. Peut chat mais ne peut pas ls fichier dans Hadoop DFS
- 11. Les commandes du système de fichiers Hadoop sont introuvables
- 12. Dossiers/fichiers cachés dans XCode4
- 13. Grunt - ignore les fichiers cachés?
- 14. Commandes Hadoop de python
- 15. Suppression du système de fichiers d'AWS-Hadoop
- 16. Impossible de lister les fichiers dans hadoop
- 17. Aucun fichier ou répertoire - fichiers git ls
- 18. Hadoop gzip fichiers compressés
- 19. Hadoop Fichiers d'entrée Ordre
- 20. Fichiers séquentiels dans Hadoop
- 21. Fichiers d'entrée Hadoop
- 22. Système de fichiers Hadoop avec kerberose
- 23. hdfs - ls: Failed exception locale sur: com.google.protobuf.InvalidProtocolBufferException:
- 24. Comment utiliser hadoop fs -getmerge sur dataproc à partir de google storage
- 25. Problème de configuration Hadoop
- 26. streaming Hadoop produit des fichiers non compressés malgré mapred.output.compress = true
- 27. Fichiers de paramètres cachés multiplates-formes dans node.js
- 28. Supprimer les fichiers cachés imbriqués avec egrep et xargs
- 29. configuration des fichiers esclaves Hadoop
- 30. Fichiers de séquence dans Hadoop
Pouvez-vous montrer ce code que vous utilisez pour la suppression? –
Utilisez-vous un travail de réduction de carte pour faire cela (auquel cas FileInputFormat a un filtre de fichier par défaut qui supprime les fichiers cachés avec un préfixe de période de la méthode 'FileInputFormat.listStatus()'), ou un utilitaire authentique? Et pour réitérer @CharlesMenguy, pouvez-vous poster du code s'il vous plaît? –