2016-02-24 1 views
0

Existe-t-il un moyen de limiter le nombre de fichiers que je peux cp dans hadoop?hadoop -cp limite nombre de fichiers

Par exemple, dans mon répertoire cible /data/d_20151111-2350/ contient 8 fichiers. Ces fichiers ont des nombres aléatoires en eux donc je ne peux pas utiliser regex pour sélectionner un couple. Je me demandais s'il y avait quelque chose le long des lignes de

hadoop fs -cp /data/d_20151111-2350/* /dest/location/ LIMIT 2

LIMIT 2 signifie 2 fichiers.

Répondre

1

Non il n'y a pas un tel paramètre

Voir aussi:

https://hadoop.apache.org/docs/r2.4.1/hadoop-project-dist/hadoop-common/FileSystemShell.html#cp 

La meilleure façon de résoudre ce problème est l'écriture d'un python Je pense que Script- ou shell

+0

Je pourrais simplement écrire un python script et utiliser l'API webhdfs. Merci pour l'aide! – Liondancer