2017-03-29 2 views
-1

Im écrit un grand nombre de fichiers dans un dossier, aucun sous-répertoire, mais après 2,8 millions de fichiers cette erreur apparaît:Python OSError Pas d'espace sur le périphérique

with open(bottleneck_path, 'w') as save_file: 
OSError: [Errno 28] No space left on device: '/home/user/path/redacted' 

J'ai vérifié la longueur du nom du fichier qui est seulement 149 caractères. La taille du fichier est censée être autour de 18K.

Mon système d'exploitation est Linux.

df -i:

Filesystem        Inodes IUsed IFree IUse% Mounted on 
udev         4106923  544 4106379 1% /dev 
tmpfs         4113022  836 4112186 1% /run 
/dev/sda2        28401664 9008557 19393107 32%/
tmpfs         4113022  40 4112982 1% /dev/shm 
tmpfs         4113022  5 4113017 1% /run/lock 
tmpfs         4113022  16 4113006 1% /sys/fs/cgroup 
/dev/sda1          0  0  0  - /boot/efi 

df -T

Filesystem        Type  1K-blocks  Used Available Use% Mounted on 
udev         devtmpfs 16427692   0 16427692 0% /dev 
tmpfs         tmpfs  3290420  22136 3268284 1% /run 
/dev/sda2        ext4  447088512 355325584 69029056 84%/
tmpfs         tmpfs  16452088  82448 16369640 1% /dev/shm 
tmpfs         tmpfs   5120   4  5116 1% /run/lock 
tmpfs         tmpfs  16452088   0 16452088 0% /sys/fs/cgroup 
/dev/sda1        vfat   523248  3684  519564 1% /boot/efi 

du -SH.

56G 

ls | wc -l

2892084 

De mon ext4 compréhension devrait être en mesure de gérer cela très bien.

EDIT:

tune2fs -l/dev/sda2

tune2fs 1.42.13 (17-May-2015) 
Filesystem volume name: <none> 
Last mounted on:  /
Filesystem UUID:   cd620466-1f88-400b-acf5-457a9c9544cf 
Filesystem magic number: 0xEF53 
Filesystem revision #: 1 (dynamic) 
Filesystem features:  has_journal ext_attr resize_inode dir_index filetype needs_recovery extent flex_bg sparse_super large_file huge_file uninit_bg dir_nlink extra_isize 
Filesystem flags:   signed_directory_hash 
Default mount options: user_xattr acl 
Filesystem state:   clean 
Errors behavior:   Continue 
Filesystem OS type:  Linux 
Inode count:    28401664 
Block count:    113587456 
Reserved block count:  5679372 
Free blocks:    82864623 
Free inodes:    25755495 
First block:    0 
Block size:    4096 
Fragment size:   4096 
Reserved GDT blocks:  996 
Blocks per group:   32768 
Fragments per group:  32768 
Inodes per group:   8192 
Inode blocks per group: 512 
Flex block group size: 16 
Filesystem created:  Wed Mar 1 15:14:22 2017 
Last mount time:   Mon Mar 27 13:20:00 2017 
Last write time:   Mon Mar 27 13:20:00 2017 
Mount count:    35 
Maximum mount count:  -1 
Last checked:    Wed Mar 1 15:14:22 2017 
Check interval:   0 (<none>) 
Lifetime writes:   1813 GB 
Reserved blocks uid:  0 (user root) 
Reserved blocks gid:  0 (group root) 
First inode:    11 
Inode size:   256 
Required extra isize:  28 
Desired extra isize:  28 
Journal inode:   8 
First orphan inode:  1312056 
Default directory hash: half_md4 
Directory Hash Seed:  e186507d-32b5-49c0-8ce1-09bf2a75d816 
Journal backup:   inode blocks 

En utilisant

touch /home/user/path/redacted/somefile_1 

génère une erreur, mais la même structure de nom de fichier avec un nom différent fonctionne très bien. par exemple:

touch /home/user/path/redacted/somefile_2 
+0

Êtes-vous en train d'écrire tous les 2,8 millions de fichiers en tant qu'enfants du répertoire, ou y-a-t-il également une imbrication? Il semble que ext4 a une limite de 64k sous-répertoires par répertoire, selon [cette question] (http://serverfault.com/questions/506465/is-there-a-hard-limit-to-the-number-of- fichiers-un-répertoire-peut-avoir) –

+0

@HoriaComan il n'y a pas d'imbrication, regardez ça ls. – pvg

+1

ext4 devrait bien être capable de gérer cela. Il n'y a pas de sous-répertoire. – Wesley

Répondre

0

Son dû à la collision de hachage. La désactivation de dir_index a résolu le problème.

+0

Sans dir_index, n'y a-t-il pas de problèmes de performances? Les recherches de fichiers sont-elles toujours suffisamment rapides? –

1

Il n'y a aucune limite par défaut sur les inodes maximum pour ext4, cela dépend de la taille de l'appareil et des options choisies à la création. Vérifiez les limites existantes à l'aide de

tune2fs -l /path/to/device 
+0

Ive a ajouté le résultat de cette commande à la poste. – Wesley