2017-09-02 7 views
1

Je veux mettre en place les données de profil de voiture, mais il faut maintenant 3 jours et toujours à 100% Graphs (donc beaucoup plus à faire) et je pense, peut-être mon swap et stxxl sont juste mis en place de façon inappropriée.OSRM extrait et meilleur échange stxxl emplacement sur 2 HDs

Je le système suivant

  • 2DD 4 To SATA 6 Gb/s 7200 rpm HDD Enterprise-Class
  • 64 Go DDR4 RAM
  • Intel® Core ™ i7-6700 Quad-Core Skylake incl. Hyper-Threading

HD1 a le

  • système
  • programmes
  • fichier osm.pbf sur elle
  • les données extraites doivent aller sur cette partition un
  • avec échange 32G

HD2 la plupart du temps est vide (mais l'espace va être nécessaire pour d'autres grosses données)

Mon approche d'extraction consistait à mettre en place un autre échange de 300G sur HD2 et stxxl de 300G sur HD2. Mais il semble être trop lent. iotop a quelques activités de lecture et d'écriture, mais rien de majeur. htop ne montre aucune utilisation significative de cpu. Je commence avec 8 processus.

Travailler avec/sur

  • planète latest.osm.pbf (37G)
  • OSRM 5.9.0 (et maintenant essayer 5.12.0 docker directement à partir OSRM github, sans gain de vitesse)

xxxxxxxxx

  1. y at-il une meilleure façon de mettre en place l'échange supplémentaire et stxxl (peut-être le swap sur HD1 et seul le stxxl sur HD2)?
  2. Si je pouvais déplacer les fichiers et les emplacements cibles des données extraites, serait-il encore mieux de faire .pbf sur HD1, tous swap et stxxl sur HD1 et les données extraites sur hd2 (puis copiez-le à HD1)? Merci

    EDIT 4.9.2017 On dirait que stxxl a été désactivé quelques versions en arrière et doit être activé manuellement. Donc cela pourrait me donner un coup de pouce. Pourtant, je suis toujours intéressé par la meilleure répartition entre deux HD.

+0

Pouvez-vous ajouter plus de détails sur quel ensemble de données (Planet vs.Amérique du Nord, taille de fichier) que vous essayez de traiter et quelle version OSRM utilisez-vous? – themarex

+0

@ user1944243 édité dessus – TheRealPir

Répondre

1

Le goulot d'étranglement ici ne sera pas STXXL. Nous avons désactivé l'utilisation de STXXL par défaut à partir de 5.9. En regardant les spécifications de votre serveur, le coupable est la RAM. 64Go ne sera pas suffisant pour toute la planète.

Je pense que vous auriez besoin d'environ 180 Go de RAM si vous voulez traiter la planète en une fois. Vous pouvez bien sûr essayer d'augmenter votre espace de swap, mais ce sera très très lent.

+0

Je vois. Je suppose que vous avez raison, comme je l'ai maintenant essayé avec l'Europe et qui est complètement achevée en moins de 2h. – TheRealPir