comment trouver le périphérique de stockage (CPU ou GPU) de données?

Question

J'ai écrit une fonction calculée sur GPU, puis j'ai récupéré des données et les ai transformées en forme python numpy.ndarray. Y at-il une méthode que je peux vérifier le périphérique de stockage (CPU ou GPU) des données? J'ai utilisé la parallélisation GPU prenant en charge minpy pour obtenir un tableau avec le type array.ndArray qui devrait être sauvegardé dans la mémoire GPU, puis j'ai utilisé la fonction de asnumpy pour le convertir en un tableau numpy. Maintenant, j'aimerais savoir s'il y a un moyen de trouver où se trouvent les données de tableau numpy transformées.

Answer 1

Je ne pense pas que ce soit possible. Dans votre cas, je pense qu'il est stocké sur l'hôte (cpu). Les versions plus récentes de Cuda (https://devblogs.nvidia.com/parallelforall/unified-memory-in-cuda-6/) mélangent de manière transparente la mémoire du processeur vers le processeur ou vice versa, selon que vous accédez à la mémoire depuis le processeur ou le processeur. Les versions plus anciennes vous donneraient probablement une violation d'accès si vous accédez à la mémoire stockée sur le GPU à partir du CPU. Ma conjecture est que comme vous avez converti avec succès les données dans un tableau numpy, il est maintenant stocké sur l'hôte (CPU). La vérification du pointeur brut pourrait fonctionner si la mémoire était allouée avec Cuda. Dans ce cas, cudaPointerGetAttributes pourrait vous donner cette information.

Si vous pouvez y accéder à partir de python/numpy, il est certainement stocké sur l'hôte (cpu).