Mémoire partagée allouée dynamiquement dans CUDA. Configuration d'exécution

Question

Que signifie by this Nvidia?

Ns est de type size_t et spécifie le nombre d'octets dans mémoire partagée qui est allouée dynamiquement par bloc pour cet appel en plus de la mémoire allouée statiquement; cette mémoire allouée dynamiquement est utilisée par l'une quelconque des variables déclarées comme matrice externe comme mentionné dans __shared__; Ns est un argument optionnel dont la valeur par défaut est 0; La taille de la mémoire partagée dans mon GPU est de 48 Ko.

Par exemple, je veux exécuter 4 noyaux en même temps, chacun d'eux utilise 12ko de mémoire partagée.

Pour ce faire, dois-je appeler Kernek cette façon

kernel<<< gridSize, blockSize, 12 * 1024 >>>(); 

ou si le troisième argument de 48 * 1024?

Answer 1

Ns dans une taille en octets. Si vous voulez réserver 12kB de mémoire partagée vous feriez 12*1024*1024.

Je doute que vous voulez faire cela. La valeur Ns est PER BLOCK. Il s'agit donc de la quantité de mémoire partagée par bloc s'exécutant sur l'appareil. Je devine que vous voulez faire quelque chose autour des lignes de 12*1024*1024/number_of_blocks;

noyau avec le lancement concurrency: Si, comme mentionné dans un commentaire, vous utilisez flux il y a une quatrième entrée dans le lancement du noyau qui est le courant de Cuda.

Si vous voulez lancer un noyau sur un autre cours d'eau sans mémoire partagée, il ressemblera à:

kernel_name<<<128, 128, 0, mystream>>>(...); 

mais est une question concurrency tout à fait différent.