std :: vectoriser dans CUDA

Question

Existe-t-il un moyen de convertir un vecteur 2D en tableau pour pouvoir l'utiliser dans les noyaux CUDA?

Il est déclaré que:

vector<vector<int>> information; 

Je veux cudaMalloc et copie de l'hôte à l'appareil, ce qui serait la meilleure façon de le faire?

int *d_information; 
cudaMalloc((void**)&d_information, sizeof(int)*size); 
cudaMemcpy(d_information, information, sizeof(int)*size, cudaMemcpyHostToDevice); 

Answer 1

En un mot, non il n'y en a pas. L'API CUDA ne prend pas en charge la copie en profondeur et ne sait rien non plus sur std::vector. Si vous insistez pour avoir un vecteur de vecteurs comme source hôte, il faudra faire quelque chose comme ceci:

int *d_information; 
cudaMalloc((void**)&d_information, sizeof(int)*size); 

int *dst = d_information; 
for (std::vector<std::vector<int> >::iterator it = information.begin() ; it != information.end(); ++it) { 
    int *src = &((*it)[0]); 
    size _t sz = it->size(); 

    cudaMemcpy(dst, src, sizeof(int)*sz, cudaMemcpyHostToDevice); 
    dst += sz; 
} 

[disclaimer: écrit dans le navigateur, compilé ou non testé. Utilisation à vos risques et périls]

Ceci copiera la mémoire de l'hôte dans une allocation dans la mémoire linéaire GPU, nécessitant une copie pour chaque vecteur. Si le vecteur des vecteurs est un tableau "en dents de scie", vous voudrez stocker une indexation que le GPU utilisera également.

Answer 2

Pour autant que je comprends, le vecteur de vecteurs ne ont pas besoin de résider dans une mémoire contiguë, à savoir ils peuvent être fragmentés.

En fonction de la quantité de mémoire dont vous avez besoin de transférer je ferais une des deux questions:

1. ReOrder votre mémoire à un seul vecteur, puis utilisez votre cudaMemcpy.
2. Créez une série de cudaMemcpyAsync, où chaque copie gère un vecteur unique dans votre vecteur de vecteurs, puis synchronisez.