Compilateur Intel OpenCL: optimisation de l'utilisation de la structure

Question

J'ai une question concernant l'utilisation des structures dans OpenCL sur un processeur Intel. Mon noyau en cours d'accéder à deux tampons en utilisant une struct de la manière suivante:

struct pair { 
    float first; 
    float second; 
}; 

inline const float f(const struct pair param) { 
    return param.first * param.second; 
} 

inline const struct pair access_func(__global float const * const a, __global float const * const b, const int i) { 
    struct pair res = { 
      a[i], 
      b[i] 
    }; 
    return res; 
} 

// slow 
__kernel ...(__global float const * const a, __global float const * const b) 
{ 
// ... 

x = f(access_func(a, b, i)); 

// ... 
} 

Lorsque je modifie le noyau de la manière suivante, il tourne beaucoup plus vite:

// fast 
__kernel ...(__global float const * const a, __global float const * const b) 
{ 
// ... 

x = a[i] * b[ i ]; 

// ... 
} 

Est-il possible de laisser le processeur Intel compilateur faire cette optimisation? Le compilateur NVIDIA semble être capable de le faire, car je ne vois pas de différence dans l'exécution sur un GPU.

Merci d'avance!

Answer 1

Le compilateur ne peut pas effectuer d'optimisations sur la mise en mémoire de vos données, étant donné que les tampons sont partagés entre le périphérique OpenCL et l'hôte, et/ou entre plusieurs noyaux sur le périphérique OpenCL; la disposition la plus efficace dépendra des modèles d'accès dans le noyau, et ceux-ci peuvent évidemment être différents pour chaque noyau.

Vous devrez choisir judicieusement la disposition de la mémoire de vos données; C'est l'une des parties les plus difficiles de la programmation GPU. Reportez-vous aux guides d'optimisation OpenCL pour chaque implémentation que vous ciblez pour savoir ce qu'ils préfèrent. Parfois, des modèles d'accès inefficaces peuvent être masqués en copiant de la mémoire global vers la mémoire local, puis en travaillant à partir de la copie locale.