Est-il possible de rendre ce code MATLAB vectorisé plus rapide?

Question

Dans mon programme, j'ai besoin de calculer la somme:

.

Je calcule cette somme 2500 fois avec de nouvelles valeurs de C et z.

Argument z peut être un vecteur. J'ai écrit simple pour boucle et le code de la version vectorisée comme suit:

K = 200; 
n_z = 40000; 
C = ones(K,1); % an example, in real life the arey some coefficients (at next call will be new) 
k = 0:K-1; 
z = linspace(0, 2*pi, n_z); % at next call will be new 

tic; 
    my_sum_for = zeros(1, K); 
    for i=1:n_z 
     my_sum_for(i) = C' * tan(k' * z(i)); 
    end 
toc; % Elapsed time is 1.820485 seconds. 

tic; 
    my_sum = C' * tan(k' * z); 
toc; % Elapsed time is 0.160924 seconds. 

la version est plus rapide vectorisé, mais pas assez. Est-il possible d'améliorer la version vectorisée?

Après la réponse de Dominique Jacquel J'ai cette version vectorisée, il est plus rapide:

K = 200; 
    n_z = 40000; 
    C = ones(K,1)'; % an example, in real life they are some coefficients (at next call will be new) 
    k = (0:K-1)'; 
    z = linspace(0, 2*pi, n_z); % at next call will be new 

    tic; 
     my_sum_for = zeros(1, K); 
     for i=1:n_z 
      my_sum_for(i) = C * tan(k * z(i)); 
     end 
    toc; % Elapsed time is 1.521587 seconds. 

    tic; 
     my_sum = C * tan(k * z); 
    toc; % Elapsed time is 0.125468 seconds. 

Est-il possible d'améliorer la version vectorisée encore plus (bsxfun, arrayfun ou quelque chose)? Le temps de 250 secondes est encore lent pour moi (c'est 75% de toutes les computations).

Answer 1

Je pense que vous êtes assez proche des limites matérielles ici. Les multiplications de matrices dans Matlab sont faites avec le BLAS libraries, qui s'est avéré difficile à battre quand il s'agit de performance. AFAIK, la fonction tangente a dedicated hardware pour calculer sa valeur. En outre, Matlab distribue automatiquement les fonctions trigonométriques de grandes matrices sur plusieurs cœurs, donc il y a peu de choses à améliorer ici.

Aussi, corrigez-moi si je me trompe, mais étant donné les frais généraux de données probables et les problèmes de mémoire, je pense que ce calcul serait effectivement plus lent sur les GPU.

Maintenant, si vous comparez ces:

tic; 
for ii = 1:10 
    my_sum = C * tan(k * z); 
end 
toc 

tic; 
for ii = 1:10 
    my_sum_notan = C * k * z; 
end 
toc 

Vous verrez que toute la douleur vient de la fonction tangente, de sorte que vous feriez mieux de se concentrer sur ce point. Comme vous pouvez le lire here, accélérer les fonctions trigonométriques n'est fondamentalement possible que si vous sacrifiez une certaine précision.

Dans tout ce que vous devez vous poser ces questions:

1. Êtes-vous prêt à renoncer à double précision complète, ou sont, disons, 6 chiffres « assez près »? Vous ne pouvez pas reformuler le problème pour que la tangente soit calculée par la suite? ou avant? Ou de toute façon sur une quantité significativement plus petite d'éléments?Dans le problème comme indiqué, ce n'est évidemment pas possible, mais je ne connais pas le code complet - il pourrait y avoir de bonnes trig-identités qui pourraient s'appliquer à votre problème.

2. Compte tenu de tout ce qui précède, est-ce que la quantité d'effort nécessaire pour optimiser cela dépasse réellement le temps d'exécution plus long? 250 secondes ne sonnent pas trop mal comparé à l'écriture de fonctions MEX personnalisées, difficilement portables, qui mettent en œuvre des fonctions trigonométrées mais rapides.

Answer 2

Faites comme de nombreuses opérations de matrice que dès le départ possible (transposition dans ce cas) pour gagner du temps dans la boucle

K = 200; 
n_z = 40000; 
C = ones(K,1)'; 
k = (0:K-1)'; 
z = linspace(0, 2*pi, n_z); 

tic; 
    my_sum_for = zeros(1, K); 
    for i=1:n_z 
     my_sum_for(i) = C * tan(k * z(i)); 
    end 
toc 

tic; 
    my_sum = C * tan(k * z); 
toc; 

mes temps d'exécution avant

Elapsed time is 1.266158 seconds. 
Elapsed time is 0.531173 seconds. 

et après

Elapsed time is 0.496803 seconds. 
Elapsed time is 0.185396 seconds. 

Answer 3

Voici une version qui tourne un peu plus vite sur mon ordinateur:

k = repmat((0:K-1)', 1, n_z); 
z = repmat(linspace(0, 2*pi, n_z), K, 1); 
C = ones(1, K); 
tic 
my_sum = C*tan(k.*z); 
toc 

Essentiellement, au lieu d'un produit extérieur de k et z j'opérez sur des matrices.

Première version

Elapsed time is 0.652923 seconds. 
Elapsed time is 0.240300 seconds. 

Après la réponse de Dominique Jacquel

Elapsed time is 0.376218 seconds. 
Elapsed time is 0.214047 seconds. 

Ma version

Elapsed time is 0.168535 seconds. 

Vous devrez peut-être ajouter le coût de repmats, mais vous pouvez peut-être faire une fois seulement, je ne connais pas le reste du code.

Je suis entièrement d'accord avec Rody Oldenhuis. La majorité du travail réside dans la fonction tangente. Je peux vous en dire plus. Le calcul de k. * z est très efficace et ne peut pas être amélioré beaucoup. Si vous calculez la bande passante de la mémoire, elle atteint environ 10 Go/s sur mon ordinateur. Le pic que je peux obtenir est d'environ 16 Go/s, donc c'est proche. Pas beaucoup de possibilités là-bas. Pareil avec C * T. C'est une simple multiplication matrice-vecteur BLAS2, qui est liée à la mémoire. Pour les tailles de système que vous montrez, le surcoût de MATLAB n'est pas trop important.

Édition: comme l'a mentionné Rody, les nouvelles versions de MATLAB font déjà parallelize tan(). Donc pas beaucoup ici non plus.

Vous pouvez seulement espérer améliorer le bronzage() - en le faisant fonctionner en parallèle. Après tout, c'est une tâche trivialement parallélisable ... Envisagez d'exporter juste cela vers un fichier MEX, qui utilisera OpenMP. Travail très simple, beaucoup d'accélération si vous avez quelques cœurs de rechange.