Coursera Machine Learning: Gradient Descent vectorisation

Question

Je n'arrive pas à comprendre comment vectoriser les fonctions du cours Machine Learning disponible sur Coursera.

Au cours, Andrew Ng explique que l'hypothèse peut être vectorisé à la transposition de thêta multiplié par x:

H(x) = theta' * X 

Mon premier problème est quand je mets en œuvre ce exercices. Pourquoi la vectorisation sur papier est-elle la transposition de thêta multipliée par x alors que sur Octave c'est X fois thêta?

theta'*X % leads to errors while multiplying 

Mon deuxième problème suit le premier.

Quand je veux vectoriser cette somme de la fonction de descente de gradient:

sum((h(x)-y)*x)) 

Je ne comprends pas vraiment comment vous arrivez à cette fois vectorisé:

X'*(h(x)-y) 

Quelqu'un pourrait expliquer cela?

Answer 1

C'est une question de goût. La convention habituelle est d'avoir des multiplications matrice-vecteur, c'est-à-dire ce que vous préférez. Vous pouvez passer d'un mode à l'autre en transposant tout. Autrement dit, si votre multiplication X*theta fonctionne, la formule transposée est theta.' * X.'

En X*theta chacune des lignes de X contient les données (valeurs de la fonction noyau) d'un point d'échantillonnage. Dans la convention theta.'*X, ce sont les colonnes X qui contiennent les données de point d'échantillonnage.

Donc, cela dépend toujours du contexte, de ce qui est défini comme ligne et de ce qu'est un vecteur colonne et de la manière dont ils sont assemblés dans des objets ou des opérations plus grands.