Qu'est-ce que "projection linéaire" dans le réseau de neurones convolutionnels

Question

Je suis en train de lire Residual learning, et j'ai une question. Qu'est-ce que la "projection linéaire" mentionnée en 3.2? J'ai l'air assez simple une fois obtenu ceci mais n'a pas pu obtenir l'idée ...

Je ne suis fondamentalement pas une personne d'informatique, ainsi j'apprécierais si quelqu'un me fournissez un exemple simple.

Merci pour toute aide

Answer 1

Tout d'abord, il est important de comprendre ce que sont x, y et F et pourquoi ils ont besoin de toute projection. Je vais essayer d'expliquer en termes simples, mais la compréhension de base de ConvNets est nécessaire.

x est une donnée d'entrée (appelé tenseur) de la couche, en cas de ConvNets rang de c'est 4. Vous pouvez penser comme un 4-dimensional array. F est généralement une couche de conv (conv+relu+batchnorm dans ce document), et y combine les deux ensemble (formant le canal de sortie). Le résultat de F est également de rang 4, et la plupart des dimensions seront les mêmes que dans x, sauf pour un. C'est exactement ce que la transformation devrait corriger.

Par exemple, la forme x peut être (64, 32, 32, 3), où 64 correspond à la taille du lot, 32x32 à la taille de l'image et 3 aux canaux de couleur (R, G, B). F(x) pourrait être (64, 32, 32, 16): taille du lot ne change jamais, pour simplifier, conv-couche ResNet ne change pas la taille de l'image aussi, mais utilisera probablement un nombre différent de filtres - 16.

Ainsi, pour y=F(x)+x être une opération valide, x doit être "remodelée" de (64, 32, 32, 3) à (64, 32, 32, 16).

Je voudrais souligner ici que "remodeler" ici n'est pas ce que fait numpy.reshape.

Au lieu de cela, x[3] est rembourré avec 13 zéros, comme ceci:

pad(x=[1, 2, 3],padding=[7, 6]) = [0, 0, 0, 0, 0, 0, 0, 1, 2, 3, 0, 0, 0, 0, 0, 0] 

Si vous y pensez, cela est une projection d'un vecteur 3 dimensions sur 16 dimensions. En d'autres termes, nous commençons à penser que notre vecteur est le même, mais il y a 13 autres dimensions là-bas. Aucune des autres dimensions x n'est modifiée.

Voici the link au code dans Tensorflow qui fait cela.

Answer 2

Une projection linéaire est celle où chaque nouvelle fonctionnalité est simple une somme pondérée des caractéristiques d'origine. Comme dans le document, cela peut être représenté par une multiplication matricielle. si x est le vecteur de caractéristiques d'entrée N et W est un M -par matrice N, puis le produit de la matrice Wx donne M nouvelles fonctions où chacun est une projection linéaire de x. Chaque ligne de W est un ensemble de poids qui définit l'une des projections linéaires M (c'est-à-dire que chaque ligne de W contient les coefficients pour l'une des sommes pondérées de x).