Qu'entend-on par visualisation d'un espace d'intégration (réseau de neurones)?

Question

Je lisais sur un document de reconnaissance d'activité https://arxiv.org/pdf/1705.07750.pdf. Ici, ils utilisent la convolution 3D sur inception v1 pour effectuer la reconnaissance d'activité. J'écoutais un discours qui disait de visualiser l'espace d'intégration des fonctionnalités de la vidéo.

1) Qu'est-ce que cela signifie de visualiser un espace d'intégration? Regardez-vous les filtres qu'il a appris ou recherchez-vous des regroupements d'activités similaires?

2) Visualisez-vous simplement la matrice de poids pour voir les entités capturées? Si oui, quelle matrice de poids?

3) tf.summary.image() aide-t-il à visualiser la matrice de poids?

Answer 1

L'espace d'intégration est l'espace des entités produites par un algorithme d'apprentissage. Dans le cas spécifique d'un réseau neuronal (convolutif), cela signifie généralement l'une des cartes d'entités de sortie (aplaties) à une couche prédéfinie ou la sortie de l'une des couches entièrement connectées.

Ce que l'on visualise est pas la matrice de poids, mais les valeurs des caractéristiques produites pour certaines données de test d'entrée. Par exemple, on prend l'ensemble de test complet et le passe à travers le réseau et calcule les caractéristiques de chaque image sur une couche spécifique, puis visualise ces valeurs. TensorBoard a la fonctionnalité de visualiser automatiquement les incorporations et autres espaces de caractéristiques, vous devriez y prendre un look.

Notez que dans certains contextes d'application comme NLP, une incorporation a une définition légèrement différente mais l'utilisation est la même.