J'essaie de tester l'efficacité des réseaux de neurones en tant que fonctions d'approximation.Fonction d'approximation de réseau neuronal
La fonction que j'ai besoin d'approximer a 5 entrées et 1 sortie, quelle structure dois-je utiliser?
Je n'ai aucune idée sur quels critères devraient être appliqués afin de décider du nombre de calques masqués et le nombre de nœuds pour chaque couche.
Merci à l'avance, Cordialement
Giuseppe.
J'utilise toujours un seul calque caché. Théoriquement, il n'y a pas de fonctions qui peuvent être approchées par 2 couches cachées ou plus qui ne peuvent pas être approchées avec une. Pour rendre un seul calque caché plus complexe, ajoutez plus de nœuds cachés.
Typiquement, le nombre de nœuds cachés varie pour observer l'effet sur les performances du modèle (mesuré par la précision ou autre). Trop peu de nœuds cachés entraînent un mauvais ajustement en raison d'un sous-équipement (la fonction de sortie du réseau de neurones est trop simple et manque des détails importants dans les données). Trop de nœuds cachés entraînent un ajustement plus mauvais en raison d'un sur-ajustement (le réseau de neurones devient si flexible qu'il chasse chaque bit de bruit dans les données).
Notez que pour les problèmes de classification, vous avez besoin d'au moins 2 couches cachées si vous souhaitez séparer les polygones concaves.
Je ne suis pas sûr de savoir comment le nombre de couches cachées affecte l'approximation de la fonction.