Perceptron Learning - Intuition d'entrée dans la mise à jour de poids

Question

J'ai essayé de m'enseigner comment créer des perceptrons, et je suis assez bien. Le seul problème que je l'ai rencontré à ce jour est de comprendre ce que l'intuition derrière la présence de l'entrée est de la mise à jour de poids d'un perceptron:

changement de poids = taux d'apprentissage * erreur * entrée

J'ai suivi this link, mais il n'explique pas sa présence, ni le livre Neural Network Programming avec Java. Je suis convaincu que la justification est simple, mais je ne peux pas le comprendre. J'apprécie toute aide - merci!

EDIT: Mon explication provisoire est que l'entrée d'entrer dans le poids est utilisé dans le produit car il détermine combien il est important pour toute perceptron, par rapport aux autres entrées

Answer 1

Il est pas « importance » de l'entrée, cependant peut être dans une certaine mesure interprété de cette façon. Il découle simplement directement de l'analyse du gradient de la fonction. Différenciez votre fonction de coût et vous obtiendrez le signal d'entrée dans le cadre de la dérivée. Pourquoi est-ce là? Parce que la dérivée en dépend, dépend principalement de la direction (donc - signe de l'entrée).