Critère de torche de modification

Question

Je souhaite créer une fonction de perte personnalisée dans Torch, qui est une modification de ClassNLLCriterion. Concrètement, la perte ClassNLLCriterion est:

loss(x, class) = -x[class] 

Je veux modifier ce soit:

loss(x, class) = -x[class]*K 

où K est fonction de l'entrée du réseau, pas le poids du réseau ou réseau de sortie. Ainsi, K peut être traité comme une constante.

Quelle est la manière la plus simple de mettre en œuvre ce critère personnalisé? La fonction updateOutput() semble simple, mais comment puis-je modifier la fonction updateGradInput()?

Answer 1

Fondamentalement, votre fonction de perte L est une fonction de l'entrée et de la cible. Vous avez donc

loss(input, target) = ClassNLLCriterion(input, target) * K 

si je comprends bien votre nouvelle perte. Ensuite, vous voulez mettre en œuvre updateGradInput qui renvoie la dérivée de votre fonction de perte par rapport à l'entrée, qui est

updateGradInput[ClassNLLCriterion](input, target) * K + ClassNLLCriterion(input, target) * dK/dinput 

donc vous suffit de calculer la dérivée de K wrt l'entrée de la fonction de perte (vous ne l'avez pas donnez-nous la formule pour calculer K) et branchez-la dans la ligne précédente. Puisque votre nouvelle fonction de perte repose sur ClassNLLCriterion, vous pouvez utiliser les updateGradInput et updateOutput de cette fonction de perte pour calculer la vôtre.