Caffe python backword passe la mise en œuvre

Question

J'écris une couche caffe python qui revend l'entrée entre [0 255] le long d'un axe spécifique (code attaché) et la passe avant fonctionne bien. Le passage vers l'arrière est-il requis pour une telle couche? si oui, comment puis-je l'implémenter?

caffe_root = 'caffe_root'   
import sys 
sys.path.insert(0, caffe_root + 'python') 
import caffe 
import numpy as np 

class scale_layer(caffe.Layer): 

    def setup(self, bottom, top): 
    assert len(bottom)==1 and len(top)==1, "scale_layer expects a single input and a single output" 

    def reshape(self, bottom, top): 
    top[0].reshape(*bottom[0].data.shape) 

    def forward(self, bottom, top): 
    in_ = np.array(bottom[0].data) 
    x_min = in_.min(axis=(0, 1), keepdims=True) 
    x_max = in_.max(axis=(0, 1), keepdims=True) 
    top[0].data[...] = np.around(255*((in_-x_min)/(x_max-x_min))) 

    def backward(self, top, propagate_down, bottom): 
    # backward pass is not implemented! 
    ??????????????????????????? 
    pass 

Answer 1

Votre fonction est assez simple, si vous êtes prêt à ignorer le np.around:

Pour x=x_min et x=x_max le dérivé est égal à zéro, pour tous les autres x le dérivé est 255/(x_max-x_min).

Cela peut être mis en œuvre par

def forward(self, bottom, top): 
    in_ = bottom[0].data 
    self.x_min = in_.min(axis=(0, 1), keepdims=True) # cache min/max for backward 
    self.x_max = in_.max(axis=(0, 1), keepdims=True) 
    top[0].data[...] = 255*((in_-self.x_min)/(self.x_max-self.x_min))) 

def backward(self, top, propagate_down, bottom): 
    in_ = bottom[0].data 
    b, c = in_.shape[:2] 
    diff = np.tile(255/(self.x_max-self.x_min), (b, c, 1, 1)) 
    diff[ in_ == self.x_min ] = 0 
    diff[ in_ == self.x_max ] = 0 
    bottom[0].diff[...] = diff * top[0].diff 

Ne pas oublier de tester cette numberically. Cela peut être fait, par exemple, en utilisant test_gradient_for_python_layer.