Neural Networks Value Errors: Formes non alliées

Question

J'essaie d'appliquer un réseau de neurones (Multi perceptron) à mes données. Je reçois cette erreur: ValueError: shapes (3,) et (4,99) non alignés: 3 (dim 0)! = 4 (dim 0)

J'ai une erreur sur cette ligne: a = self.activation (np.dot (a, self.weights [l]))

Si quelqu'un pouvait m'aider, je serais heureux.Merci.

nn_inputs: [[15, 0, 2,48489062802], [-35, 29, 1,15616438943], [-5, -1, 2,32958496377], [-48, 33, 0,706488511889], [-10, 2 , 2,09510386284], [-3, 11, 1,8423515073]]

nn_labels: [0, 1, 0, 1, 0, 1]

def tanh(x): 
    return np.tanh(x) 

def tanh_deriv(x): 
    return 1.0 - np.tanh(x)**2 

def logistic(x): 
    return 1/(1 + np.exp(-x)) 

def logistic_derivative(x): 
    return logistic(x)*(1-logistic(x)) 


class NeuralNetwork: 
    def __init__(self, layers, activation='tanh'): 
    """ 
    :param layers: A list containing the number of units in each layer. 
    Should be at least two values 
    :param activation: The activation function to be used. Can be 
    "logistic" or "tanh" 
    """ 
    if activation == 'logistic': 
     self.activation = logistic 
     self.activation_deriv = logistic_derivative 
    elif activation == 'tanh': 
     self.activation = tanh 
     self.activation_deriv = tanh_deriv 

    self.weights = [] 
    for i in range(1, len(layers) - 1): 
     self.weights.append((2*np.random.random((layers[i - 1] + 1, layers[i]+ 1))-1)*0.25) 
    self.weights.append((2*np.random.random((layers[i] + 1, layers[i + 
         1]))-1)*0.25) 



    def fit(self, X, y, learning_rate=0.2, epochs=10000): 
     X = np.atleast_2d(X) 
     temp = np.ones([X.shape[0], X.shape[1]+1]) 
     temp[:, 0:-1] = X # adding the bias unit to the input layer 
     X = temp 
     y = np.array(y) 

     for k in range(epochs): 
      i = np.random.randint(X.shape[0]) 
      a = [X[i]] 


      for l in range(len(self.weights)): 
       a.append(self.activation(np.dot(a[l], self.weights[l]))) 
      error = y[i] - a[-1] 
      deltas = [error * self.activation_deriv(a[-1])] 

      for l in range(len(a) - 2, 0, -1): # we need to begin at the second to last layer 
       deltas.append(deltas[-1].dot(self.weights[l].T)*self.activation_deriv(a[l])) 


     deltas.reverse() 
     for i in range(len(self.weights)): 
      layer = np.atleast_2d(a[i]) 
      delta = np.atleast_2d(deltas[i]) 
      self.weights[i] += learning_rate * layer.T.dot(delta) 

    def predict(self, x): 
     x = np.array(x) 
     temp = np.ones(x.shape[0]+1) 
     temp[0:-1] = x 
     a = temp 
     for l in range(0, len(self.weights)): 
      a = self.activation(np.dot(a, self.weights[l])) 
     return a 


nn_inputs = map(list, zip(speed, occupancy, capacity)) 
nn_labels = labels 

nn = NeuralNetwork([3,len(nn_inputs),1], 'tanh') 


nn.fit(nn_inputs, nn_labels) 
for i in [[0, 0], [0, 1], [1, 0], [1,1]]: 
    print(i,nn.predict(i)) 

Answer 1

j'obtenir le même code d'erreur et semble que cela est dû à l'utilisation de la forme de données qui est différente du premier élément de vecteur dans l'initialisation NN vous devez avoir: nn = NeuralNetwork ([2, len (nn_inputs), 1], 'tanh') au lieu de nn = NeuralNetwork ([3, len (nn_inputs), 1], 'tanh') comme dans la classe NeuralNetwork, le biais est ajoutée lorsque le traitement

je vous donne ci-dessous l'ensemble du code qui fonctionne bien pour moi:

linéaire def (x): retour 2 * x + 3 def linear_deriv (x): retour 2 DEF tanh (x): Renvoie np.tanh (x)

def tanh_deriv (x): return 1.0 - np.tanh (x) ** 2

logistique def (x): retour 1/(1 + np.exp (-x))

def logistic_derivative (x): logistique de retour (x) * (1-logistique (x))

classe NeuralNetwork: def initialisation (self, couches, activation = 'tanh'): "" » : couches param: Une liste du contenant le nombre d » les couches cachées et la couche de sortie les couches cachées et la couche de sortie Doit avoir : Activation des paramètres: activation d'utilisation à. Peut-être "logistique" ou "tanh" "" » self.layers = couches si l'activation == 'logistique': self.activation = logistique self.activation_deriv = logistic_derivative activation elif == 'tanh' : self.activation = tanh self.activation_deriv = tanh_deriv activation Elif == 'de lineaire': self.activation = linéaire self.activation_deriv = linear_deriv

#self.weights est une liste de matrice de poids. chaque matrice représente 
    #l'ensemble des poids qui lient une couche et celle qui la suit 
    #la première lie la couche des données à la première couche cachée 
    #la seconde lie la première couche cachée à la seconde. Ainsi de suite 
    #jusqu'à la dernière qui lie la dernière couche cachée et la couche de sortie 
    self.weights = [] 
    """ Initialisation des poids. 
    On initialise les poids que portent les liens entre les neurones des couches 
    qui se suivent. Pour chaque couche exceptée la dernière, on ajoute le biais 
    qui correspond à la valeur seuil de l'activation""" 
    for i in range(1, len(layers) - 1): 
     self.weights.append((2*np.random.random((layers[i - 1] + 1, layers[i] 
          + 1))-1)*0.25) 
    #initialisation des poids des connexions entre la dernière couche cachée et 
    #la couche de sortie 
    self.weights.append((2*np.random.random((layers[i] + 1, layers[i + 
         1]))-1)*0.25) 
"""la fonction d'apprentissage au taux d'apprentissage 0.2 avec un certain nombre d'itérations""" 
def fit(self, X, y, taux_apprentissage=0.2, iterations=10000): 
     X = np.atleast_2d(X)#Transformation de l'entrée (les données) en une matrice de deux dimension 
          #Si on n'a pas déjà une matrice 
     temp = np.ones([X.shape[0], X.shape[1]+1]) 
     temp[:, 0:-1] = X # Ajout du biais à la couche d'éntrée 
     X = temp 
     y = np.array(y) 
     for k in range(iterations): 
      #choix d'un index au hasard 
      i = np.random.randint(X.shape[0]) 
      #recupération de la donnée qui se trouve à cet index dans la matrice des données X 
      a = [X[i]] 

      for l in range(len(self.weights)): 
      #calcul et propagation de l'activation de couche en couche de la première 
      #à la dernière 

       a.append(self.activation(np.dot(a[l], self.weights[l]))) 
      #estimation de l'erreur entre la sortie obtenue et la sortie désirée 

      error = y[i] - a[-1] 
      #calcul du signal de l'erreur pour la couche de sortie 
      deltas = [error * self.activation_deriv(a[-1])] 
      #calcul du signal d'erreur pour les autres couches 
      for l in range(len(a) - 2, 0, -1): 
       # On doit commencer le calcul 
       # de l'avant dernière couche d'ou le "len(a)-2" à la première 
       #on multiplie la derniere valeur du signal d'erreur par 
       deltas.append(deltas[-1].dot(self.weights[l].T)*self.activation_deriv(a[l])) 
      deltas.reverse() 
      #Mise à jour des poids par retropropagation du gradient 
      for i in range(len(self.weights)): 
       layer = np.atleast_2d(a[i]) 
       delta = np.atleast_2d(deltas[i]) 
       self.weights[i] += taux_apprentissage * layer.T.dot(delta) 
      if k==iterations-1: 
       for u in range (X.shape[0]): 
        a = [X[u]] 
        error=0.0 

        for l in range(len(self.weights)): 
        #calcul et propagation de l'activation de couche en couche de la première 
        #à la dernière 

         a.append(self.activation(np.dot(a[l], self.weights[l]))) 
        #estimation de l'erreur entre la sortie obtenue et la sortie désirée 
        e=(y[u] - a[-1]) 
        #calcul de l'erreur quadratique moyenne 
        error =error + e[0]**2 
       if error/X.shape[0]> -0.000001 and error/X.shape[0]> 0.000001 : 
        print("erreur globale: ") 
        print(error/X.shape[0]) 
        break 
       else: 
        k=0 


def predict(self, x): 
      x = np.array(x) 

      temp = np.ones(x.shape[0]+1) 
      temp[0:-1] = x 

      a = temp 
      for l in range(0, len(self.weights)): 
       a=self.activation(np.dot(a[l], self.weights[l])) 

      return a 

espère que ce sera utile