intuition fondamentale pour la régression algorithme perceptron/linéaire

Question

J'étudie sur les réseaux de neurones et je suis tombé sur les éléments suivants XOR SCIE question (qui était une blague!).

J'ai demandé à mon ami si je devais implémenter l'algorithme de perceptron pour le résoudre et il a dit "non - juste y penser". Eh bien, j'y ai pensé, mais mon petit cerveau de singe n'a pu que trouver ce qui suit:

Mes mots d'amis me font penser que c'est une question piège, et le seul truc que nous avons discuté jusqu'ici est l'incapacité. de perceptron pour faire une fonction XOR.

Est-ce que c'était à cette question?

Comment résoudre ce problème? ...

A simple Perzeptron with two inputs x₁, x₂, 
BIAS, and transfer function y = f(z) = sgn(z), 
separates the two dimensional input space into 
two parts with help of a line g. 

Calculate for this Perzeptron the weights 
w1, w2, wb, so that the line separates 
the given 6 patterns (pX1, pX2; Py) into 
two classes: 

1X = (0, 0; -1), 
2X = (2, -2; +1), 
3X = (7 + ε, 3 - ε; +1), 
4X = (7 - ε, 3 + ε; -1), 
5X = (0, -2 - ε; +1), 
6X = (0 - ε, -2; -1), 


Remark: 0 < ε << 1. 

Answer 1

Si vous représenter graphiquement les points, vous verrez que tous les -1s sont sur le côté supérieur gauche, et tous les + 1s êtes sur la en bas à droite. Vous pouvez tracer une ligne d'intersection (0, -2) et (7,3) qui vous donne l'expression:

y = 5x/7 - 2 

qui est suffisant pour ignorer l 'exécution par tout algorithme.

L'équation de la droite pour prédire +1 occurences est donnée par:

y < 5x/7 - 2 

La ligne se divise au-dessus de l'espace 2 dimensions en deux. La zone ombrée est au-dessous de la ligne, et la ligne monte et vers la droite. Donc, pour tout point arbitraire, il suffit de savoir si c'est dans la zone ombrée (prédiction positive = +1).

Dis, (PX1, pX2) = (35, 100),

1) d'une façon qui est de brancher arrière PX1 dans la formule (X »= PX1) pour trouver la partie la plus proche de la ligne (où y = 5x/7-2):

y' = 5(35)/7 - 2 
y' = 23 

Depuis le point sur la ligne est (35, 23) et le point qui nous intéresse est (35, 100), il est au-dessus de la ligne. En d'autres termes, pX2 n'est PAS < 23, la prédiction renvoie -1.

2) parcelle y '= 100, donc

100 = 5x/7-2 
x = 142.8 

point de ligne = (142,8, 100), votre point (35, 100), notre point se trouve à gauche du point de la ligne, il reste tombe à l'extérieur de la zone ombrée.

3) Vous pouvez même représenter graphiquement et vérifier visuellement si elle est dans la zone ombragée

Le point est un calcul doit être fait pour vérifier si elle est IN ou OUT. C'est le point de la régression linéaire. Il devrait être très simple pour la machine de comprendre parce que vous calculez juste une chose. Prédire une fois que vous avez vos formules devrait être rapide. Le plus difficile est de déterminer la formule pour la ligne, ce que nous avons déjà fait en traçant les points et en voyant une solution évidente. Si vous utilisez l'apprentissage automatique, cela prendra plus de temps dans ce cas.