2008-11-20 6 views
10

Je suis à la recherche de tâches lourdes à implémenter avec CUDA et je me demande si des réseaux neuronaux ou des réseaux bayésiens pourraient s'appliquer. Ce n'est pas ma question, cependant, mais plutôt quelle est la relation entre les deux types de réseaux. Ils semblent très liés, surtout si vous regardez les réseaux bayésiens avec une capacité d'apprentissage (que l'article sur wikipedia mentionne). D'un coup d'œil, les réseaux bayésiens ressemblent un peu à un type spécifique de réseaux neuronaux. Quelqu'un peut-il résumer leur relation, et s'il y a un lien au-delà de la similitude apparente?Quelle est la relation entre les réseaux bayésien et neuronal?

+1

doit migrer vers http://stats.stackexchange.com/questions –

+0

http://stats.stackexchange.com/questions/94511/difference-between-bayes-network-neural-network-petri-nets-and- arbre de décision –

Répondre

7

Les réseaux bayésiens représentent les relations d'indépendance (et de dépendance) entre les variables. Ainsi, les liens représentent des relations conditionnelles dans le sens probabiliste. Les réseaux de neurones, en général, n'ont pas une telle interprétation directe, et en fait les nœuds intermédiaires de la plupart des réseaux de neurones sont des caractéristiques découvertes, au lieu d'avoir un prédicat qui leur est associé de plein droit.

+1

Hmmm ... J'ai toujours eu l'impression que les statistiques bayésiennes consistaient à découvrir ne pas assigner de relations. – dkretz

+1

C'est vrai, dans une certaine mesure, et il y a donc une différence entre apprendre la structure d'un réseau bayésien et apprendre les paramètres d'un réseau donné. Il s'avère que vous pouvez apprendre plusieurs structures plausibles, mais il est difficile de savoir s'il vous manque des variables. Voir "Causalité" par Judea Pearl –

+1

En fait, plus j'y pense, le point clé à souligner est que les nœuds et les liens sont connectés par la règle de Bayes, et sont soumis à des mises à jour bayésiennes sur d'autres données. Au-delà de cela, je ne suis pas sûr de ce qui peut être correctement attribué comme bayésien. –

1

En effet, ils sont. Je vois un réseau bayésien comme un réseau de neurones appliquant le théorème de Baye à grande échelle, mais je ne me souviens pas des détails. Je sais où vous pouvez les trouver et je recommande le livre this pour cela.

2

Il est is reported que les réseaux bayésiens sont plus résistants au «surentraînement» que l'on observe dans certains réseaux de neurones. En d'autres termes, certains réseaux de neurones deviennent si "formés" aux mesures observées utilisées à l'entraînement qu'ils ne sont pas utiles pour les cas généraux.

Questions connexes