DP-GMM et affectation de grappe en ligne

Question

Je m'attendais à ce que DP-GMM de scikit-learn permette la mise à jour en ligne des affectations de grappe avec de nouvelles données, mais l'implémentation de sklearn de DP-GMM a seulement une méthode d'ajustement. La compréhension de l'inférence variationnelle n'est pas encore claire et je pense que l'incapacité de faire la mise à jour en ligne des assignations de grappes est particulière de l'implémentation de sklearn, mais pas de l'inférence variationnelle pour le GMM infini.

Je serais très reconnaissant si quelqu'un pourrait clarifier cela et pointer vers une mise en œuvre capable de mise à jour en ligne des affectations de cluster!

http://scikit-learn.org/stable/modules/generated/sklearn.mixture.DPGMM.html

Answer 1

affichage explication de » Dawen Liang:

1. bayésienne non paramétrique ne correspond pas à l'apprentissage en ligne. Cela signifie simplement déterminer la complexité du modèle en fonction des données, cela peut se produire dans un environnement d'apprentissage par lots (comme l'implémentation de sklearn de DP-GMM).

2. L'inférence variationnelle est essentiellement une méthode basée sur l'optimisation, donc vous pouvez certainement appliquer la méthode d'optimisation stochastique, qui vous donne la possibilité de faire de l'apprentissage en ligne. L'application de l'inférence variationnelle stochastique sur les modèles non paramétriques bayésiens est en réalité toujours un domaine de recherche actif.

Emily Fox's sampler sticky HDP-HMM

John Paisley's group HDP-HMM Matt Hoffman's infinite HMM (perhaps not HDP)

1http://www.stat.washington.edu/~ebfox/software/HDPHMM_HDPSLDS_toolbox.zip