Incrémental Maximum Entropy Classifier

Question

L'algorithme utilisé pour construire un classificateur entropique maximum peut-il être modifié pour fonctionner de manière incrémentielle ou est-il par définition un processus par lots? J'ai trouvé des implémentations a fewopen source, mais ce sont tous des processus par lots, et même après avoir inspecté le code, je ne peux pas imaginer comment je les modifierais pour fonctionner de manière incrémentielle. Est-ce même possible?

Answer 1

Il est certainement possible de former un classificateur d'entropie maximum par un processus incrémental. Je pense que le schéma d'entraînement le plus populaire serait probablement la descente en gradient stochastique. Vous pouvez également utiliser le terme de régression logistique au lieu de max-entropie pour aider avec le googling.

D'une brève recherche, peut-être que cela pourrait vous aider?

http://alias-i.com/lingpipe/demos/tutorial/logistic-regression/read-me.html

https://issues.apache.org/jira/browse/MAHOUT-228