Quand j'entraîne le modèle par xgboost et que je trouve que "eval-merror" augmente et que "train-merror" diminue comme ci-dessous, est-ce que quelque chose est dans l'erreur?XGBoost: pourquoi l'erreur de test augmente-t-elle lorsque l'erreur de train diminue dans XGBoost?
Q
XGBoost: pourquoi l'erreur de test augmente-t-elle lorsque l'erreur de train diminue dans XGBoost?
0
A
Répondre
1
Vous êtes overfitting probable. Avez-vous essayé de définir early_stopping_rounds? Ceci mettra fin à la formation une fois que xgboost détecte que l'erreur de validation augmente. Si ce comportement survient dès la première étape d'apprentissage, vous pouvez essayer un taux d'apprentissage plus petit (appelé eta).
Vous trouverez plus d'informations sur les paramètres mentionnés ci-dessus dans la référence de l'API: http://xgboost.readthedocs.io/en/latest/python/python_api.html