Comment surveiller, envoyer l'alerte pour des travaux de longue durée dans Hadoop

Question

J'ai une exigence, où j'ai besoin de surveiller le travail hadoop (Hive/Map Reduce, étincelle) qui sont en cours d'exécution, peut-être dire 3 heures de durée dans le cluster . Je sais que je peux voir tous ces travaux dans l'interface utilisateur, mais je dois le surveiller toutes les heures ou toutes les 30 minutes et envoyer des courriels/alertes si le travail est en cours pendant plus de 3 heures. Y a-t-il un moyen de faire cela. Mon environnement est HDP 2.6

Merci à l'avance ....

Answer 1

Vous pouvez regarder dans oozie. Oozie vous permet de configurer des alertes si un travail dépasse son temps d'exécution prévu. Pour utiliser cette fonctionnalité, vous devez soumettre votre travail en tant que workflow Oozie.

http://oozie.apache.org/docs/4.2.0/DG_Overview.html https://oozie.apache.org/docs/4.3.0/DG_SLAMonitoring.html#SLA_Definition_in_Workflow

Answer 2

comme TK421 mentionne - oozie est la façon de le faire dans le cadre de Hadoop "droit". Cependant, si vous n'avez pas besoin de toute la surcharge, un simple paramètre comme un temporisateur de surveillance à la demande peut être suffisant (par exemple: wdt.io). Fondamentalement, le flux de travail envoie le signal de démarrage, démarre le travail et envoie un signal de fin lorsque le travail est terminé. Si le second signal ne parvient pas dans le délai imparti, une alerte par e-mail/sms est envoyée.

Cette méthode fonctionnerait également pour les flux de travail non-hadoop.