L'application Spring Boot se fige après un jour

Question

J'ai une application Spring Boot fonctionnant sur deux serveurs. Il accepte le fichier demandes de téléchargement (environ 1 Ko) via le contrôleur à partir de milliers de périphériques IOT.

En outre, il existe un TCP Listener qui accepte également les données GPS en tant que flux provenant de ces périphériques IOT.

J'ai configuré le nombre de threads max Tomcat à 3000 sur un serveur et 5000 sur une machine virtuelle plus grande. Au bout d'un jour ou deux, mon application Spring Boot se bloque, c'est-à-dire qu'elle cesse de répondre à d'autres appels API.

Une raison, je soupçonne est que les périphériques IOT sont ne fermant pas la connexion socket TCP après l'envoi des données.

Où pourrais-je me tromper? Je manque de threads pour gérer les nouvelles demandes entrantes?

############################

EDIT 1:

Après avoir enquêté sur la thread dump et l'ajout de journaux pendant la connexion Socket et la fermeture, j'ai découvert que le périphérique IOT ne ferme pas les connexions. Au lieu de cela, le périphérique crée une nouvelle connexion chaque fois qu'il veut envoyer de nouvelles données sans fermer la précédente. Avant la fermeture de l'application, 22500 connexions ouvertes étaient automatiquement fermées.

Comment puis-je gérer ce comportement? Dois-je fermer les connexions avec force après un certain délai?

Answer 1

Vous pouvez atténuer le problème des connexions inactives en cachant votre service derrière un Nginx ou HAProxy qui ferme les connexions inactives par défaut après un délai d'attente donné.

Une autre option consiste à définir server.connection-timeout dans les propriétés de l'application (voir server properties), mais cela semble être applicable uniquement à HTTP.