Comment gérer la mise à l'échelle lorsque la demande par minute va de 500 à 5000 instanly

Question

J'ai une application qui pics de 500 à 5000 et reste là pendant 20-30min. Je sais que ce n'est pas une tonne de demandes, mais c'est l'ampleur du saut qui me tue. AWS-EC2 prend 5 minutes pour passer à l'échelle, ce qui n'est pas utile lorsque les choses bougent si vite. Peut-être plusieurs DB qui gèrent différentes parties de l'application.

Comment allez-vous analyser cela et penser à l'infrastructure si vous allez toujours de 500 à 5000 RPM ou plus en une minute?

Voici le graphique de mes journaux AWS:

Answer 1

Si vous pouvez prédire que la demande augmentera à un moment donné, vous pouvez automatiser l'approvisionnement de nouvelles instances. Si vous ne pouvez pas le déterminer, vous devez planifier correctement la capacité. Par exemple, combien de serveurs/conteneurs avez-vous besoin d'exécuter pour supporter la charge avec une expérience utilisateur acceptable? Ce sera la clé pour déterminer.

Vous devez également examiner les modèles de messagerie asynchrones implémentés qui déchargent le pic, bien que cela puisse entraîner une dégradation des performances. Une autre considération serait de passer à une architecture sans serveur comme AWS Lambda. Cela ne permettrait probablement pas de résoudre entièrement le problème, mais vous fournirait plus de possibilités de provisionner rapidement l'infrastructure à la demande.