AWS ApiGateway Latence Problème

Question

Actuellement, j'utilise AWS Lambda pour mon application interne pour les appels d'application à l'aide de la structure Spring implémentée avec jrestless.

Demande d'appel d'application fonctionne parfaitement avec une latence décente (~ 10-15ms idéalement)

Mais quand je suis en train de tirer parti de même fonction lambda via l'API passerelle le temps de latence pousses jusqu'à 700-800 ms. Même si ma fonction lambda prend le même 10-15 ms.

Lambda Fonction Configurations:

VPC: open(no vpc) 
Region: ap-south-1(Mumbai) 
Memory: 1500 MB(Highest) 
Timeout: 5 min(Highest) 

passerelle API Configurations:

Region: ap-south-a(Mumbai) 
Request Integration: proxy+ 
Request Method: ANY 

Aucune authentification est utilisé et son un appel HTTPS.

Est-ce que quelqu'un a rencontré un problème similaire?

Answer 1

J'ai aussi des problèmes de latence avec la passerelle API mais je n'ai pas de chiffres exacts à ce sujet. Cependant, à partir de maintenant, la passerelle API a un problème de latence et c'est un problème permanent.

https://forums.aws.amazon.com/thread.jspa?threadID=225458

Selon les ingénieurs, je pense 700ms est un peu plus élevé. Juste au cas où il y a une autre préoccupation avec lambda comme démarrage à chaud et démarrage à froid. quand vous appelez d'abord la latence de lambda est peu élevé. Et il y a deux solutions de contournement pour surmonter cela comme mentionné dans le blog suivant poster

https://serverless.com/blog/keep-your-lambdas-warm/

Answer 2

1. Si vous êtes curieux où le temps d'attente est introduit, la passerelle API fournit deux mesures CloudWatch: Latency et IntegrationLatency. Latency est la latence totale côté serveur enregistrée par API Gateway et IntegrationLatency est uniquement la latence de la demande/réponse principale. La différence entre ces deux métriques est le surdébit côté serveur API Gateway. Toute différence entre la latence côté client et la métrique Latency sera la latence réseau/TLS/de connexion.
2. Nous avons récemment lancé le type de noeud final 'régional' qui est une option pour les cas d'utilisation où le client se trouve dans la même région AWS que l'API elle-même. Cela devrait rapprocher votre latence de ce que vous obtenez lorsque vous appelez Lambda directement.
3. Latence généralement améliorer avec le volume
4. Lambda lui-même toujours en tête, et ils ne pas exposer la surcharge côté serveur (contrairement à la passerelle API). Le duration exposé par Lambda est uniquement la durée de la fonction pour laquelle vous êtes facturé. Il n'indique pas la latence totale.