API 게이트웨이 질문있습니다 !

Question

안녕하세요. 좋은 강의를 만들어주신 덕분에 잘 수강하고 있습니다. 10-3 강의를 듣던중, API 게이트웨이 관련해서 문의를 드리고 싶습니다. API게이트웨이가 제 생각으론 L7 레벨에서 라우팅되는 것으로 이해 하였는데요, 이렇게 되면 일반적으로 레이턴시는 크지 않은지 궁금합니다! 극단적으로 예를 들어서 만약 레이턴시가 높다면, EKS를 사용할 때 API 게이트웨이 -> (EKS의) alb -> virtual service -> endpoint 이런식으로 L7 레벨의 라우팅이 두번이나 거치는 상황일때 비효율적일 것 같은 생각도 들고, 레이턴시가 높지 않을까? 급 궁금증이 생겨 질문을 드리게되었습니다. API 게이트웨이의 레이턴시는 통상적으로 어떤 편인지 알 수 있을까요???

Sungmin Kim · Answer

안녕하세요. API Gateway와 EKS를 사용해서 마이크로서비스를 구현하는 경우가 요즘 흔하죠? 다음 그림은 AWS공홈에서 퍼온건데요. EKS클러스터를 만들때 노드의 타입을 정의하고 각각의 어플리케이션에서 ELB를 정의하구요. VPC링크를 만들고 API 엔드포인트를 만들어서 라우팅 설정을 해주고 있습니다. 그림에서 보면 딱히 Latency에는 문제가 없는 것으로 보여요. 어떻게 파이프라인을 구현해야 하는지가 제일 중요한거 같아요. API Gateway Latency는 어떤 상황에서 사용되어지는지에 따라 천차만별인데요. Latency를 확인하는 좋은 방법은 CloudWatch를 통해서 입니다. Latency 와 IntegrationLatency Metrics들을 참고해보세요. 특히 많은 유저들이 API Gateway와 Lambda를 같이 사용할때 Latency문제가 생겼다고 하더라구요. 그래서 저는 Lambda대신 다른 옵션을 찾아보는 중입니다. 아니면 Lambda로 어떻게 Latency를 해결할지 고민중이에요^^