[백엔드 모의면접] Graceful Shutdown은 어떻게 할까?
안녕하세요.
인프랩에서 모의면접 서비스를 개발/운영하고 있는 약풍이라고 해요.
일요일에도 인프런에 들어오시는 여러분들이 멋집니다.
...오늘도 백엔드 면접질문을 드려보도록 하겠습니다 💪
오늘의 백엔드 질문
서버를 여러 대를 롤링 배포한다면, 종료할 서버가 처리 중인 요청은 어떻게 보호하시겠어요?
배포 파이프라인을 구성해 봤다면 이어질 수 있는 질문이에요.
새 서버가 정상적으로 떠 있어도, 기존 서버를 바로 종료하면 처리 중이던 요청은 끊길 수 있어요.
다른 서버가 살아 있다는 것만으로 그 요청까지 이어서 처리되지는 않거든요.
이 질문은 배포 방식과 요청의 생명주기를 연결해, 종료 순서와 대기 시간을 설계할 수 있는지 보는 질문이에요.
답변 키포인트
- 새 서버가 요청을 처리할 준비가 됐는지 확인하는지
- 종료할 서버로 새 요청이 들어오지 않도록 라우팅을 바꾸는지
- 라우팅 변경이 반영되는 동안 들어오는 요청을 어떻게 다룰지
- 처리 중인 요청을 마칠 시간을 애플리케이션에 주는지
- 종료 제한 시간을 넘긴 요청과 긴 작업을 어떻게 복구할지
한 대씩 교체만으로는 부족한 이유
"서버를 한 대씩 교체합니다"라는 답변은 서비스 용량을 유지하는 데 도움이 돼요.
다만 종료할 서버에서 이미 처리하던 요청의 완료까지 보장하지는 않아요.
새 요청의 유입을 줄이는 것과 기존 요청이 끝날 때까지 기다리는 것을 함께 설계해야 해요.
면접에서는
면접에서는 "새 요청을 받을 서버를 부트스트랩하고, 기존 서버에게 graceful shutdown할 시간을 확보하겠습니다"로 시작하면 좋아요.
그다음에는 아래 순서로 이어서 설명하면 돼요.
- 로드밸런서의 라우팅 제외가 반영될 시간을 고려해 종료 절차를 잡는다.
- graceful shutdown으로 새 요청 수락을 멈추고, 처리 중인 요청을 제한 시간 동안 기다린다.
종료 유예 시간과 대기 시간
컨테이너 환경에서 서비스를 운영하는 경우, 애플리케이션이 기다리는 도중 컨테이너가 강제 종료되지 않도록 종료 유예 시간도 맞춰야 해요.
Kubernetes에서는 preStop 실행 시간도 이 유예 시간에 포함돼요.
대기 시간을 늘리면 안전하게 요청을 처리할 가능성은 높아지지만, 배포가 늦어질 수 있어요.
수분짜리 작업이라면 작업 상태를 저장하고 재개하는 설계를 별도로 검토한다고 답변하면 좋아요.
꼬리질문
다음의 꼬리질문도 생각해보세요.
- 새 서버가 부트스트랩 중인 것과 요청을 받을 준비가 된 것은 어떻게 구분하시겠어요?
- graceful shutdown의 대기 시간은 어떤 기준으로 정하시겠어요?
- 컨테이너의 종료 유예 시간이 애플리케이션의 대기 시간보다 짧으면 어떻게 되나요?
- WebSocket처럼 오래 유지되는 연결은 배포할 때 어떻게 처리하시겠어요?
AI 모의면접으로
나의 면접 스킬을 체크해보세요
프론트엔드,백엔드,FDE 기술면접부터 문화면접까지,
개발자 면접 준비를 실전처럼 연습해 보세요.
댓글 0
댓글을 작성해보세요.