부하 테스트 시 설정 관련 질문드립니다

Question

강의에서는 부하 테스트 시 시나리오 작성을 아래와 같이 5000 rps 정도로 부하를 가했을 때와, 1000 rps 수정해서 부하를 가했을 때의 latency(p50, 90, 99) 차이가 있는데, 실무에서는 보통 어떤 기준을 가지고 rps 를 정하는지 궁금합니다! scenarios: { burst: { ... rate: 5000, timeUnit: '1s', duration: '30s', // 1000 req/s × 30s = 총 30,000 요청 }, },

한조각 · Answer

안녕하세요 드루와라잇님! 실무에서는 RPS를 임의로 정하기보다, 평소 최대 트래픽과 이벤트 때 예상되는 요청량을 기준으로 잡아요. 예를 들어, 쿠폰이벤트 오픈 직 후, 1만 명 유저가 10초 정도 안에 몰릴 것으로 예상한다면, 우선 1,000 RPS를 기준으로 테스트할 수 있습니다. 보통은 예상치 하나만 테스트하지 않고 1,000, 2,000, 5,000 RPS처럼 부하를 단계적으로 높여봅니다. (예상 트래픽보다 좀 더 버퍼를 두어서 넉넉하게 테스트하면 좋으니까요) 그러면서 응답 시간과 오류율이 갑자기 증가하는 지점을 찾고, 예상 최대 트래픽에 재시도 처리 등을 고려한 여유까지 확보했는지 확인합니다. 따라서 강의의 1,000 RPS와 5,000 RPS는 각각 예상 부하와 트래픽 급증 상황을 비교하기 위한 조건으로 참고해주시면 될 것 같습니다. 좋은 질문 감사드립니다.