커넥션이 왜 10개가 만들어지는 것인가요?

항상 친절한 답변 덕분에 도움이 많이 되고 있습니다.

질문이 하나 더 생겼는데 쓰레드 풀에서는 몇 천개를 생성하는데 커넥션 풀은 왜 적은 숫자로도 커버가 가능한 것인가요?

쓰레드 풀에서는 몇 천개를 생성하는데 커넥션 풀은 왜 적은 숫자로도 커버가 가능한 것인가요?

해당 질문은 요청이 많이 들어오는 웹 어플리케이션 서버에서 커넥션 풀을 10개 정도로 해도 감당이 가능할 지에 대해 질문 주신 것으로 이해했습니다. 답변은 프로젝트 성격이나 각종 상황에 따라 다를 수 있을 것 같습니다.

먼저 해당 링크(클릭)을 보시면 스프링 부트가 주로 사용하는 톰캣의 쓰레드 풀 에서 저장하는 쓰레드 수의 기본값은 200 정도라고 합니다. 그러면 기본적으로 쓰레드풀 200개, HikariCP의 커넥션 풀의 커넥션 수의 기본값은 10개 정도입니다.

이 기본값으로 사용자 몇천 명 혹은 만 단위까지도 감당할 수 있는 이유는 웹의 모든 사용자가 동시에 해당 웹으로 요청을 보내는 경우는 거의 없기 때문입니다. 다 같이 동시에 보내자고 약속하는 특수한 상황이 아니라면 사용자들 모두 동시에 요청을 보내는 경우는 흔하지 않습니다. 그러니 사용자보다 훨씬 적은 쓰레드 풀의 쓰레드 수와 커넥션 풀의 커넥션 수로도 감당할 수 있는 것입니다.

또한 요즘은 AWS, GCP, Azure 등 클라우드 서버를 많이 사용하게 되면서 스케일링 업하는 것이 예전보다 쉬워졌습니다. 그래서 요청이 폭증하거나 점점 더 많아지면 그냥 해당 서버 인스턴스를 하나 더 띄워버리면 서버 1개에서 받던 요청을 서버 2개에서 받아 부하를 분산할 수 있게 됩니다.

그래서 보통 200 : 10 정도로 기본값을 잡고 그 이상은 스케일링 업이나 테스트를 통해 적절하게 개수를 조정해준다는 점을 미리 말씀드립니다.

그래서 쓰레드 풀에 비해 커넥션 풀의 갯수가 적은 이유는 무엇이냐면 하는 역할이 다르기 때문입니다.

쓰레드풀은 기본적으로 동시 요청을 처리하기 위해 사용합니다. 쓰레드 풀의 크기가 많으면 많을 수록 더 많은 동시 요청을 처리할 수 있게 됩니다. 커넥션 풀은 데이터베이스 커넥션을 재사용하기 위해 사용합니다. 데이터베이스 연결에 드는 비용을 줄이기 위해서 사용하는 것입니다. 또한 DB 작업은 대부분 짧은 시간 안에 완료되기 때문에 커넥션 풀에서 여러 쓰레드가 동시에 연결하고 공유하는 것이 가능합니다.

요청 수에 DB 커넥션이 필요한 일이 비례할 수는 있으나 커넥션 풀의 본질적인 목적은 커넥션 비용을 줄이기 위함이라는 점에서 한 번 이해해보시면 좋겠습니다.