인프런 커뮤니티 질문&답변

화이팅님의 프로필 이미지
화이팅

작성한 질문수

[아파치 카프카 애플리케이션 프로그래밍] 개념부터 컨슈머, 프로듀서, 커넥트, 스트림즈까지!

컨슈머 랙 강의 질문이 있습니다.

작성

·

187

0

설날 추석을 예를 들어 설명을 해주셨는데요.

트래픽이 늘어날 경우 일시적으로 파티션 개수와 컨슈머 개수를 늘린다는 의미가 와닿지 않습니다.

파티션 개수는 늘릴 순 있지만, 줄일 수 없다고 강의를 통해 이해했습니다.

그럼 일시적인게 아니라 한번 늘리면 끝인게 아닌가 싶어서요.

그래서, 처음 파티션 개수를 설정할 때 넉넉하게 50~100개를 설정하면 이와 같은 이슈는 거의 발생하지 않고, 혹시라도 발생할 경우 더 많은 파티션 개수를 늘려야하지 않을까 싶습니다.

근데 특정 날에만 트래픽이 몰리는건데 파티션 개수를 많이 늘려놓으면, 트래픽이 적을 때는 아무 상관이 없을까요?

리밸런싱이 안생기면 좋겠지만, 리밸런싱이 실행되면 그 시간이 증가할거라 예상됩니다.

답변 1

0

데브원영 DVWY님의 프로필 이미지
데브원영 DVWY
지식공유자

데이터 처리량 차이로 인해 컨슈머랙이 발생할 경우 파티션 개수를 늘리고 컨슈머 개수를 늘림으로서 해결이 가능합니다. 당연하게도 파티션 개수를 늘리면 줄일 수 없기 때문에 신중히 결정하셔야 합니다. 운영하시는 환경에서 컨슈머랙이 절대로 발생하면 안되는 것인지? 컨슈머랙이 발생하더라도 비즈니스에 이슈가 없는지 파악해야 합니다. 만약 일정 수준의 컨슈머랙이 허용되는 환경이라면 파티션 개수와 컨슈머 개수를 늘릴 필요가 없기 때문입니다.

만약 컨슈머랙이 허용되지 않고 지연을 줄여야만 한다면 파티션 개수와 컨슈머 개수를 늘려야 하겠죠. 말씀하신 대로 파티션 개수를 처음부터 50~100개로 넉넉하게 잡는거도 나쁘지는 않습니다만, 클러스터의 총 파티션 개수가 늘어나면 그만큼 브로커당 부하가 늘어나고 리밸런싱 시간이 길어지기 때문에 주의하셔야 합니다.

파티션개수가 많은 상태로 운영하면서 트래픽이 적은 것은 문제가 되지 않습니다

화이팅님의 프로필 이미지
화이팅
질문자

좋은 답변 감사합니다!

화이팅님의 프로필 이미지
화이팅

작성한 질문수

질문하기