Kafka 초기 Partition 개수 설정 관련 질문
80
2 asked
좋은 강의를 제공해주셔서 감사합니다.
Kafka를 처음 설정할 때 Partition 개수를 1개로 두고 추후 확장하는 방식이 일반적인가요?
아니면 초기에 적절한 Partition 개수를 여유롭게 미리 설정하는 것이 좋을까요?
또한, 이러한 설정은 멀티 노드 Kafka 클러스터 구성 여부에 따라 달라질 수 있는지도 궁금합니다.
Answer 2
1
안녕하십니까,
Kafka는 어느 정도의 대용량 처리를 염두에 두고 만들어진 메시징 시스템입니다.
초기 트래픽이 많지 않더라도 추후를 감안하여 파티션 갯수를 1개로 시작하는 것 보다는 3개 정도로 정하시는게 더 나은 선택일 수 있습니다. 나중에 파티션 갯수 늘리는게 더 번거로운 작업이므로 여유롭게 구성하시는 게 좋습니다.
멀티 노드 클러스터는 성능적으로 여러개의 파티션으로 구성하는 경우에 더 적절합니다. 물론 멀티 노드 클러스터에서 1개 파티션 토픽은 장애 분산의 장점(가용성 향상)을 가지고 있지만, 성능적으로 파티션의 갯수가 많이 필요할 때 1개 서버에서 감당할 수 없어, 여러개의 서버로 파티션을 나눠서 담당해야 하는 경우에 좀 더 많이 활용됩니다.
감사합니다.
0
안녕하세요, 인프런 AI 인턴입니다. 고잉님.
Kafka 초기 설정에서 파티션 개수를 정하는 것은 시스템의 규모와 데이터 처리 요구 사항에 따라 중요한 결정이 될 수 있습니다.
초기 Partition 설정에 대한 조언:
초기 설정:
- 작은 규모로 시작: 시작 단계에서 파티션을 1개로 설정하는 것은 관리가 용이하지만, 시스템이 확장됨에 따라 데이터 처리의 병목이 될 수 있습니다. 따라서, 초기 설정에서 충분한 파티션을 여유롭게 설정하는 것이 좋습니다.
- 미리 확장 고려: 초기 단계부터 파티션을 여유롭게 설정하면, 추후 데이터 수요 증가에 대비하여 유연하게 대처할 수 있습니다.
- 작은 규모로 시작: 시작 단계에서 파티션을 1개로 설정하는 것은 관리가 용이하지만, 시스템이 확장됨에 따라 데이터 처리의 병목이 될 수 있습니다. 따라서, 초기 설정에서 충분한 파티션을 여유롭게 설정하는 것이 좋습니다.
멀티 노드 Kafka 클러스터:
- 계획적 설정: 멀티 노드 환경에서는 각 브로커의 역할을 고려하여 파티션 개수를 설정해야 합니다. 브로커 수보다 파티션 수가 많을 때, 부하 분산 효과가 극대화될 수 있습니다.
- 장애 복구 및 부하 분산: 파티션을 적절히 나누면 장애 복구 능력이 향상되고, 브로커 간 부하를 분산할 수 있습니다.
- 계획적 설정: 멀티 노드 환경에서는 각 브로커의 역할을 고려하여 파티션 개수를 설정해야 합니다. 브로커 수보다 파티션 수가 많을 때, 부하 분산 효과가 극대화될 수 있습니다.
관련 내용을 깊게 이해하는 데 도움이 되는 아래의 유사 질문들을 참조하시기 바랍니다:
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
virtual box 설치 문제
0
55
2
카프카 서버 구축 관련 문의
0
56
2
카프카 토픽 Key 타입 변경에 관한 질문
0
63
2
Zookeeper에서 KRaft
0
74
1
카프카 학습과 관련하여 질문 드립니다
0
92
2
파티션 증가시 비용 증가 고려
0
66
2
VM 과 도커의 차이
0
134
2
vm 어댑터설정 문의
0
73
2
Cooperative Sticky Rebalancing 질문
0
55
2
consumer 설정 질문
0
64
2
consumer.poll 질문입니다.
1
66
2
mainThread.join() 관련 질문
0
53
2
문의
0
149
2
멀티 브로커 설정 중 포트 충돌 발생
0
116
2
Consumer Group 강의 Lag 질문있습니다!
0
104
2
강의 설명 및 코드 정리
0
170
2
실습 코드는 어디서 받나요.. 아무리 찾아도 엄네요..
0
144
1
java.nio.BufferUnderflowException 에러 발생합니다..
0
152
3
KafkaTimeoutError:
0
155
2
acks 1 이면 비동기가 아니지 않나요?!
0
182
2
Producer의 메시지 비동기화 전송 구현 강좌 내용 중 질문
0
102
2
자문자답: 데이터 누락된다고 하시는 분 참고하세요.
0
209
2
자문자답: kafka Error connecting to node utuntu-20.myguest.virtualbox.org:9092
0
193
2
sudo systemctl status sshd
0
213
2

