inflearn logo
강의

Course

Instructor

Kafka Complete Guide - Core

Overview of Topic, Partition, and Kafka Parallel Distributed Processing

Kafka 초기 Partition 개수 설정 관련 질문

80

doitdoit

2 asked

0

좋은 강의를 제공해주셔서 감사합니다.

Kafka를 처음 설정할 때 Partition 개수를 1개로 두고 추후 확장하는 방식이 일반적인가요?
아니면 초기에 적절한 Partition 개수를 여유롭게 미리 설정하는 것이 좋을까요?
또한, 이러한 설정은 멀티 노드 Kafka 클러스터 구성 여부에 따라 달라질 수 있는지도 궁금합니다.

kafka 데이터-엔지니어링

Answer 2

1

dooleyz3525

안녕하십니까,

Kafka는 어느 정도의 대용량 처리를 염두에 두고 만들어진 메시징 시스템입니다.

초기 트래픽이 많지 않더라도 추후를 감안하여 파티션 갯수를 1개로 시작하는 것 보다는 3개 정도로 정하시는게 더 나은 선택일 수 있습니다. 나중에 파티션 갯수 늘리는게 더 번거로운 작업이므로 여유롭게 구성하시는 게 좋습니다.

멀티 노드 클러스터는 성능적으로 여러개의 파티션으로 구성하는 경우에 더 적절합니다. 물론 멀티 노드 클러스터에서 1개 파티션 토픽은 장애 분산의 장점(가용성 향상)을 가지고 있지만, 성능적으로 파티션의 갯수가 많이 필요할 때 1개 서버에서 감당할 수 없어, 여러개의 서버로 파티션을 나눠서 담당해야 하는 경우에 좀 더 많이 활용됩니다.

 

감사합니다.

 

0

communityai8509

안녕하세요, 인프런 AI 인턴입니다. 고잉님.

Kafka 초기 설정에서 파티션 개수를 정하는 것은 시스템의 규모와 데이터 처리 요구 사항에 따라 중요한 결정이 될 수 있습니다.

초기 Partition 설정에 대한 조언:

  1. 초기 설정:

    • 작은 규모로 시작: 시작 단계에서 파티션을 1개로 설정하는 것은 관리가 용이하지만, 시스템이 확장됨에 따라 데이터 처리의 병목이 될 수 있습니다. 따라서, 초기 설정에서 충분한 파티션을 여유롭게 설정하는 것이 좋습니다.
    • 미리 확장 고려: 초기 단계부터 파티션을 여유롭게 설정하면, 추후 데이터 수요 증가에 대비하여 유연하게 대처할 수 있습니다.
  2. 멀티 노드 Kafka 클러스터:

    • 계획적 설정: 멀티 노드 환경에서는 각 브로커의 역할을 고려하여 파티션 개수를 설정해야 합니다. 브로커 수보다 파티션 수가 많을 때, 부하 분산 효과가 극대화될 수 있습니다.
    • 장애 복구 및 부하 분산: 파티션을 적절히 나누면 장애 복구 능력이 향상되고, 브로커 간 부하를 분산할 수 있습니다.

관련 내용을 깊게 이해하는 데 도움이 되는 아래의 유사 질문들을 참조하시기 바랍니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

virtual box 설치 문제

0

56

2

카프카 서버 구축 관련 문의

0

56

2

카프카 토픽 Key 타입 변경에 관한 질문

0

63

2

Zookeeper에서 KRaft

0

74

1

카프카 학습과 관련하여 질문 드립니다

0

92

2

파티션 증가시 비용 증가 고려

0

66

2

VM 과 도커의 차이

0

134

2

vm 어댑터설정 문의

0

73

2

Cooperative Sticky Rebalancing 질문

0

55

2

consumer 설정 질문

0

64

2

consumer.poll 질문입니다.

1

66

2

mainThread.join() 관련 질문

0

53

2

문의

0

149

2

멀티 브로커 설정 중 포트 충돌 발생

0

116

2

Consumer Group 강의 Lag 질문있습니다!

0

104

2

강의 설명 및 코드 정리

0

170

2

실습 코드는 어디서 받나요.. 아무리 찾아도 엄네요..

0

144

1

java.nio.BufferUnderflowException 에러 발생합니다..

0

152

3

KafkaTimeoutError:

0

155

2

acks 1 이면 비동기가 아니지 않나요?!

0

182

2

Producer의 메시지 비동기화 전송 구현 강좌 내용 중 질문

0

102

2

자문자답: 데이터 누락된다고 하시는 분 참고하세요.

0

209

2

자문자답: kafka Error connecting to node utuntu-20.myguest.virtualbox.org:9092

0

193

2

sudo systemctl status sshd

0

213

2