inflearn logo
강의

Course

Instructor

Kafka Complete Guide - Core

Practice sending messages with multiple partitions

여러 개의 파티션을 가지는 메시지 전송 실습 / 질문

304

dohyunlim

67 asked

0

안녕하세요 선생님

실습에서 multipart-topic으로 key 없이 전송을 했는데 모조리 partition2로 가는데 어떤 설정을 살펴보면 될까요?

kafka는 confluent 7.6으로 실습하고 있습니다.

key값을 준 경우에는 강의 실습과 동일하게 진행되었습니다.

kafka 데이터-엔지니어링

Answer 2

0

dohyunlim

https://docs.confluent.io/platform/current/installation/configuration/producer-configs.html#partitioner-class
요고를 참고해서 추가 설정했더니 sticky하게 동작하지 않게 되었네요
image

0

dooleyz3525

해결이 되었다니, 다행입니다.

보다 효율적인 강의 수강을 위해서는 실습 환경과 버전을 맞추시면 더 좋을 것 같습니다.

감사합니다.

0

dooleyz3525

안녕하십니까,

지금 Producer 만드신 소스 코드가 무엇인지는 모르겠지만, key값이 없는 메시지가 특정 partition으로만 전송된다면 Producer에서 Custom Partitioning을 구현해서 특정 partition으로만 전송하게 되어 있는 것으로 보입니다.

producer 소스코드를 먼저 확인해 보시고, 섹션 3. Java 기반 Producer 구현 실습 및 Producer 내부 메커니즘 이해 - 02
의 맨 마지막 강의 영상들이 Custom Partitioner 구현하기 이오니 강의 참조 해보셨으면 합니다.

 

감사합니다.

0

dohyunlim

image

제가 강의 그대로 따라하고 있는 중이라서 (버전은 다르지만) custom partitioning을 하지 않은 것 같습니다. (카프카를 첨 배우는 중입니다)

구글링 해보니 기본은 partitioner가 해쉬를 통해 분배한다고 하는데

제가 살펴볼 다른 설정 같은 것은 없을까요?

 

0

dooleyz3525

버전 차이인지 확실하지는 않지만. 강의 실습 영상대로 결과가 나오려면 실습 버전을 맞춰 주셔야 합니다. 실습 버전대로 다시 설치하시고 결과 업데이트 부탁드립니다

virtual box 설치 문제

0

56

2

카프카 서버 구축 관련 문의

0

57

2

카프카 토픽 Key 타입 변경에 관한 질문

0

65

2

Zookeeper에서 KRaft

0

75

1

카프카 학습과 관련하여 질문 드립니다

0

92

2

파티션 증가시 비용 증가 고려

0

66

2

Kafka 초기 Partition 개수 설정 관련 질문

0

80

2

VM 과 도커의 차이

0

134

2

vm 어댑터설정 문의

0

73

2

Cooperative Sticky Rebalancing 질문

0

55

2

consumer 설정 질문

0

64

2

consumer.poll 질문입니다.

1

66

2

mainThread.join() 관련 질문

0

54

2

문의

0

149

2

멀티 브로커 설정 중 포트 충돌 발생

0

117

2

Consumer Group 강의 Lag 질문있습니다!

0

104

2

강의 설명 및 코드 정리

0

171

2

실습 코드는 어디서 받나요.. 아무리 찾아도 엄네요..

0

145

1

java.nio.BufferUnderflowException 에러 발생합니다..

0

152

3

KafkaTimeoutError:

0

155

2

acks 1 이면 비동기가 아니지 않나요?!

0

182

2

Producer의 메시지 비동기화 전송 구현 강좌 내용 중 질문

0

102

2

자문자답: 데이터 누락된다고 하시는 분 참고하세요.

0

211

2

자문자답: kafka Error connecting to node utuntu-20.myguest.virtualbox.org:9092

0

193

2