inflearn logo
강의

講義

知識共有

カフカパーフェクトガイド - コネクト編

connect 구동 오류

97

ddoddo

投稿した質問数 115

0

안녕하세요.

강의에서 실습을 종료할 때는 첫 구동 순서의 반대로 순서로 종료를 하라고 말씀을 하셨는데

그러지 못했습니다...ㅠㅠ

 

이후 zookeeper, kafka, connect 순으로 구동을 하려고 했지만 아래와 같은 오류가 connect구동단계에서 떴습니다.

[2025-06-30 19:42:13,440] INFO [AdminClient clientId=adminclient-8] Retrying to fetch metadata. (org.apache.kafka.clients.admin.KafkaAdminClient:3177)

위 구문이 무한반복으로 로그에 뜨게 되는데요.

~/data/kafka-logs/meta.properties

을 지웠다가 kafka 구동부터 다시 시작을 시도해 봐도 여전히 connect구동을 위 에러로 진행할 수 없었습니다.

 

해결방법이 무엇인지 궁금합니다.

kafka 데이터-엔지니어링

回答 3

1

dooleyz3525

안녕하십니까,

오, 해결하셨군요.

적어주신대로 Kafka를 재 초기화 하시면 실습 하실 때 문제는 없어질 것 입니다. 좀 더 자세한 내용은 섹션 4의 49. <중요 - 스킵하지 마세요> Kafka 실습 환경 전체 초기화 하기 를 참조해 주시면 됩니다.

그리고 Retrying to fetch metadata 오류는 Connect에서 Kafka Broker 에 제대로 접속하지 못해서 발생하는 오류인데, 워낙 다양한 원인이 있어서 해결방법은 뭐라 제시하기가 어렵군요.

bootstrap 설정, Network 연결등에 문제가 없을 경우에 Connect 초기화 먼저 시도해 보는 것도 방법일 수 있습니다. 좀 더 자세한 해결 방법은 zookeeper, kafka broker, connect의 log file들을 더 분석해 보고서 알아볼 수 있을 것 같지만, 기본적으로는 Connect Client가 Kafka Topic에 access할 때 발생하는 문제입니다. Connect 초기화로 안되면 해당 Connector가 access하는 Kafka Topic에 대해서 초기화가 필요할 수 있습니다.

감사합니다.

0

ddoddo

rm -rf ~/data/kafka-logs

통으로 날려버리고 kafka를 재시작 한 뒤 connect를 구동하니 잘 동작했습니다.

운영에서는 절대로 하지 말아야할 조치같은데 다른 방법이 있는지 궁금합니다...

0

communityai8509

안녕하세요, 인프런 AI 인턴입니다. 창신동 장첸님.

Kafka 구동 시 발생한 “Retrying to fetch metadata” 오류는 주로 Kafka 브로커나 Zookeeper와의 연결 문제에서 발생할 수 있습니다. 다음은 이 문제를 해결하기 위한 몇 가지 점검 사항입니다.

  1. Kafka 브로커 상태 확인: Kafka가 정상적으로 실행 중인지 확인하세요. kafka-server-start.sh로 Kafka를 실행시키고, 로그에 오류가 있는지 확인해 보세요.

  2. Zookeeper 상태 확인: Zookeeper가 정상적으로 실행 중인지 확인하세요. 연결이 문제라면, Zookeeper 로그에서 문제가 되는 부분이 없는지 확인해 보세요.

  3. Kafka Connect 설정 확인: Connect 설정 파일(보통 connect-distributed.properties)에서 bootstrap.servers 설정이 올바른지 확인합니다. 올바른 Kafka 브로커 주소를 가리키고 있는지 검토하세요.

  4. 네트워크 연결 확인: Kafka 클러스터와의 네트워크 연결에 문제가 없는지 확인하세요. 방화벽 설정이나 네트워크 장애가 발생하지 않았는지 점검합니다.

  5. 재설치 시도: 앞서 시도하신 대로 meta.properties를 지우고 Kafka 로그를 초기화한 후, Zookeeper, Kafka, Connect 순으로 정확하게 실행해 보세요.

아래 링크의 질문과 답변이 유사한 상황에서 해결에 도움을 줄 수 있습니다:

각 링크를 통해 자세한 해결 과정을 참고해 보시길 권장드립니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

계속 csv파일을 폴더로 인식하는 중입니다.

0

65

2

cdc failover

0

69

2

avro plugin에 안보이는거 같아요

0

68

2

zookeeper가 실행이 안되요

0

73

3

Debezium CDC Source Connector 이벤트 메시지

0

82

2

재 질문! 다른 connector가 동일 토픽 사용

0

63

2

메시지 발행이 안 됩니다.

0

75

2

디비지움 오프셋 리셋

0

94

2

mysql_jdbc_oc_sink_customers_02.json 에서 오류납니다.

0

69

3

io.debezium.connector.mysql.MySqlConnector 질문

0

67

2

Debezium 이벤트 메시지 발행 시 성공여부

0

80

2

CDC Connect 통시에서의 암호화 관련 하여 문의 드립니다.

0

121

2

GCSSinkconnector

0

64

1

debezium source connector에서 `poll.interval.ms` 파라미터

0

142

2

자문자답: JDBC Sink Connector가 PostgreSQL의 Schema를 바라보지 않습니다.

0

212

1

table.name.format에 관하여..

0

196

2

binlog와 offset 관련 추가 질문드립니다

0

149

1

Debezium cdc source for MSSQL-Server [등록오류]

0

190

2

http http://localhost:8083/connector-plugins 시 플러그인이 보이지 않습니다.

0

187

2

안녕하세요 sink connector 생성 config 관련 질문입니다.

0

159

2

수강환경 VirtualBox -> Docker

0

223

2

일반적인 예시들이 궁금해서 질문 남깁니다.

1

145

2

debezium connector schema 찾지 못하는 오류

0

426

2

offset 커밋 관련 질문

0

159

1