inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[아파치 카프카 애플리케이션 프로그래밍] 개념부터 컨슈머, 프로듀서, 커넥트, 스트림즈까지!

kafka-connect-web관련 문의드립니다.

628

장종인

작성한 질문수 1

0

안녕하세요
강의중 Kafka-connect-web에 대해 말씀하셔서 실습차 아래와 같은 구성으로 세팅후 확인중 에러가 있어 문의드립니다.

 

환경설정

zookeeper, Kafka, Kafka Connect 서버 : 10.0.3.16, 10.0.3.17, 10.0.3.18

Kafka-connect-web 서버 : 10.0.1.9

 

Kafka-connect-web은 위의 서버에 도커 컨테이너로 생성하였고
생성명령어는 아래와 같이 했습니다.

 

docker run -d -p 8080:8080 --name kafka-connect-web -e "VUE_APP_CONNECT_SERVERS=http://10.0.3.16:8083,http://10.0.3.17:8083,http://10.0.3.18:8083" officialkakao/kafka-connect-web:latest

 

문제 내용

container 안에서 curl 10.0.3.16:8083/connector-plugins로 확인시 값을 받아와서 네트워크 문제는 없는것 같은데 Kafka-connect-web에서 Connector class 값을 받을려고 실행하는 axios가 timeout이 나고,

container 안에서 tcpdump를 떠도 패킷이 보이지 않습니다.

Kafka-connect-web에 추가적인 설정이 필요한지 문의드립니다.

curl.pngaxios.png

kafka 데이터-엔지니어링

답변 3

0

데브원영 DVWY

안녕하세요!

kafka-connect-web은 사용자의 브라우저단에서 직접 connect 서버로 8083 포트를 통해 통신을 하게 됩니다. 그러므로 kafka-connect-web이 정상적으로 실행되지 않을 경우에는 해당 브라우저를 실행한 pc에서 connect endpoint로 직접 명령어를 날려보시면 해결하는데 도움이 됩니다!

0

장종인

아...kafka-connect-web에서 보내는 요청이 웹에 접속한 pc에서 요청이 나가는거 확인하고 해결했습니다. 감사합니다.

1

데브원영 DVWY

잘 해결되었다니 다행입니다!

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다.

사용자님이 제시한 문제 상황에 대해 답변드리겠습니다.

Kafka-connect-web에서 Connector class 값을 받으려 할 때 axios 요청이 timeout 나는 문제는 여러 가지 원인으로 발생할 수 있습니다. 네트워크 설정, Kafka Connect 서버의 설정, Docker 컨테이너 내부 네트워크와 관련하여 문제가 있을 수 있기 때문에 아래 사항들을 검토해보시는 것을 권장드립니다.

  1. Kafka Connect의 REST API 엔드포인트(http://10.0.3.16:8083/connector-plugins)가 외부로부터 접근 가능한지 확인해주세요.
  2. Kafka Connect 서버의 보안 그룹이나 방화벽 규칙에 의해 요청이 차단되고 있지 않은지 확인해주세요.
  3. Docker 컨테이너의 네트워크 구성이 올바르게 되어있는지 검토해보세요. 컨테이너가 Kafka Connect 서버와 같은 네트워크 내에 있거나 네트워크 통신이 가능해야 합니다.
  4. 도커 컨테이너 실행 시, 환경 변수 VUE_APP_CONNECT_SERVERS의 형식과 값을 다시 한 번 확인해보세요. 올바른 형식으로 각 Kafka Connect 서버의 IP와 포트번호가 명시되어야 합니다.
  5. Kafka Connect 웹 인터페이스의 로깅 레벨을 변경하여 좀 더 상세한 로그를 통해 문제를 진단할 수 있습니다.

위 이미지들을 기반으로 볼 때, curl을 통해 Kafka Connect REST API가 정상적으로 응답하고 있음을 볼 수 있습니다. 그러나 axios 요청은 특정 이유로 인해 네트워크 전송 자체가 이루어지지 않고 있을 수 있으므로, 해당 부분에 대한 추가적인 로깅이나 네트워크 트러블슈팅을 진행하는 것이 도움이 될 것입니다.

추가적인 내용이나 설정값 확인이 필요하다면, Kafka Connect에 대한 공식 문서나 관련 커뮤니티를 참고하는 것도 좋은 방법입니다. Kafka Connect와 관련된 Spring Boot의 설정 방법은 다음 문서에서도 확인하실 수 있습니다: Spring Boot Reference Documentation - Apache Kafka Support.

도움이 더 필요하시다면, 추가적인 질문을 주시면 감사하겠습니다.

consume 이후 lag가 줄어들지 않음

0

74

2

안녕하세요. 강의의 카프카 버전과 현재 시점의 카프카의 차이점 문의 드립니다.

0

112

2

멱등성 프로듀서 retries 관련 질문입니다.

0

97

2

채팅 서비스 개발 시 주의점이 있을까요?

0

98

2

충분히 큰 파티션 생성시 궁금증이 존재합니다.

0

86

2

KTable 키가 없는 레코드 처리

0

72

2

컨슈머 테스트 코드 작성

0

94

2

리밸런스 onPartitionRevoked이 필요한 상황

0

74

2

카프카 클러스터에서 감당 가능한 파티션(레플리카) 수 문의

0

119

2

reset offset 질문

0

77

2

KStreamJoinKTable 실행시 오류

0

78

2

auto.commit.interval.ms 옵션 관련 질문 드립니다.

0

141

2

파티션, 컨슈머 그룹, 컨슈머 관련 질문

0

117

1

java, kotlin

0

130

2

shutdownThread 에 대한 문의 입니다.

0

153

2

zookeeper실행시 오류가 발생합니다.

0

268

2

커스텀 소스 커넥터에서 Thread.sleep (1000) 은 왜 하는거에요?

0

152

2

처리량을 늘리기 위해서 파티션을 늘리고 컨슈머를 늘려야한다고 설명하셨는데요

0

180

3

파티션 개수와 컨슈머 개수의 처리량 관련 질문

0

163

2

동영상 및 이미지 처리 관련 문의 드립니다.

0

225

2

주키퍼 없이 사용 문의 드립니다.

0

302

1

kafka 를 띄우니 오류가 발생하고 종료합니다.

0

280

3

zookeeper 실행시 오류 .. 무엇을 해야 할까요?

0

220

2

파티션 추가로 해결할 수 있지만 늘어난 파티션은 줄일 수 없지 않나요?

0

192

2