inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

카프카 완벽 가이드 - 커넥트(Connect) 편

Connect Task 질문

187

K0tlin

작성한 질문수 1

0

안녕하세요

 

우선 좋은 강의 감사드립니다.

다름이 아니라 강의에서 Connect Task 가 thread 로 작동한다고 말씀하신 부분을

한 Worker process 내에서 여러 개의 thread(task) 로 병렬 처리를 할 수 있다 라고 이해했습니다.

 

그럼 혹시 여러 Task 가 동시에 접근할 수 있는 변수를 선언해서 사용할 수 있을까요?

race_condition 같은 문제를 해결하기 위해 mutex 를 사용할 것 같긴 한데 이러한 구현이 가능한 지 궁금합니다.

 

감사합니다

kafka 데이터-엔지니어링

답변 1

0

권 철민

안녕하십니까,

많은 connector들이 있고, connector별로 특성이 있기 때문에 구현까지는 어떻게 했는지 저도 잘 모르겠습니다.

thread 기반으로 동작은 하지만 동시에 접근할 수 있는 변수를 선언한다든지는 connector 별로 내부 코드를 확인해 봐야 합니다. 하지만 connector의 특성상 충돌을 방지하기 위해서 서로 공유하는 변수들은 없을것 같고, 있어도 최소일 것 같습니다.

 

감사합니다.

 

0

K0tlin

감사합니다.

 

별개로 혹시 각각 connector 에서의 log 혹은 stdout 을 볼 수 있는 방법은 connect log 를 방법 밖에 없을까요?

0

권 철민

네, connector 로그는 강의에서 처럼 log를 보는 방법외에는 알고 있지 못합니다.

다만 log의 레벨을 조절할 수는 있습니다. 이건 설명이 좀 길어서

https://docs.confluent.io/platform/current/connect/logging.html

참조하시면 중간 쯤에 Change Log Levels 단락이 있는데 여기를 참조해 보시면 좋을 것 같습니다.

감사합니다.

계속 csv파일을 폴더로 인식하는 중입니다.

0

68

2

cdc failover

0

70

2

avro plugin에 안보이는거 같아요

0

70

2

zookeeper가 실행이 안되요

0

76

3

Debezium CDC Source Connector 이벤트 메시지

0

86

2

재 질문! 다른 connector가 동일 토픽 사용

0

66

2

메시지 발행이 안 됩니다.

0

77

2

디비지움 오프셋 리셋

0

96

2

mysql_jdbc_oc_sink_customers_02.json 에서 오류납니다.

0

70

3

io.debezium.connector.mysql.MySqlConnector 질문

0

67

2

Debezium 이벤트 메시지 발행 시 성공여부

0

82

2

connect 구동 오류

0

98

3

CDC Connect 통시에서의 암호화 관련 하여 문의 드립니다.

0

121

2

GCSSinkconnector

0

66

1

debezium source connector에서 `poll.interval.ms` 파라미터

0

144

2

자문자답: JDBC Sink Connector가 PostgreSQL의 Schema를 바라보지 않습니다.

0

213

1

table.name.format에 관하여..

0

196

2

binlog와 offset 관련 추가 질문드립니다

0

150

1

Debezium cdc source for MSSQL-Server [등록오류]

0

192

2

http http://localhost:8083/connector-plugins 시 플러그인이 보이지 않습니다.

0

190

2

안녕하세요 sink connector 생성 config 관련 질문입니다.

0

165

2

수강환경 VirtualBox -> Docker

0

229

2

일반적인 예시들이 궁금해서 질문 남깁니다.

1

148

2

debezium connector schema 찾지 못하는 오류

0

435

2