inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[아파치 카프카 애플리케이션 프로그래밍] 개념부터 컨슈머, 프로듀서, 커넥트, 스트림즈까지!

Consumer Lag 이 Partition당 1개씩 계속 남아있습니다.

327

Teasun Kim

작성한 질문수 1

0

안녕하세요. 원영님 ~!

카프카 클러스터에 컨슈머 그룹을 구성해서 토픽을 구독하도록 구성했습니다.
consumer 설정은 아래와 같습니다.

consumer:
  configuration:
    session:
      timeout:
        ms: 10000 # 10초동안 하트비트 안오면 그룹에서 제외
    heartbeat:
      interval:
        ms: 3000 # 3초마다 하트비트 전송
    request:
      timeout:
        ms: 2147483647 # Integer.MAX_VALUE -> 무조건 끝까지 처리
    max:
      poll:
        records: 1000 # 한번에 500개씩
        interval:
          ms: 2147483647 # Integer.MAX_VALUE -> 무조건 끝까지 처리

consumer lag은 "Producer가 쓴 offset 최신값"과 "Consumer가 읽은 offset의 값"의 차이로 정의되는것으로 알고 있는데요.

그런데 일부 토픽에서 처리는 정상적으로 되고있는데 Kafka manager를 통해서 확인해보면(아래 캡쳐 참조) 1개의 Lag이 계속 유지되고 있어서, 해당 Lag이 계속 남아있는게 누락되는 레코드들이 있는건지, 아니면 일반적인 현상인지 문의 드립니다.

감사합니다.

Kafka 데이터 엔지니어링

답변 1

0

데브원영 DVWY

안녕하세요!

1이 남는 이유는 다각도로 찾아보셔야 할것 같은데요.
- 커밋 이슈
- 카프카 매니저 이슈

둘 중 하나일 것 같습니다. 정확히 원인을 찾기 위해서는 kafka-consumer-groups.sh 쉘스크립트 사용 + 컨슈머 커밋 로그를 보시는 것이 좋을것 같네요.

카프카 ISR 개념 부분 질문

0

484

1

카프카 커넥터를 두가지 사용하는 이유

0

903

1

브로커, 토픽, 파티션관계

0

679

1

커넥트(소스), 커넥트(싱크)

1

538

1

카프카 isr 질문 있어요

0

332

1

파티션 질문 있어요

0

390

1

명령어 관련 문의드립니다.

0

427

2

토픽의 레코드가 라운드로빈으로 배정되는 방식 질문있습니다.

0

427

2

레코드에 json 형태의 데이터 넣는법 질문

0

431

2

카프카 도커로 실행

1

442

1

CCDAK 질문입니다!

0

1351

1

스트림즈 조인에 관련해서 질문드립니다.

0

303

1

min.insync.replicas에서 설정값만큼의 브로커 다운시

0

256

1

브로커로 메시지를 보낼때 null값인 경우

0

466

1

zookeeper 실행시 에러

1

784

1

온프레미스 환경 설치에 대해 질문있습니다.

0

352

1

리밸런싱 시, 메시지 중복 처리 문제

0

1063

1

강사님, Idempotence / transaction의 차이가 궁금합니다.

0

372

1

브로커 장애 발생시 질문

0

335

1

에러 핸들링과 관련하여 질문 드립니다

0

313

1

토픽 생성시 파티션이 배치되는 방법

0

356

1

질문있습니다!

0

138

1

카프카 스트림즈 에러 핸들링 질문 드립니다

0

397

1

카프카 클러스터 질문이 있습니다.

0

183

1