Consumer Lag 이 Partition당 1개씩 계속 남아있습니다.
327
작성한 질문수 1
안녕하세요. 원영님 ~!
카프카 클러스터에 컨슈머 그룹을 구성해서 토픽을 구독하도록 구성했습니다.
consumer 설정은 아래와 같습니다.
consumer:
configuration:
session:
timeout:
ms: 10000 # 10초동안 하트비트 안오면 그룹에서 제외
heartbeat:
interval:
ms: 3000 # 3초마다 하트비트 전송
request:
timeout:
ms: 2147483647 # Integer.MAX_VALUE -> 무조건 끝까지 처리
max:
poll:
records: 1000 # 한번에 500개씩
interval:
ms: 2147483647 # Integer.MAX_VALUE -> 무조건 끝까지 처리consumer lag은 "Producer가 쓴 offset 최신값"과 "Consumer가 읽은 offset의 값"의 차이로 정의되는것으로 알고 있는데요.
그런데 일부 토픽에서 처리는 정상적으로 되고있는데 Kafka manager를 통해서 확인해보면(아래 캡쳐 참조) 1개의 Lag이 계속 유지되고 있어서, 해당 Lag이 계속 남아있는게 누락되는 레코드들이 있는건지, 아니면 일반적인 현상인지 문의 드립니다.

감사합니다.
답변 1
0
안녕하세요!
1이 남는 이유는 다각도로 찾아보셔야 할것 같은데요.
- 커밋 이슈
- 카프카 매니저 이슈
둘 중 하나일 것 같습니다. 정확히 원인을 찾기 위해서는 kafka-consumer-groups.sh 쉘스크립트 사용 + 컨슈머 커밋 로그를 보시는 것이 좋을것 같네요.
카프카 ISR 개념 부분 질문
0
484
1
카프카 커넥터를 두가지 사용하는 이유
0
903
1
브로커, 토픽, 파티션관계
0
679
1
커넥트(소스), 커넥트(싱크)
1
538
1
카프카 isr 질문 있어요
0
332
1
파티션 질문 있어요
0
390
1
명령어 관련 문의드립니다.
0
427
2
토픽의 레코드가 라운드로빈으로 배정되는 방식 질문있습니다.
0
427
2
레코드에 json 형태의 데이터 넣는법 질문
0
431
2
카프카 도커로 실행
1
442
1
CCDAK 질문입니다!
0
1351
1
스트림즈 조인에 관련해서 질문드립니다.
0
303
1
min.insync.replicas에서 설정값만큼의 브로커 다운시
0
256
1
브로커로 메시지를 보낼때 null값인 경우
0
466
1
zookeeper 실행시 에러
1
784
1
온프레미스 환경 설치에 대해 질문있습니다.
0
352
1
리밸런싱 시, 메시지 중복 처리 문제
0
1063
1
강사님, Idempotence / transaction의 차이가 궁금합니다.
0
372
1
브로커 장애 발생시 질문
0
335
1
에러 핸들링과 관련하여 질문 드립니다
0
313
1
토픽 생성시 파티션이 배치되는 방법
0
356
1
질문있습니다!
0
138
1
카프카 스트림즈 에러 핸들링 질문 드립니다
0
397
1
카프카 클러스터 질문이 있습니다.
0
183
1





