인프런 커뮤니티 질문&답변

안녕하세요. 원영님 ~!

카프카 클러스터에 컨슈머 그룹을 구성해서 토픽을 구독하도록 구성했습니다.
consumer 설정은 아래와 같습니다.

consumer:
  configuration:
    session:
      timeout:
        ms: 10000 # 10초동안 하트비트 안오면 그룹에서 제외
    heartbeat:
      interval:
        ms: 3000 # 3초마다 하트비트 전송
    request:
      timeout:
        ms: 2147483647 # Integer.MAX_VALUE -> 무조건 끝까지 처리
    max:
      poll:
        records: 1000 # 한번에 500개씩
        interval:
          ms: 2147483647 # Integer.MAX_VALUE -> 무조건 끝까지 처리

consumer lag은 "Producer가 쓴 offset 최신값"과 "Consumer가 읽은 offset의 값"의 차이로 정의되는것으로 알고 있는데요.

그런데 일부 토픽에서 처리는 정상적으로 되고있는데 Kafka manager를 통해서 확인해보면(아래 캡쳐 참조) 1개의 Lag이 계속 유지되고 있어서, 해당 Lag이 계속 남아있는게 누락되는 레코드들이 있는건지, 아니면 일반적인 현상인지 문의 드립니다.

감사합니다.