inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

15일간의 빅데이터 파일럿 프로젝트

kafka spout 에러 질문드립니다

해결된 질문

361

ehgusdl67

작성한 질문수 1

1

kafka spout 에러가 발생합니다

주키퍼 노드가 없다는 내용인것 같은데, 해결방법을 모르겠습니다 ㅠㅠ

bigdata Hadoop 데이터 엔지니어링 Flume Impala redis Kafka ZooKeeper

답변 1

0

Big.D

안녕하세요! 빅디입니다.

카프카에 쌓여 있는 데이터를 스톰의 스파우트가 읽어들일때 발생 하는 문제 입니다.
스파우트는 어디까지 데이터를 읽어 들였는지, 그 기록(Offsets)을 주키퍼의 znode에 기록 하는데요,
그 위치가 /SmartCar-Topic/416bc567-c759-4855-8f48-308f3dc54db4 입니다.

불안전한 파일럿 환경의 특성으로 Offset 정보가 꼬이는 경우가 있습니다. 이때는..
카프카에 쌓여 있는 데이터를 삭제하거나, Znode의 오프셋 정보를 삭제 하는 방법이 있는데요,

우선 Znode의 오프셋 정보를 아래 절차에 따라 삭제해 해결 할 수 있습니다.

1. Server02에 Putty로 접속 및 주키퍼 클라이언트 실행:
$ zookeeper-client

2. Znode 삭제하는 아래 명령 연속 실행:
[zk: localhost:2181(CONNECTED 1] : delete /SmartCar-Topic/416bc567-c759-4855-8f48-308f3dc54db4/partition_0

[zk: localhost:2181(CONNECTED 1] : delete /SmartCar-Topic/416bc567-c759-4855-8f48-308f3dc54db4

위 명령후 카프카, 스톰 서버를 리스타트 합니다. 

- 빅디 올림

주제영역3 데이타 조회 문의

0

30

2

환경 세팅 후 클라우데라매니저 삭제시

0

60

2

수강 기간 연장 부탁드립니다ㅠ

0

55

2

클라우데라 매니저 접속 불가 및 로그인 정보 문의

0

81

2

gcc 설치 에러

0

111

3

클러스터 설정 오류

0

83

2

클라우데라 클러스터 설치로 안넘어가짐

0

115

2

버추어박스 5.0 설치

0

135

2

워크플로우 예약 실행시 테이블은 생성되는데 데이터가 들어가지지 않습니다.

0

75

2

Hue 500 Error 어떻게 해결할 수 있나요?

0

145

3

환경세팅 질문있습니다.

0

102

2

버쥬얼박스

0

70

2

호스트 불량 문제에 관하여

0

104

2

하이브쿼리에서 에러가 나요...

0

163

3

하이브쿼리에서 에러

0

114

1

Hbase에 적재된 데이터 확인시 에러

0

145

2

파이썬 설치 시 에러

0

155

2

redis-cli 데이터 적재 확인

0

137

2

카프카 토픽 생성에서 에러

0

134

2

HDFS 명령어를 치는데 오류가 납니다

0

127

2

가상환경 내보내기

0

103

1

SpoolDIR 폴더로 옮기

0

96

2

cpu usage 에러

0

108

2

쿼리 실행시 10000 에러

0

116

2