inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

15일간의 빅데이터 파일럿 프로젝트

6.탐색 파일럿 실행 4단계 - 07.주제5-운전자의 차량용품 구매이력 정보

Subject-5 workflow 실행 에러

349

장혁

작성한 질문수 3

0

1. workflow5 실행 중 error 발생

[Worflow에서의 ERROR 내용]

2022-05-02 16:26:56,063 WARN org.apache.oozie.action.hadoop.Hive2ActionExecutor: SERVER[server02.hadoop.com] USER[admin] GROUP[-] TOKEN[] APP[subject5 Workflow] JOB[0000006-220502133436893-oozie-oozi-W] ACTION[0000006-220502133436893-oozie-oozi-W@hive-ab5e] Launcher ERROR, reason: Main Class [org.apache.oozie.action.hadoop.Hive2Main], exit code [2]

2022-05-02 16:26:56,081 INFO org.apache.oozie.command.wf.ActionEndXCommand: SERVER[server02.hadoop.com] USER[admin] GROUP[-] TOKEN[] APP[subject5 Workflow] JOB[0000006-220502133436893-oozie-oozi-W] ACTION[0000006-220502133436893-oozie-oozi-W@hive-ab5e] ERROR is considered as FAILED for SLA

hive-ab5e 이름의 파일 확인 시 워크플로 두 번째 스크립트 내용

insert overwrite table Managed_SmartCar_Item_BuyList_Info partition(biz_month)  

 

2. Hue에서 작업 섹션에 액세스 시 아래 오류가 발생

HTTPConnectionPool(host='server01.hadoop.com', port=19888): Max retries exceeded with url: /jobhistory/logs/server02.hadoop.com:8041/container_1651465951375_0035_01_000001/1/admin?doAs=admin (Caused by NewConnectionError(': Failed to establish a new connection: [Errno 111] Connection refused',))


 

다른 분의 ERROR 게시 글을 확인하였는데, 

언급해주신 내용은 아래와 같습니다.!

- HDFS 권한 검사 체크 해제 확인 (O)

- superuser group 추가(X)

내용: user 'admin' does not exist.

도움 주시면 감사하겠습니다.!!!!! 

error bigdata hadoop Hadoop Flume ZooKeeper 데이터 엔지니어링 redis Kafka Impala

답변 1

1

Big.D

안녕하세요! 장혁님!

주제영역.5의 workflow까지 문제 없이 진행 되었다면..권한문제는 아닌것으로 보입니다.

에러 내용으로 봤을땐, 하둡의 서버들과 연결 문제로 보이는데요..

위 상황에서 하둡 서버들의 상태를 체크해 보셔야 할 것 같습니다.

우선 CM Home에서 Cloudera Manager 서비스 모니터링이 정지 되어 있다면 시작해 주시고요,

CM Home에서 HDFS, YARN 의 상세로 각각 들어가셔서, 구성 서버들 (리소스메니져서버, 잡히스토리서버 등) 의 상태를  확인 부탁 드립니다.

- 빅디 드림

 

 

0

장혁

상태 확인 결과 YARN의 구성 서버들 (리소스메니져서버, 잡히스토리서버 등)에서 에러가 확인되어 재시작하여 문제 해결하였습니다.!

도움주셔서 감사합니다.!!

주제영역3 데이타 조회 문의

0

40

2

환경 세팅 후 클라우데라매니저 삭제시

0

64

2

수강 기간 연장 부탁드립니다ㅠ

0

60

2

클라우데라 매니저 접속 불가 및 로그인 정보 문의

0

87

2

gcc 설치 에러

0

117

3

클러스터 설정 오류

0

91

2

클라우데라 클러스터 설치로 안넘어가짐

0

119

2

버추어박스 5.0 설치

0

141

2

워크플로우 예약 실행시 테이블은 생성되는데 데이터가 들어가지지 않습니다.

0

79

2

Hue 500 Error 어떻게 해결할 수 있나요?

0

149

3

환경세팅 질문있습니다.

0

107

2

버쥬얼박스

0

76

2

호스트 불량 문제에 관하여

0

110

2

하이브쿼리에서 에러가 나요...

0

169

3

하이브쿼리에서 에러

0

120

1

Hbase에 적재된 데이터 확인시 에러

0

147

2

파이썬 설치 시 에러

0

159

2

redis-cli 데이터 적재 확인

0

143

2

카프카 토픽 생성에서 에러

0

139

2

HDFS 명령어를 치는데 오류가 납니다

0

135

2

가상환경 내보내기

0

109

1

SpoolDIR 폴더로 옮기

0

104

2

cpu usage 에러

0

114

2

쿼리 실행시 10000 에러

0

122

2