inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

15일간의 빅데이터 파일럿 프로젝트

5.탐색 파일럿 실행 3단계 - 데이터 탐색&처리 4

hue에서 파일 업로드가 정상적으로 되지 않습니다.

해결된 질문

493

고니

작성한 질문수 1

0

좋은 강의 만들어주셔서 감사합니다. 자세한 설명 덕분에 순조롭게 잘 따라가고 있습니다.
 
현재 hue에서 파일 업로드를 진행하고 있는데요, CarMaster는 정상적으로 올라가지만 buy list는 업로드가 되지 않습니다.
.
 
첫번째 상태로 유지되다가" undefined 성공적으로 업로드 되었다"라고 뜨고 실제로는 아무런 변화도 일어나지 않습니다.
 
에러 로그를 어디서 확인할 수 있는지 궁금합니다.
감사합니다
 
 

bigdata Hadoop Impala 데이터 엔지니어링 ZooKeeper redis Flume Kafka

답변 2

0

고니

내용을 삭제해서 용량을 10kb정도로 줄이니까 업로드가 됩니다. 

HDFS용량은 그래도 여유가 있는것 같고

호스트 용량도 괜찮아보입니다, 뭐가 문제인지 알 수 있는 방법이 있을까요?

0

Big.D

네~ HDFS의 퍼미션 or 여유공간 문제는 아닌것 같습니다.

실습PC 환경의 특성(브라우져/보안/백신 프로그램 등)을 타는것 같기도 한데요..

일반적으로 파일을 PC에서 서버로 업로드 될땐 파일이 쪼개져서 올라가는데, 큰파일의 경우 브라우져(Chrome)와 WebHDFS 간의 세션 연결 시간이 길어지면서 통신에 문제가 발생 하는것으로 보입니다.

우선 아래 HDFS 명령으로 해당 파일(사이즈 유지)을 직접 업로드해서 실습을 진행해봐 주세요~

1. CarItemBuyList_202003.txt 파일을 파일질라를 통해 Server02의 /home/pilot-pjt에 업로드

2. putty로 Server02에 접속해 아래 명령으로 해당 파일을 HDFS에 직접 업로드

$ hdfs dfs -put /home/pilot-pjt/CarItemBuyList_202003.txt  /pilot-pjt/collect/buy-list

 

추가로 아래 점검 명령을통해 HDFS에 문제 (“CORRUPT FILES”, “MISSING BLOCKS”, “MISSING SIZE”, “CORRUPT BLOCKS”)가 있는지, Safe 모드 인지등을 체크해 봐 주시고요..

$ hdfs fsck /

$ hdfs dfsadmin -report

참고로 로그는 HDFS에 업로드중 문제가 발생 했기 때문에 아래의 위치에 있는 네임노드 및 데이터노드의 로그를 확인해 보시면 됩니다.

/var/log/hadoop-hdfs 

- 빅디 드림

0

고니

친절한 답변 정말 감사합니다 :)

0

Big.D

안녕하세요! 고니님!

혹시 다른 경로에도 업로드 테스트 해봐주세요~

- 빅디 드림

0

고니

새로운 디렉토리에 올려봤는데도 마찬가지입니다,,car-master에는 CarMaster.txt가 정상적으로 올라와 있는데 이 경로에서도 똑같은 알림이 뜨면서 올라가지 않습니다.

주제영역3 데이타 조회 문의

0

57

2

환경 세팅 후 클라우데라매니저 삭제시

0

81

2

수강 기간 연장 부탁드립니다ㅠ

0

79

2

클라우데라 매니저 접속 불가 및 로그인 정보 문의

0

99

2

gcc 설치 에러

0

137

3

클러스터 설정 오류

0

107

2

클라우데라 클러스터 설치로 안넘어가짐

0

126

2

버추어박스 5.0 설치

0

155

2

워크플로우 예약 실행시 테이블은 생성되는데 데이터가 들어가지지 않습니다.

0

92

2

Hue 500 Error 어떻게 해결할 수 있나요?

0

162

3

환경세팅 질문있습니다.

0

114

2

버쥬얼박스

0

83

2

호스트 불량 문제에 관하여

0

113

2

하이브쿼리에서 에러가 나요...

0

184

3

하이브쿼리에서 에러

0

129

1

Hbase에 적재된 데이터 확인시 에러

0

159

2

파이썬 설치 시 에러

0

170

2

redis-cli 데이터 적재 확인

0

144

2

카프카 토픽 생성에서 에러

0

146

2

HDFS 명령어를 치는데 오류가 납니다

0

139

2

가상환경 내보내기

0

113

1

SpoolDIR 폴더로 옮기

0

113

2

cpu usage 에러

0

114

2

쿼리 실행시 10000 에러

0

129

2