강의

멘토링

커뮤니티

인프런 커뮤니티 질문&답변

Idea님의 프로필 이미지
Idea

작성한 질문수

15일간의 빅데이터 파일럿 프로젝트

HDFS Under-Replicated Blocks 문제...

작성

·

534

0

안녕하세요!
Hive와 우지를 설치하는 과정에서 HDFS의 구성에 문제가 발생함이 확인되어 질문드립니다 ㅜㅜ
아래와 같이 "Under-Replicated Blocks" 문제가 발생한 경우에는 어떻게 대처를 하면 될까요...?

답변 1

0

Big.D님의 프로필 이미지
Big.D
지식공유자

안녕하세요! 빅디 입니다.

복제계수 미달은, 불안정한 파일럿 환경에서 자주 발생합니다. TT

참고로 데이터 노드가 수대 이상인 경우엔 복제 미달이 발생해도, HDFS가 자동으로 복제계수를 맞춰 줍니다.

하지만 파일럿 환경에선 데이터 노드가 1대~ 3대 여서, 강의중 HDFS 설치/구성에서 복제계수는 1개 또는 2개로 재설정 하게 됩니다. (5.빅데이터 클러스터 구성 3 - DataNode 추가 및 환경설정)

- 저사양 : 복제계수 1 

- 고사양 : 복제계수 2

참고로 디폴트는 3 입니다.

만약 김형욱님의 HDFS가 고사양 이었고, 복제 계수를 2로 설정 하셨다면 아래 명령으로 조치가 가능 합니다.

$ hadoop fs -setrep 2  /

ps. 중요한건 하둡이 왜? 파일을 복제 하는지가 더 중요합니다. 관련해 "하둡 replication"로 구글링등을 통해 찾아 보시면 좋습니다.

- 빅디 드림

Idea님의 프로필 이미지
Idea
질문자

항상 친절하신 답변 감사드립니다 ㅜㅜ

말씀해주신대로 명령어를 입력하니 문제가 해결되었네요!

추가적으로 하둡 복제의 필요성에 대해서도 구글링을 통해 다시 한번 되짚어 보았습니다! ^^

Idea님의 프로필 이미지
Idea

작성한 질문수

질문하기