작성
·
127
0
안녕하세요 ! 선생님! 주말 잘 보내셨나요?? :)
설치 오류로 많은 질문을 남겼던 학생입니다!! 귀찮으셨을텐데 .ㅠㅠ 죄송합니다.
선생님의 조언 덕분에 하둡 설치에 성공하였고 남은 강의를 열심히 듣는중입니다
조언 너무 감사합니다!!
강의를 듣던중 궁금한 부분들이 있습니다.
1.hadoop fs vs hdfs dfs 에 대해 다른 점이 궁금합니다.
인터넷에 검색해보니 하둡 2버전으로 오면서 hadoop fs 에서 hdfs dfs로 바뀐것이라고 하는 데 맞는 설명인가요? ?
2.xml파일이 문제가 되는 지 알기 위하여 이 명령어를 쓴다고 하셨는데
hadoop fs -lsr output1
그부분이 여기서 어떤 부분인가요??
lsr은 하둡에 올라가 있는 폴더/파일 체계를 모두 출력이라고 알고있습니다.
3.cat 명령어는 파일을 읽어서 보여주는 명령어라고 알고있습니다
현재 xml 화일이 존재한다면 데이터 복제는 성공하였고, 남은 과제는 xml 내부에 있는 컨텐츠가 동일한지 하둡의 fs 쉘 명령어인 cat을 실행시켜 확인하는 일만 남았습니다.
:~/hadoop$ hadoop fs -cat /user/etc/xml/distcptest/target/neuavenue.xml
이 부분에서 보면 출력된 부분을 보고 컨텐츠가 동일한지 자신이 판단하는 것이죠 ?
답변 1
0
안녕하세요. 지민님
네.. 주말 잘 보냈습니다. 저희 가족은 Elim Lodge Road, Curve Lake, ON으로 다녀왔습니다. 토론토 서쪽에 있는 피진 호수(Pigeon Lake)에서 2박 3일 캠프를 다녀왔죠.
하둡 설치가 되었다니 다행입니다. 가장 어려운 관문을 통과 했으니 나머지는 잘 따라 오실 거라 생각됩니다.
1. fs vs dfs 다른 점
hadoop fs <args>
hdfs dfs <args>
물론 다르다고 생각되지 않습니다. 결과는 아주 다르다면 다르죠.. 그러나 차이점은 분명 있습니다. 구차이 나누자면 hadoop fs 명령어는 hdfs, local file system (로컬 파일 시스템), web hdfs 와 같은 서로 다른 파일 시스템 위에 포함되어 사용할 수 있습니다. 그러나 dfs는 오직 분산환경 파일 시스템에서만 사용가능하죠. 하둡에서만 hdfs dfs 명령어를 사용하게 됩니다. 그렇지만 서로 사용법은 매우 유사합니다. 분산파일을 위한 명령어이기에 동일한 <args> 아규먼트를 사용한다면 머 구별되지 않겠죠?
오히려 차이점이 있는 아규먼트는 하둡을 사용하면서 로컬 파일 시스템에서 혹은 웹 hdfs (web hdfs)에서 사용할 명령어만 있다면 그것이 바로 차이점이겠죠?
2. -ls vs -lsr
-ls 명령어 : 하둡 분산 파일 시스템(HDFS)에서만 사용하는 것이죠. 여기서 주의점은 리눅스의 명령어와 하둡 명령어가 매우 유사하다는 점을 보신다면 hadoop -ls 명령어는 하둡에서 사용가능하고, ls 명령어는 리눅스 명령어이라는 점을 분명 나누어야 하겠죠?
-lsr 명령어: lsr (리눅스에서 사용하는 작은 수 부터 나열하는) 명령어와 동일하게 하둡에서도 hadoop -lsr 명령어를 사용할 수 있습니다. 분명 하둡은 리눅스 명령어를 사용하도록 처음부터 계산된 플랫폼입니다. 폴더와 파일을 모두 출력하는 디스플레이 역할을 도와주고 있는 것 역시 하둡과 리눅스 동일한 방법으로 나아갑니다. 그리하여 하둡 강의 시간에 만든 xml 파일을 디스플레이하여 문제가 없는 지 확인 하는 작업을 한 것 뿐이죠.. 그저 -lsr 명령어가 xml 파일이 문제가 있는지 확인하는 명령어는 아닙니다. 혼돈이 있는 듯 하네요.. 이제 이해하셨죠?
3. cat 명령어
cat 명령어는 리눅스 명령어와 같은 기능을 합니다. 파일의 내용을 디스플레이하는 역할이죠... cat 으로 출력물을 확인하여 컨텐츠가 잘 들어 있는지 확인하는 작업에서 그 명령어를 단지 사용하는 것이죠. cat 명령어 자체를 사용하여 컨텐츠가 동일한지 확인한다는 것은 아니죠.. 강의하는 제 자신이 그렇게 판단하는 것이죠..
리눅스 명령어와 동일하게 cat 으로 가지고 파일 내용을 열어본 것입니다.
이제 질문에 흔들림이 없겠죠?
하둡 전문가로 우뚝 서길 기대합니다.
토론토에서 빌리 올림
답변 감사합니다!!