강의

멘토링

커뮤니티

인프런 커뮤니티 질문&답변

K MJ님의 프로필 이미지
K MJ

작성한 질문수

15일간의 빅데이터 파일럿 프로젝트

CM 접속 지연

작성

·

215

0

안녕하세요 강의 잘 듣고 있습니다.
질문이 있습니다.
 
Cloudera Manager 를 실행해서 실습을 진행 중에 있습니다.
서버를 키자마자는 3분 정도 후에 CM이 바로 실행이 되는데
어떤 경우에는 실습 진행 중에 1시간이 넘어야 CM 창이 실행되고 어떤 경우에는 바로 켜지는 등 실행 속도에 차이가 있습니다.
어떤 경우에는 클러스터 내의 모든 구성요소(Flume, Kafka 등)을 다 켜도 바로 켜지는 경우도 있고, 또 다른 경우에는 수집, 적재 등 몇 가지 구성요소가 꺼져있어도 1시간 이상 소요되서 켜지는 경우도 있습니다.(새로고침, 다시 실행 등 여러 번 수행)
 
이런 문제들로 실습을 원활하게 진행하지 못하고 시간이 많이 소요되고 있습니다.
 
이런 경우에 원인은 무엇이며 해결 방법은 어떤 것이 있을까요?
단순히 Memory의 문제인가요?
 
ps)
CPU는 i7-8550U
RAM은 16GB 입니다.
남은 C드라이브 용량은 20GB 정도입니다.

답변 1

1

Big.D님의 프로필 이미지
Big.D
지식공유자

안녕하세요! 빅디 입니다.

파일럿 프로젝트를 진행 할수록 아키텍처가 복잡해지고 다양한 테스트가 진행 되면서, 실습 환경에 따라 다양한 현상과 문제들이 발생 합니다. 

KMJ 님의 경우 CM기동에 30분이 걸리는건 아주 비정상적인 상황이긴 합니다. TT

그렇게 장시간 CM이 올라오지 않을땐 우선 로그를 확인해 봐야할 듯 싶은데요..

Server01에 접속하고 아래 경로에 CM의 로그가 있습니다.

/var/log/cloudera-scm-server

참고로 30분 넘도록 파일럿 환경에 문제가 있는 경우는, 버츄얼박스의 가상성버 Server01/02가 일시정지 되어 있는 경우도 있으니 꼭 확인해 보시고요.

- 빅디 드림

K MJ님의 프로필 이미지
K MJ
질문자

우선 가상서버 일시정지 문제는 아닙니다. ㅠ

service cloudera-scm-server status 는 항상 running 상태입니다. 

 

ERROR agentServer-1792:com.cloudera.server.common.AgentAvroServlet: Error processing Avro request

javax.servlet.ServletException: Timedout waiting for heartbeat to be processed

 

INFO JvmPauseMonitor:com.cloudera.enterprise.debug.JvmPauseMonitor: Detected pause in JVM or host machine (e.g. a stop the world GC, or JVM not scheduled): paused approximately 1655ms: no GCs detected.

 

ERROR scm-web-583:org.springframework.security.web.authentication.UsernamePasswordAuthenticationFilter: An internal error occurred while trying to authenticate the user.

 

등의 문제인데 워낙 에러가 많아 파악하기가 어렵네요..

다시 시작해보고 싶은데 혹시, cloudera cluster를 끄지 않고 서버를 종료하면 어떤 문제가 발생할까요?

 

 

 

 

 

Big.D님의 프로필 이미지
Big.D
지식공유자

네..먼저 작동중인 클러스터를 강제 종료 하면, 하둡파일 시스템에 영향을 줄수 있습니다. 완전 분산형 구조가 아니기 때문에 파일이 깨지기도 하고 세이프 모드로 전환되기도 합니다.

가상 VM도 강제 종료된 직전 상황을 복구하려 하기 때문에 클러스터에 많은 서비스가 떠있는 상태로 종료되면 가상서버 시작에도 영향을 주게 됩니다.

- 빅디 드림

K MJ님의 프로필 이미지
K MJ
질문자

네 답변 감사합니다. 로그 분석해서 고쳐보겠습니다.

K MJ님의 프로필 이미지
K MJ

작성한 질문수

질문하기