Spark Programs 구조에서 막혔습니다.
60
작성자 없음
投稿した質問数 0

강의를 잘 따라가던 도중에 4040 웹에 접속했는데 저렇게 떴는데 뭐가 문제일까요?
回答 2
0
안녕하세요.
일단 spark01 서버의 4040 포트로 잘 실행된것 같은데 웹이 접속이 안되는군요.
아무래도 public-nat 쪽 설정을 봐야할 것 같은데 인프런 Q&A로 파악하기로는 좀 어려울 것 같아서 디스코드 채널 가입이 가능하신가요?
여기에 오셔서 말씀주시면 설정하신 부분 같이 좀 봐야할 것 같아요.
0
public-nat의 인스턴스를 t2.micro 말고 t3.micro로 해놨는데 이게 문제가 됐을까요? 성능 차이라 별 상관은 없을 거 같은데 그거 말고는 천천히 들으면서 강의 내용에 맞게 따라갔습니다.
0
아 네 이미 말씀 주셨군요.
잘 해결되어서 다행입니다 ^^ 강의가 인프라 설정 부분이 좀 많아서 트러블 슈팅이 쉽지 않을 수 있어요. 언제든 디스코드 방에 질문 주시면 제가 답변드릴께요. (업무시간 중에는 못볼 수 있습니다)
화이팅입니다!
0
안녕하세요, 인프런 AI 인턴입니다.
zxyoii님, Spark 사용 중 4040 포트로 접속 시 “502 Bad Gateway” 오류가 발생하고 있는 상황이시네요. 이는 주로 서버 측 설정 문제나 통신 문제에서 기인할 수 있습니다. 여기에 대한 기본적인 문제 해결 방법을 안내해 드리겠습니다.
502 Bad Gateway 오류의 일반적인 원인과 해결책:
Spark 서비스 상태 확인:
- Spark 애플리케이션이 제대로 실행 중인지 확인해야 합니다. 터미널에서
spark-shell이나pyspark를 실행하여 Spark의 상태를 점검합니다.
- Spark 애플리케이션이 제대로 실행 중인지 확인해야 합니다. 터미널에서
네트워크 및 포트 상태 점검:
- Spark가 기본적으로 사용하는 포트인 4040이 방화벽이나 네트워크 설정에 의해 막혀 있는지 확인합니다. 로컬 방화벽 설정이나 클라우드 보안 그룹 설정을 체크하세요.
- Spark가 기본적으로 사용하는 포트인 4040이 방화벽이나 네트워크 설정에 의해 막혀 있는지 확인합니다. 로컬 방화벽 설정이나 클라우드 보안 그룹 설정을 체크하세요.
Proxy 설정 점검:
- 웹 브라우저와 Spark Master 사이의 프록시가 올바르게 설정되지 않아 발생할 수 있습니다. 프록시 설정을 점검하고, 필요시 직접 Spark Master에 접근할 수 있도록 설정을 변경합니다.
- 웹 브라우저와 Spark Master 사이의 프록시가 올바르게 설정되지 않아 발생할 수 있습니다. 프록시 설정을 점검하고, 필요시 직접 Spark Master에 접근할 수 있도록 설정을 변경합니다.
로그 확인:
- 관련 서버와 애플리케이션의 로그를 확인합니다.
/logs디렉토리나 Spark UI에서 오류 원인에 대한 힌트를 얻을 수 있는 로그를 찾을 수 있습니다.
- 관련 서버와 애플리케이션의 로그를 확인합니다.
추천드리는 추가 자료로는 다음의 유사한 문제에서의 해결 방법을 참고하시면 좋겠습니다:
- AWS에서의 Spark 설정 및 문제 해결
이미지에서 보시는 것처럼 PySpark가 제대로 초기화된 것이라면, 주로 브라우저와의 연결 문제일 가능성이 높습니다. 이상 조치들을 적용하신 후에도 문제가 지속된다면, 추가적인 정보나 로그를 제공해 주시면 더 구체적인 도움을 드릴 수 있습니다.
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
파이참 25.3.4 버전에서 한폴더에 두개 프로젝트 생성하는 방법은?
0
26
2
consumer가 모든 파티션을 읽지 않는 이슈가 있습니다
0
79
3
람다 아키텍처에서 speed layer 관련 질문드립니다
0
54
1
아키텍처 관련 질문
0
66
1
code deploy 배포에러
0
72
4
/homework/ch10_3/dataframe_cache.py 과제 질문
0
69
2
ch4_3 apache zookeeper 설치파일 관련 질문
0
83
3
질문있습니다 섹션13. Spark streaming 부분
0
65
2
ot 자료
0
65
2
git action - code deploy단계
0
94
2
IDE - Pycharm / VSCode
0
86
1
UI For Apache Kafka 설치하기
0
127
2
kafka broker prompt 변경 확인
0
76
2
디스코드 만료
0
68
2
Zookeeper 설치 오류
1
81
3
github 레파지토리 생성 및 연결 관련 질문드립니다!
0
55
2
git action실행 안됨
0
162
1
터미널에서 NAT 인스턴스로 직접 로그인 안됨
0
65
1
AWS EC2 생성하기 2분55초 부분
0
57
2
git action에서 install_codedeploy-agent.yml
0
53
2
consumer 실행 오류 질문: connect ip 관련
0
95
2
kafka-broker01 ping 반응 없습니다.
0
74
3
github actions 오류 문의 드립니다.
0
74
2
github Actions 실행 강의 따라가는도중 막혔습니다.
0
79
2

