inflearn logo
강의

講義

知識共有

Kafka & Spark を活用したリアルタイムデータレイク

Sparkアプリのデプロイ

Spark Programs 구조에서 막혔습니다.

60

작성자 없음

投稿した質問数 0

0

스크린샷 2025-08-17 오후 4.19.42.png.webp

강의를 잘 따라가던 도중에 4040 웹에 접속했는데 저렇게 떴는데 뭐가 문제일까요?

kafka apache-spark pyspark data-lake

回答 2

0

hyunjinkim

안녕하세요.

일단 spark01 서버의 4040 포트로 잘 실행된것 같은데 웹이 접속이 안되는군요.

아무래도 public-nat 쪽 설정을 봐야할 것 같은데 인프런 Q&A로 파악하기로는 좀 어려울 것 같아서 디스코드 채널 가입이 가능하신가요?

https://discord.gg/weYQWzcq

 

여기에 오셔서 말씀주시면 설정하신 부분 같이 좀 봐야할 것 같아요.

 

0

zxyoii

넵, 디스코드 채널에도 메세지를 보내놨었습니다!

0

zxyoii

public-nat의 인스턴스를 t2.micro 말고 t3.micro로 해놨는데 이게 문제가 됐을까요? 성능 차이라 별 상관은 없을 거 같은데 그거 말고는 천천히 들으면서 강의 내용에 맞게 따라갔습니다.

0

hyunjinkim

아 네 이미 말씀 주셨군요.

잘 해결되어서 다행입니다 ^^ 강의가 인프라 설정 부분이 좀 많아서 트러블 슈팅이 쉽지 않을 수 있어요. 언제든 디스코드 방에 질문 주시면 제가 답변드릴께요. (업무시간 중에는 못볼 수 있습니다)
화이팅입니다!

0

communityai8509

안녕하세요, 인프런 AI 인턴입니다.

zxyoii님, Spark 사용 중 4040 포트로 접속 시 “502 Bad Gateway” 오류가 발생하고 있는 상황이시네요. 이는 주로 서버 측 설정 문제나 통신 문제에서 기인할 수 있습니다. 여기에 대한 기본적인 문제 해결 방법을 안내해 드리겠습니다.

502 Bad Gateway 오류의 일반적인 원인과 해결책:

  1. Spark 서비스 상태 확인:

    • Spark 애플리케이션이 제대로 실행 중인지 확인해야 합니다. 터미널에서 spark-shell이나 pyspark를 실행하여 Spark의 상태를 점검합니다.
  2. 네트워크 및 포트 상태 점검:

    • Spark가 기본적으로 사용하는 포트인 4040이 방화벽이나 네트워크 설정에 의해 막혀 있는지 확인합니다. 로컬 방화벽 설정이나 클라우드 보안 그룹 설정을 체크하세요.
  3. Proxy 설정 점검:

    • 웹 브라우저와 Spark Master 사이의 프록시가 올바르게 설정되지 않아 발생할 수 있습니다. 프록시 설정을 점검하고, 필요시 직접 Spark Master에 접근할 수 있도록 설정을 변경합니다.
  4. 로그 확인:

    • 관련 서버와 애플리케이션의 로그를 확인합니다. /logs 디렉토리나 Spark UI에서 오류 원인에 대한 힌트를 얻을 수 있는 로그를 찾을 수 있습니다.

추천드리는 추가 자료로는 다음의 유사한 문제에서의 해결 방법을 참고하시면 좋겠습니다:
- AWS에서의 Spark 설정 및 문제 해결

이미지에서 보시는 것처럼 PySpark가 제대로 초기화된 것이라면, 주로 브라우저와의 연결 문제일 가능성이 높습니다. 이상 조치들을 적용하신 후에도 문제가 지속된다면, 추가적인 정보나 로그를 제공해 주시면 더 구체적인 도움을 드릴 수 있습니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

파이참 25.3.4 버전에서 한폴더에 두개 프로젝트 생성하는 방법은?

0

26

2

consumer가 모든 파티션을 읽지 않는 이슈가 있습니다

0

79

3

람다 아키텍처에서 speed layer 관련 질문드립니다

0

54

1

아키텍처 관련 질문

0

66

1

code deploy 배포에러

0

72

4

/homework/ch10_3/dataframe_cache.py 과제 질문

0

69

2

ch4_3 apache zookeeper 설치파일 관련 질문

0

83

3

질문있습니다 섹션13. Spark streaming 부분

0

65

2

ot 자료

0

65

2

git action - code deploy단계

0

94

2

IDE - Pycharm / VSCode

0

86

1

UI For Apache Kafka 설치하기

0

127

2

kafka broker prompt 변경 확인

0

76

2

디스코드 만료

0

68

2

Zookeeper 설치 오류

1

81

3

github 레파지토리 생성 및 연결 관련 질문드립니다!

0

55

2

git action실행 안됨

0

162

1

터미널에서 NAT 인스턴스로 직접 로그인 안됨

0

65

1

AWS EC2 생성하기 2분55초 부분

0

57

2

git action에서 install_codedeploy-agent.yml

0

53

2

consumer 실행 오류 질문: connect ip 관련

0

95

2

kafka-broker01 ping 반응 없습니다.

0

74

3

github actions 오류 문의 드립니다.

0

74

2

github Actions 실행 강의 따라가는도중 막혔습니다.

0

79

2