inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

Airflow 마스터 클래스

Bash Operator & 외부 쉘파일 수행하기

t1_orange 로그안찍힘

해결된 질문

99

edu2

작성한 질문수 7

0

실습내용 그대로 적용하여 진행하였는데, 정상적으로 dag는 실행되었는데 t1_orange의 로그값이 확인이 되지 않네요. t2_avocado는 로그가 정상적으로 확인이 되는데.. 어디를 놓치고 있는건지 모르겠어서요. 혹시 이유가 뭘까요

image.pngimage.png

 

python 데이터-엔지니어링 airflow

답변 2

0

김현진

edu2님

혹시 dag 여러번 수행해도 결과가 동일한가요?

log 파일은 로컬 환경의 $AIRFLOW_HOME/logs 디렉토리에 'dag_id=dags_bash_select_fruit' 아래에 스케줄별, attempt 별로 디렉토리가 구분돼있고 그 안에 실제 로그파일이 저장되어 있습니다. 그 위치에 실제 로그가 있는지 확인해보실래요?

0

edu2

답변 감사드립니다. 여러번 수행해도 결과가 똑같았고 airflow 실행화면에서도 task 성공만 확인되고 로그는 안보였으나, 말씀주신 로컬환경의 디렉토리에서 해당 로그파일 확인하였습니다! 왜 airflow 실행 화면에선 확인이 되지 않았던걸까요?

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. edu2님.

t1_orange의 로그가 확인되지 않는 상황이라면 몇 가지 점검해보면 좋을 사항이 있습니다:

  1. BashOperator의 bash_command 확인: t1_orange 태스크에서 사용된 BashOperator의 bash_command 인자에 올바른 경로와 스크립트가 설정되어 있는지 확인해주세요. 경로 오류나 스크립트 존재 여부 문제일 수 있습니다.

  2. DAG 및 태스크 설정: t2_avocado의 로그가 정상적으로 확인된다면, t1_orange와 t2_avocado의 설정을 비교해서 태스크 레벨의 차이가 있는지 확인해보세요. 예를 들어, t1_orange가 특정 설정(필요 권한 또는 환경 설정)에 의해 로그가 남지 않을 수 있습니다.

  3. Airflow 로그 디렉토리 확인: Airflow가 로그를 저장하는 기본 디렉토리를 확인해 보세요. 때때로 Airflow가 태스크의 로그를 저장할 위치에서 권한 문제로 인해 로그가 기록되지 않을 수 있습니다.

  4. log file 설정: 경우에 따라 Airflow의 로그 레벨 설정에 의해 로그가 남지 않을 수 있습니다. airflow.cfg 파일 또는 DAG 설정에 로그 레벨이 정상적으로 설정되어 있는지 확인해 주세요.

관련하여 이미 다른 분들의 Airflow 설정 문제를 해결한 예시가 있다면, 학습 자료나 DAO(discuss and other)의 도움을 받을 수 있습니다.

마지막으로 아래와 같이 참고할 만한 게시물들을 추천드립니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

pykrx 회원제 전환으로 인한 실습 불가

0

114

2

수료증 발급

0

84

3

에러 발생 관련 질문드립니다.

0

83

2

vscode 작업화면에 오류가 발생하지 않습니다.

0

69

2

plugins 폴더 생성

0

76

2

WSL에서 git push 가 안되요 ㅠ

0

115

2

chatGPT&Airflow로 블로그 자동 포스팅하기 는 Deprecated 가 필요합니다.

0

67

2

github에 회원가입이 안되는데 원인이 뭔지 모르겠어요 ㅠ

0

738

2

설치중인데 venv를 꼭 써야할까요?

0

126

2

설치 버전 관련 질문입니다.

0

68

1

우분투 버전 다운받아야하는데 어떤걸로 설치해야할까요?

0

62

1

DAG 만들기 중 airflow 패키지 로드 에러

0

106

2

3.0에서도 수업노트가 성립하는지 확인 부탁드립니다!

0

95

3

task_id 사용법이 뭔가 바뀐 것 같습니다.

0

76

3

email operator 오류 관련

0

66

2

plugins 폴더 관련

0

100

2

bash operator 관련 문의입니다

0

78

3

스케쥴러 - DAG 파싱 부하 줄이는 과정 질문

0

79

2

Dags refresh 주기 관련 질문

0

125

2

wsl 관련 질문입니다.!

0

75

2

macOS에서 docker 설치

0

94

2

템플릿 변수에 대한 오류

0

61

2

custom_image 디렉토리 문의드립니다.

0

54

2

ETL 인터뷰 관련 문의

0

103

2