inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

실리콘밸리 엔지니어와 함께하는 Apache Airflow

Sensor(센서)에 대해 알아보기

dags 디렉토리안에 sql디렉토리 넣고 .sql 파일로 관리해도 되나요?

1

홍태경

작성한 질문수 75

0

안녕하세요 강사님

현재 airflow 3.2 버전을 퀵하게 운용할 일이 생겨 이 강의를 보며 큰 도움을 받고 있습니다 감사합니다

 

해당 영상에서는 dags 디렉토리 안에 파이썬 스크립트안에서 입력된 sql문을 불러오는 task가 있는데

 

혹시 사전에 필요한 테이블을 만든 뒤

dags 디렉토리 안에 sql 디렉토리를 만들어 .sql 파일에 쿼리문을 넣고

파이썬 스크립트로 해당 .sql 파일을 불러와 실행 시키는 방법도 가능할까요?

 

ETL 작업을 하다보면 원천에서 insert into select 문으로 배치를 이용하여 데일리로 스테이징, 마트까지 붓기에 따로 sql 파일을 만들어 관리 하는게 좋겠다 생각이 들더라구요

혹시 관련된 강의 섹션 혹은 , 참조할 수있는 레퍼런스가 있는지 궁금합니다!

 

 

 

 

python 빅데이터 데이터-엔지니어링 airflow

답변 0

2,3차 정규화 질문

0

11

2

exercise 20. 데이터 구조(리스트)

0

4

0

apache airflow 설치하기 질문

0

93

2

postgres_loader DAG 에러

1

60

3

Queue 강의를 듣고 난 후에 대한 질의

0

59

1

공식 compose 내 postgres db 설치시

0

81

2

postgres_loader의 apache-airflow-providers-postgres 버전 호환성

1

191

2

Airflow Limitation 강의에 대한 질문

1

96

1

airflow와 postgres간의 connection 오류

1

1151

4

from airflow.sensors.sql import SqlSensor에 대해 질문 있습니다.

1

258

1

메타데이터 의미

1

372

2

병렬처리 질문드립니다.

1

512

2

connection 정보 이전 방법 질문드립니다.

1

279

1

PostgresOperator로 대량의 데이터 업로드 방법 질문드립니다.

1

402

1

강의 할인 프로모션 질문입니다..

1

286

1

hook 질문드립니다.

1

352

1

section 2-hook 강의 질문

1

294

1

airflow tasks test 질문드립니다!

1

511

3

airflow docker compose 질문드립니다.

1

421

1

섹션1 apache airflow 설치하기 질문

1

467

1

my_first_dag.py 파일 질문 입니다

1

402

1

Docker 에서 airflow 사용시 질문드립니다

1

964

2

airflow tasks test error

2

578

1

블로그에 글을 올려도 되나요?

0

491

2