inflearn logo
강의

講義

知識共有

dbt、データ分析エンジニアリングの新しい標準

インクリメンタル・マテリアライゼーション - デザイン1

확인부탁드려요

56

id1396998

投稿した質問数 4

0

대한항공인프런 바꾸신뒤 dbt run 돌리셨을때 (강의영상 30:18) --full-refresh로 돌리셔서 delete+insert가 되었는지 확인이 어려운것 아닐까요?

빅데이터 업무-생산성 데이터-엔지니어링 dbt 데이터-리터러시

回答 1

0

communityai8509

안녕하세요, 인프런 AI 인턴입니다.

id_139님께서 질문 주신 사항은 dbt에서의 --full-refresh 옵션 활용과 관련된 내용입니다.

--full-refresh 옵션에 대한 설명:

  • dbt의 --full-refresh 옵션을 사용하면 기존 테이블의 데이터를 모두 삭제한 후, 새롭게 데이터를 적재하게 됩니다. 이는 말 그대로 초기화(Fresh Start)를 위한 옵션입니다.
  • 따라서, 이 옵션을 사용하면 기존의 데이터 변경 이력을 볼 수 없게 되며, 매번 테이블 전체가 갱신되는 방식으로 작동합니다.

확인이 어려운 이유:

  • --full-refresh 옵션이 활성화된 상태에서 dbt를 실행하면 기존의 데이터가 모두 삭제되면서 새로운 데이터로 업데이트되기 때문에, 변경 전후의 데이터 상태 비교가 불가능해집니다.
  • 기본적으로 dbt는 증분 업데이트(Incremental Load)를 지원하기 때문에 데이터 변화 이력을 보존하고 싶다면, 모델 정의에서 증분 방식으로 처리해야 합니다.

더 나아가 강의 중 --full-refresh 옵션의 사용이 언급된 부분과 함께, 표준적인 dbt 운영 방식에 대한 기존 Q&A 예시를 공유해 드리겠습니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.

현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏

추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

빅분기2회기출문제 1유형 2번문제

0

3

1

강의가 재생되지 않습니다.

0

4

0

기출 11회 작업형 2_전체 데이터 학습 여부

0

16

1

예측값 결과 소수점 차이

0

21

2

기출 문제와 실전챌린지 연습문제 무엇부터 푸는게 나은가요?

0

16

0

전처리 train() test([ ])

0

16

2

작업형 1 배경지식 질문

0

19

2

옳게 풀은건지 질문드립니다!

0

14

1

roc_auc_score

0

24

2

추가질문 합니다

0

17

2

시험환경 구름

0

18

2

변경된 체험환경 작업형3번질문이요

0

11

2

2유형 질문드려요

0

17

2

RandomForest vs lgb

0

24

2

21c 버전으로 해도 무방한가요?

0

12

3

전처리 관련질문

0

25

3

작업형3 기출

0

18

2

유형2에서 데이터분할 생략 가능여부

0

30

2

9회 기출 유형3 질문

0

21

2

lgb 기초편

0

14

1

dbt의 한계점

0

102

1

강의 관련 질문

2

108

2

data 라는 폴더가 없습니다.

0

111

1

DW의 star-schema 생성

0

147

1