inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

dbt, 데이터 분석 엔지니어링의 새로운 표준

incremental materialization - design1

확인부탁드려요

83

id_139

작성한 질문수 4

0

대한항공인프런 바꾸신뒤 dbt run 돌리셨을때 (강의영상 30:18) --full-refresh로 돌리셔서 delete+insert가 되었는지 확인이 어려운것 아닐까요?

빅데이터 업무-생산성 데이터-엔지니어링 dbt 데이터-리터러시

답변 1

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다.

id_139님께서 질문 주신 사항은 dbt에서의 --full-refresh 옵션 활용과 관련된 내용입니다.

--full-refresh 옵션에 대한 설명:

  • dbt의 --full-refresh 옵션을 사용하면 기존 테이블의 데이터를 모두 삭제한 후, 새롭게 데이터를 적재하게 됩니다. 이는 말 그대로 초기화(Fresh Start)를 위한 옵션입니다.
  • 따라서, 이 옵션을 사용하면 기존의 데이터 변경 이력을 볼 수 없게 되며, 매번 테이블 전체가 갱신되는 방식으로 작동합니다.

확인이 어려운 이유:

  • --full-refresh 옵션이 활성화된 상태에서 dbt를 실행하면 기존의 데이터가 모두 삭제되면서 새로운 데이터로 업데이트되기 때문에, 변경 전후의 데이터 상태 비교가 불가능해집니다.
  • 기본적으로 dbt는 증분 업데이트(Incremental Load)를 지원하기 때문에 데이터 변화 이력을 보존하고 싶다면, 모델 정의에서 증분 방식으로 처리해야 합니다.

더 나아가 강의 중 --full-refresh 옵션의 사용이 언급된 부분과 함께, 표준적인 dbt 운영 방식에 대한 기존 Q&A 예시를 공유해 드리겠습니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.

현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏

추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

소리

0

3

0

작업형2 모의문제2 결과값 관련 문의드립니다.

0

13

1

수강인증 수료배지 링크가 만료되었습니다.

0

15

0

Kafka 4.0 zk 코드 제거 가이드 요청

0

4

1

12회차 시험 실패 후 13회 도전 예정입니다.

0

24

1

오랜만에 다시 강의 들어와서 그런데

0

18

1

깃허브에 푸시할때 raw를 제외하는 건 어떨까요?

0

20

2

random_state 값

0

26

2

19강 감정분석 강의처럼 api 돌렸는데

1

28

1

강의 자료 질문

0

30

2

csv 파일 obsidian에 업로드 관련

0

25

2

강의 연장 문의 드립니다.

0

29

1

ui가 달라서 적용을 못해요

0

21

0

강의 연장 문의

0

53

1

안티그라비티 말고 커서 사용은 안될까요?

0

49

1

16강에서 코드가 계속 안도길래. ai가 고쳐서 일단 supabase에 preditc 한 주가를

1

43

1

질문 및 자료 요청

0

41

1

오징어게임

0

58

1

16강 구글 colab 에서 코드 실행이 안돼요.

0

61

1

object 컬럼이 여러 개인 경우 인코딩 전처리 방법

0

46

2

dbt의 한계점

0

138

1

강의 관련 질문

2

152

2

data 라는 폴더가 없습니다.

0

144

1

DW의 star-schema 생성

0

181

1