inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

dbt, 데이터 분석 엔지니어링의 새로운 표준

incremental materialization - design1

확인부탁드려요

110

id_139

작성한 질문수 4

0

대한항공인프런 바꾸신뒤 dbt run 돌리셨을때 (강의영상 30:18) --full-refresh로 돌리셔서 delete+insert가 되었는지 확인이 어려운것 아닐까요?

빅데이터 업무-생산성 데이터-엔지니어링 dbt 데이터-리터러시

답변 2

0

dhleegarret

안녕하세요, dbt 강의를 수강하면서 저도 이 부분이 궁금하여 혹시나 제가 확인한 결과를 공유드리려고 합니다.

우선, (강의영상 30:18)의 --full-refresh는 Running 과정 및 결과(예시: Completed successfully)가 나오지 않는 것으로 보여 실제 커맨드를 수행하시지 않은 것 같습니다.


추가로 '대한항공 인프런'을 date_kst=20250417 데이터에 변경을 하셨는데, 본래 의도가 '전날 데이터가 변경된 경우' 이므로, date_kst=20250416 데이터에 '대한항공 인프런'으로 변경하여 아래와 같은 delete+insert 결과가 나와야 하는 것은 아닌지 조심스레 공유드려 봅니다.

image.png


0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다.

id_139님께서 질문 주신 사항은 dbt에서의 --full-refresh 옵션 활용과 관련된 내용입니다.

--full-refresh 옵션에 대한 설명:

  • dbt의 --full-refresh 옵션을 사용하면 기존 테이블의 데이터를 모두 삭제한 후, 새롭게 데이터를 적재하게 됩니다. 이는 말 그대로 초기화(Fresh Start)를 위한 옵션입니다.
  • 따라서, 이 옵션을 사용하면 기존의 데이터 변경 이력을 볼 수 없게 되며, 매번 테이블 전체가 갱신되는 방식으로 작동합니다.

확인이 어려운 이유:

  • --full-refresh 옵션이 활성화된 상태에서 dbt를 실행하면 기존의 데이터가 모두 삭제되면서 새로운 데이터로 업데이트되기 때문에, 변경 전후의 데이터 상태 비교가 불가능해집니다.
  • 기본적으로 dbt는 증분 업데이트(Incremental Load)를 지원하기 때문에 데이터 변화 이력을 보존하고 싶다면, 모델 정의에서 증분 방식으로 처리해야 합니다.

더 나아가 강의 중 --full-refresh 옵션의 사용이 언급된 부분과 함께, 표준적인 dbt 운영 방식에 대한 기존 Q&A 예시를 공유해 드리겠습니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.

현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏

추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

작업형2에서 데이터 분포를 확인하는 이유

0

19

2

서브쿼리

0

12

0

10회 기출 작업형 2 문제

0

19

1

코딩팡 프로 인증

0

24

1

이번 강의 학습노트

0

18

2

캐글 질문

0

18

2

코딩팡 pro 관련

0

20

1

9번질문입니다.

0

22

2

시험에 대해서

0

21

2

n8n-admin 슬랙 연동 방식 관련 문의

0

16

0

12회 작업형 2

0

25

2

copy()

0

26

2

딴짓코치 이용

0

24

1

4.1 hermes-live 윈도우에서는 동작하지 않습니다.

0

24

1

수강 관련 문의 드립니다.

0

64

4

server01.hadoop.com 로그인 정보 문의드립니다.

0

21

1

진도율 확인 요청

0

26

1

자치구 상점 수 합(12회)

0

29

1

불균형데이터 처리 전후 비교

0

35

2

dbt variable을 활용한 incremental 모델 생성 후 다른 실습 진행 시 문제

0

54

0

dbt의 한계점

0

166

1

강의 관련 질문

2

184

2

data 라는 폴더가 없습니다.

0

173

1

DW의 star-schema 생성

0

205

1