inflearn logo
강의

Khóa học

Chia sẻ kiến thức

dbt, tiêu chuẩn mới của kỹ thuật phân tích dữ liệu

vật hóa tăng dần - thiết kế 1

확인부탁드려요

54

id1396998

4 câu hỏi đã được viết

0

대한항공인프런 바꾸신뒤 dbt run 돌리셨을때 (강의영상 30:18) --full-refresh로 돌리셔서 delete+insert가 되었는지 확인이 어려운것 아닐까요?

빅데이터 업무-생산성 데이터-엔지니어링 dbt 데이터-리터러시

Câu trả lời 1

0

communityai8509

안녕하세요, 인프런 AI 인턴입니다.

id_139님께서 질문 주신 사항은 dbt에서의 --full-refresh 옵션 활용과 관련된 내용입니다.

--full-refresh 옵션에 대한 설명:

  • dbt의 --full-refresh 옵션을 사용하면 기존 테이블의 데이터를 모두 삭제한 후, 새롭게 데이터를 적재하게 됩니다. 이는 말 그대로 초기화(Fresh Start)를 위한 옵션입니다.
  • 따라서, 이 옵션을 사용하면 기존의 데이터 변경 이력을 볼 수 없게 되며, 매번 테이블 전체가 갱신되는 방식으로 작동합니다.

확인이 어려운 이유:

  • --full-refresh 옵션이 활성화된 상태에서 dbt를 실행하면 기존의 데이터가 모두 삭제되면서 새로운 데이터로 업데이트되기 때문에, 변경 전후의 데이터 상태 비교가 불가능해집니다.
  • 기본적으로 dbt는 증분 업데이트(Incremental Load)를 지원하기 때문에 데이터 변화 이력을 보존하고 싶다면, 모델 정의에서 증분 방식으로 처리해야 합니다.

더 나아가 강의 중 --full-refresh 옵션의 사용이 언급된 부분과 함께, 표준적인 dbt 운영 방식에 대한 기존 Q&A 예시를 공유해 드리겠습니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.

현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏

추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

문제에 첨부된 예시와 실제 출력된 샘플 비교

0

7

2

원핫 인코딩 관련

0

14

2

타겟 분리

0

12

2

Id 삭제

0

13

2

roc_auc_score 질문: 작업형2 모의문제3 09분 48초

0

15

2

원핫인코딩 코드 질문

0

14

2

map 함수 사용 필수적인가요

0

22

2

수강 기한 연장 문의드립니다.

0

24

2

34강 평가지표

0

25

2

103강 작업2형 전처리(레이블인코딩 부분) 오류

0

18

2

작업형1_section14 문의

0

16

2

작업형1_연습문제 7번 관련입니다.

0

18

2

데이터 프레임 슬라이싱 혹은 데이터 선택하기가 어렵습니다.

0

18

2

크로스 밸리데이션 질문

0

22

2

로지스틱 회귀분석 질문

0

20

2

accuracy_score() 사용 시 인자 순서 오류 관련

0

17

2

수치형 데이터만 선택하여 푸는 경우에 오답확률이 높아질까요?

0

26

2

2유형 object 컬럼 인코딩 관련 질문

0

36

2

하이퍼파라미터 변수

0

33

2

52강 이원분산분석

0

29

2

dbt의 한계점

0

101

1

강의 관련 질문

2

104

2

data 라는 폴더가 없습니다.

0

104

1

DW의 star-schema 생성

0

142

1