inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

2유형 질문입니다..

해결된 질문

75

황증조

작성한 질문수 6

0

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 3

0

퇴근후딴짓

제가 이상치 처리(음수 나이)를 해서 3개를 삭제했는데

그 처리가 되지 않아서 차이가 있는 것으로 보여집니다 👍

 

 

0

황증조

답변이 이해가 잘안되네요..
강의자료랑 열의갯수가 차이납니다..

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 황증조님의 질문에 답변드리겠습니다.

One-hot 인코딩을 적용할 때 train과 test 데이터의 열 수가 차이나는 경우는 전형적으로 범주형 변수가 각 데이터셋에 대해 다른 수준(set of unique values)을 포함하고 있기 때문입니다. train 데이터셋에는 존재하지만 test 데이터셋에는 없는 범주 혹은 그 반대 경우가 있을 수 있습니다.

주요 원인

  1. 범주 불일치: 특정 범주형 변수의 값이 train과 test에서 각각 다를 수 있습니다. 예를 들어, train에는 ‘A’, ‘B’, ‘C’라는 범주가 있는데 반해, test에는 ‘A’, ‘B’만 포함되어 있다면 서로 다른 열이 생성됩니다.

  2. 결측치나 데이터 특성상의 차이: 한쪽 데이터셋에서 결측치로 인해 범주가 드러나지 않는 경우도 있습니다.

해결 방안

  • 데이터 합치기와 인코딩 후 분리하기: 가장 효과적인 방법은 train과 test 데이터를 합친 다음에 원핫 인코딩을 수행하고, 다시 분리하는 것입니다. 이를 통해 일관된 열 구성을 얻을 수 있습니다. 이는 질문에서 이미지로 제공된 코드와 같은 접근 방법입니다.

  • 필요 없는 열 제거: 데이터 모델링에 불필요한 범주형 열이 존재할 수 있으며, 이러한 열은 제거해도 무방합니다.

  • 훈련셋 기반으로 test셋 정렬: 한 가지 방법으로는 train 데이터의 기준에 맞추어 test 데이터를 정렬해주는 방법도 가능합니다.

요약

train과 test에서 정확한 열 구성을 유지하기 위해서는 데이터셋을 합쳐서 동일한 카테고리 구성이 되도록 인코딩 후 다시 분리하십시오. 이는 모델의 일관성을 유지하는 데 중요합니다.

유사한 질문의 해결 방안 또는 인사이트를 보고 싶으실 경우, 다음의 링크들을 참고하셔도 좋습니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

1유형 강의 다 나간 후 어떻게 할까요?

0

14

1

점수차가 많이 나는데 따로 하신게 있으신가요?

0

10

1

작업형1 모의문제 4번에 3)문제 질문

0

21

2

이상치 전처리 작업

0

25

2

평가결과값 문의

0

29

2

시계열 데이터 날짜와 시간 format

0

35

2

평가지표 F1 스코어 질문드립니다.

0

27

2

작업형 2 기출7회분에서

0

38

2

작업형2 모의문제1 (30강)

0

34

2

수강 기간 연장 문의 드립니다.

0

42

2

수강 계획과 관련해 문의 드립니다.

0

30

2

작업형1 - 연습문제 16~39 풀이는 몇강을 보면 되나요?

0

50

2

작업형 1 -연습문제 4-6

0

38

2

작업형 1 유형 부분

0

42

2

작업형 1 (삭제예정, 구 버전)

0

51

2

수강기간 연장 문의드립니다.

0

38

2

2유형 레이블 인코딩 VS 원핫 인코딩

0

37

3

수강기간 연장 문의드립니다.

0

44

2

인덱스 슬라이싱

0

37

2

질문 드립니다.

0

50

2

강의 내용 관련 질문드립니다~

0

46

2

수강 연장 문의

0

63

2

강의자료 일괄 다운로드

0

62

2

수강기간 연장 문의드립니다

0

48

2