inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

2유형 질문입니다..

해결된 질문

71

황증조

작성한 질문수 6

0

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 3

0

퇴근후딴짓

제가 이상치 처리(음수 나이)를 해서 3개를 삭제했는데

그 처리가 되지 않아서 차이가 있는 것으로 보여집니다 👍

 

 

0

황증조

답변이 이해가 잘안되네요..
강의자료랑 열의갯수가 차이납니다..

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 황증조님의 질문에 답변드리겠습니다.

One-hot 인코딩을 적용할 때 train과 test 데이터의 열 수가 차이나는 경우는 전형적으로 범주형 변수가 각 데이터셋에 대해 다른 수준(set of unique values)을 포함하고 있기 때문입니다. train 데이터셋에는 존재하지만 test 데이터셋에는 없는 범주 혹은 그 반대 경우가 있을 수 있습니다.

주요 원인

  1. 범주 불일치: 특정 범주형 변수의 값이 train과 test에서 각각 다를 수 있습니다. 예를 들어, train에는 ‘A’, ‘B’, ‘C’라는 범주가 있는데 반해, test에는 ‘A’, ‘B’만 포함되어 있다면 서로 다른 열이 생성됩니다.

  2. 결측치나 데이터 특성상의 차이: 한쪽 데이터셋에서 결측치로 인해 범주가 드러나지 않는 경우도 있습니다.

해결 방안

  • 데이터 합치기와 인코딩 후 분리하기: 가장 효과적인 방법은 train과 test 데이터를 합친 다음에 원핫 인코딩을 수행하고, 다시 분리하는 것입니다. 이를 통해 일관된 열 구성을 얻을 수 있습니다. 이는 질문에서 이미지로 제공된 코드와 같은 접근 방법입니다.

  • 필요 없는 열 제거: 데이터 모델링에 불필요한 범주형 열이 존재할 수 있으며, 이러한 열은 제거해도 무방합니다.

  • 훈련셋 기반으로 test셋 정렬: 한 가지 방법으로는 train 데이터의 기준에 맞추어 test 데이터를 정렬해주는 방법도 가능합니다.

요약

train과 test에서 정확한 열 구성을 유지하기 위해서는 데이터셋을 합쳐서 동일한 카테고리 구성이 되도록 인코딩 후 다시 분리하십시오. 이는 모델의 일관성을 유지하는 데 중요합니다.

유사한 질문의 해결 방안 또는 인사이트를 보고 싶으실 경우, 다음의 링크들을 참고하셔도 좋습니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

작업형 1 유형 부분

0

13

1

작업형 1 (삭제예정, 구 버전)

0

33

2

수강기간 연장 문의드립니다.

0

23

1

2유형 레이블 인코딩 VS 원핫 인코딩

0

25

3

수강기간 연장 문의드립니다.

0

26

1

인덱스 슬라이싱

0

28

2

질문 드립니다.

0

45

2

강의 내용 관련 질문드립니다~

0

43

2

수강 연장 문의

0

56

2

강의자료 일괄 다운로드

0

50

2

수강기간 연장 문의드립니다

0

41

2

list 문제 질문드립니다~

0

35

2

빅분기 실기 12회 재도전

0

54

2

강의 기간 연장 가능여부 검토 요청건

0

39

2

수강기간 연장 문의 드립니다

0

43

2

수강기간 연장 문의드립니다

0

50

2

질문이요

0

56

2

수강기간 연장 문의드립니다.

0

58

2

문제 3-2 질문드립니다

0

47

2

수강기간 연장 문의 드립니다.

0

61

2

변수, 칼럼 , df 구분

0

51

2

수강기간 연장 문의드립니다.

0

50

2

수강기간 연장 문의

0

49

2

수강기간 연장 문의드립니다.

0

42

2