inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

2유형 질문입니다..

해결된 질문

77

황증조

작성한 질문수 6

0

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 3

0

퇴근후딴짓

제가 이상치 처리(음수 나이)를 해서 3개를 삭제했는데

그 처리가 되지 않아서 차이가 있는 것으로 보여집니다 👍

 

 

0

황증조

답변이 이해가 잘안되네요..
강의자료랑 열의갯수가 차이납니다..

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 황증조님의 질문에 답변드리겠습니다.

One-hot 인코딩을 적용할 때 train과 test 데이터의 열 수가 차이나는 경우는 전형적으로 범주형 변수가 각 데이터셋에 대해 다른 수준(set of unique values)을 포함하고 있기 때문입니다. train 데이터셋에는 존재하지만 test 데이터셋에는 없는 범주 혹은 그 반대 경우가 있을 수 있습니다.

주요 원인

  1. 범주 불일치: 특정 범주형 변수의 값이 train과 test에서 각각 다를 수 있습니다. 예를 들어, train에는 ‘A’, ‘B’, ‘C’라는 범주가 있는데 반해, test에는 ‘A’, ‘B’만 포함되어 있다면 서로 다른 열이 생성됩니다.

  2. 결측치나 데이터 특성상의 차이: 한쪽 데이터셋에서 결측치로 인해 범주가 드러나지 않는 경우도 있습니다.

해결 방안

  • 데이터 합치기와 인코딩 후 분리하기: 가장 효과적인 방법은 train과 test 데이터를 합친 다음에 원핫 인코딩을 수행하고, 다시 분리하는 것입니다. 이를 통해 일관된 열 구성을 얻을 수 있습니다. 이는 질문에서 이미지로 제공된 코드와 같은 접근 방법입니다.

  • 필요 없는 열 제거: 데이터 모델링에 불필요한 범주형 열이 존재할 수 있으며, 이러한 열은 제거해도 무방합니다.

  • 훈련셋 기반으로 test셋 정렬: 한 가지 방법으로는 train 데이터의 기준에 맞추어 test 데이터를 정렬해주는 방법도 가능합니다.

요약

train과 test에서 정확한 열 구성을 유지하기 위해서는 데이터셋을 합쳐서 동일한 카테고리 구성이 되도록 인코딩 후 다시 분리하십시오. 이는 모델의 일관성을 유지하는 데 중요합니다.

유사한 질문의 해결 방안 또는 인사이트를 보고 싶으실 경우, 다음의 링크들을 참고하셔도 좋습니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

9회 기출 유형3 질문

0

3

1

lgb 기초편

0

4

1

괄호 사용

0

5

1

작업형 2 데이터 전처리 질문

0

6

0

11회 기출 유형 작업형1 문제 3-1

0

6

0

예시문제 작업형2 (ver2023) 질문입니다

0

8

1

Data type에 따른 처리

0

5

1

데이터 전처리 관련

0

12

2

시험에서 문제 불러오기

0

12

2

2번문제 출력값 질문

0

15

2

pd.get_dummies()가 bool로 반환

0

16

2

대응표본검정 레빈

0

18

3

단일표본검정 문제 유형

0

19

2

[작업형 3] 6~7. 카이제곱 검정

0

16

2

9회 작업형3 문제 1-1

0

30

2

최종답안 계산 방식 질문

0

18

1

시험 치기 전 급하게 질문 사항

0

31

2

유형3

0

29

2

작업형 2 연습문제 섹션 3

0

19

2

11 기출문제 ipynb파일

0

32

2

작업형 3 유형

0

26

2

11회 기출 유형(작업형1) 2번 정답

0

27

2

f1 score 질문

0

22

2

10회 작업형 2 인코딩 질의

0

19

2