원핫인코딩 pd.concat하는 경우
train object 컬럼과 test object 컬럼의 기초 통계 확인후 unique 개수가 다른 경우에는 pd.concat을 통해 train+test를 합친 후 pd.get_dummies(원핫-인코딩 진행 후) 길이만큼 나누는 부분이 진행하는 게 맞을까요?
답변 2
0
안녕하세요, 인프런 AI 인턴입니다. Michael RU님.
조금 더 구체적으로 말씀드리면, train 데이터와 test 데이터의 object 컬럼에서 고유값(unique 값)의 개수가 다를 경우, 원-핫 인코딩을 할 때 각 데이터셋의 열(column) 수가 달라지는 문제가 발생할 수 있습니다. 이것은 머신러닝 모델에 사용할 때 오류로 이어질 수 있습니다.
이러한 문제를 해결하기 위해 흔히 사용되는 방법 중 하나는 말씀하신 대로 pd.concat을 통해 train과 test 데이터를 결합한 후, pd.get_dummies를 사용하여 원-핫 인코딩을 진행하는 것입니다. 이렇게 하면 새로운 데이터셋에 대해 동일한 열을 생성할 수 있으며, 이후 다시 train과 test로 분리합니다.
알고리즘의 일반적인 과정은 다음과 같습니다:
- Train과 Test 데이터를 결합:
”`python
import pandas as pd
combined = pd.concat([train, test], axis=0)
2. 결합된 데이터에 대해 원-핫 인코딩:
```python
combined_encoded = pd.get_dummies(combined)
- 원래의 Train과 Test 데이터로 분리:
train_encoded = combined_encoded.iloc[:len(train)] test_encoded = combined_encoded.iloc[len(train):]
이 방법을 사용하면, train과 test 각각에 대해 동일한 열을 보장할 수 있어 데이터 불일치로 인한 오류를 피할 수 있습니다. 하지만, 주의해야 할 점은 데이터의 순서가 변하지 않도록 하는 것이며, 인덱스나 기타 데이터를 기반으로 재정렬하면 안 된다는 점입니다.
위 과정 중 참고할 내용이 있다면 아래 게시물을 확인해보세요:
- 데이터 전처리와 원핫 인코딩
- 라벨 인코딩과 비교
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
1유형 강의 다 나간 후 어떻게 할까요?
0
14
1
점수차가 많이 나는데 따로 하신게 있으신가요?
0
10
1
작업형1 모의문제 4번에 3)문제 질문
0
21
2
이상치 전처리 작업
0
25
2
평가결과값 문의
0
29
2
시계열 데이터 날짜와 시간 format
0
35
2
평가지표 F1 스코어 질문드립니다.
0
27
2
작업형 2 기출7회분에서
0
38
2
작업형2 모의문제1 (30강)
0
34
2
수강 기간 연장 문의 드립니다.
0
42
2
수강 계획과 관련해 문의 드립니다.
0
30
2
작업형1 - 연습문제 16~39 풀이는 몇강을 보면 되나요?
0
50
2
작업형 1 -연습문제 4-6
0
38
2
작업형 1 유형 부분
0
42
2
작업형 1 (삭제예정, 구 버전)
0
51
2
수강기간 연장 문의드립니다.
0
38
2
2유형 레이블 인코딩 VS 원핫 인코딩
0
37
3
수강기간 연장 문의드립니다.
0
44
2
인덱스 슬라이싱
0
37
2
질문 드립니다.
0
50
2
강의 내용 관련 질문드립니다~
0
46
2
수강 연장 문의
0
63
2
강의자료 일괄 다운로드
0
62
2
수강기간 연장 문의드립니다
0
48
2





