train과 test object 유형 또는 갯수가 다르게 되면 어떤 처리가 필요한가요?
안녕하세요. train과 test object 유형 또는 갯수가 다르게 되면 어떤 처리가 필요한가요? train.describe(include=object), test.describe(include=object) 프린트해서 보면 개수가 같은지 보고 있는데요. 1.다른 경우는 어떻게 해야하는지, 2.아니면 범주 자체가 다른데 갯수만 똑같으면 상관없는지 궁금합니다.
답변 2
0
안녕하세요, 인프런 AI 인턴입니다. hyorim0424님.
train과 test 데이터셋의 object 유형이나 카테고리 수가 다르면, 머신러닝 모델 적용 시 문제를 일으킬 수 있습니다. 특히 원-핫 인코딩을 사용하면 카테고리 값마다 새로운 열이 생성되기 때문에, train과 test의 열 수가 달라질 수 있습니다. 이를 해결하기 위해서는 몇 가지 방법이 있습니다.
- Train과 Test를 합치고 인코딩 후 분리하기:
- 두 데이터셋을 하나로 합쳐서 원-핫 인코딩을 진행한 뒤, 다시 각각의 데이터셋으로 분리하는 방법입니다. 이렇게 하면 두 데이터셋의 차원이 일치하게 됩니다.
- 두 데이터셋을 하나로 합쳐서 원-핫 인코딩을 진행한 뒤, 다시 각각의 데이터셋으로 분리하는 방법입니다. 이렇게 하면 두 데이터셋의 차원이 일치하게 됩니다.
combined = pd.concat([train, test], axis=0)
combined_encoded = pd.get_dummies(combined)
train_encoded = combined_encoded.iloc[:len(train)]
test_encoded = combined_encoded.iloc[len(train):]
Dummy Features 조정:
- 만약 열의 수가 중요한 경우,
pd.get_dummies함수의drop_first=True옵션을 통해 첫 번째 카테고리를 삭제하여 모델의 차원을 줄일 수 있습니다.
- 만약 열의 수가 중요한 경우,
범주가 달라도 무방한 경우:
- 범주 자체가 다르지만 카테고리 수가 같은 경우라도 모델이 해당 차이를 인식할 수 있어야 합니다. 그러나, 가급적 카테고리 정보가 같도록 유지하는 것이 모델 성능에 유리합니다.
- 범주 자체가 다르지만 카테고리 수가 같은 경우라도 모델이 해당 차이를 인식할 수 있어야 합니다. 그러나, 가급적 카테고리 정보가 같도록 유지하는 것이 모델 성능에 유리합니다.
라벨 인코딩:
- 라벨 인코딩을 사용하여 각 카테고리를 숫자로 매핑하는 방식입니다. 이는 데이터의 카테고리 값이 많거나 메모리 효율이 중요할 때 유용하지만, 카테고리간 순위가 없다는 점을 주의해야 합니다.
- 라벨 인코딩을 사용하여 각 카테고리를 숫자로 매핑하는 방식입니다. 이는 데이터의 카테고리 값이 많거나 메모리 효율이 중요할 때 유용하지만, 카테고리간 순위가 없다는 점을 주의해야 합니다.
위의 방법을 통해 데이터셋의 차원을 일치시켜야 안정적인 모델 학습과 예측이 가능합니다.
관련 질문 및 답변 링크:
- 예시문제 작업형 2
- EDA 카테고리 비교 질문
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
1유형 강의 다 나간 후 어떻게 할까요?
0
14
1
점수차가 많이 나는데 따로 하신게 있으신가요?
0
10
1
작업형1 모의문제 4번에 3)문제 질문
0
21
2
이상치 전처리 작업
0
25
2
평가결과값 문의
0
29
2
시계열 데이터 날짜와 시간 format
0
35
2
평가지표 F1 스코어 질문드립니다.
0
27
2
작업형 2 기출7회분에서
0
38
2
작업형2 모의문제1 (30강)
0
34
2
수강 기간 연장 문의 드립니다.
0
42
2
수강 계획과 관련해 문의 드립니다.
0
30
2
작업형1 - 연습문제 16~39 풀이는 몇강을 보면 되나요?
0
50
2
작업형 1 -연습문제 4-6
0
38
2
작업형 1 유형 부분
0
42
2
작업형 1 (삭제예정, 구 버전)
0
51
2
수강기간 연장 문의드립니다.
0
38
2
2유형 레이블 인코딩 VS 원핫 인코딩
0
37
3
수강기간 연장 문의드립니다.
0
44
2
인덱스 슬라이싱
0
37
2
질문 드립니다.
0
50
2
강의 내용 관련 질문드립니다~
0
46
2
수강 연장 문의
0
63
2
강의자료 일괄 다운로드
0
62
2
수강기간 연장 문의드립니다
0
48
2





