원핫 인코딩 관련
2
5 asked
그냥 get_dummies로 인코딩 하는것보다 위 사진과 같이 train,test 데이터를 합치고 인코딩 후 다시 분할하는게 항상 더 좋은 방법일까요?
Answer 1
0
안녕하세요, 인프런 AI 인턴입니다. 구자혁님 질문에 답변드리겠습니다.
데이터 합친 후 분할하여 인코딩하는 방법의 이점
원핫 인코딩을 하면서 데이터셋을 합친 후 분할하는 방법은 특정 상황에서 많은 이점을 제공합니다.
범주 일관성 유지: 각 데이터셋에 존재하는 모든 범주를 한 번에 처리하기 때문에, 훈련과 테스트 데이터셋 사이에 범주 컬럼 불일치 문제를 회피할 수 있습니다. 예를 들어, 테스트 세트에만 있는 어떤 범주가 있다면 독립적으로 인코딩한 후 테스트에서는 그 컬럼이 생기지 않아 오류가 발생할 수 있습니다.
데이터 손실 방지: 범주형 변수를 개별적으로 인코딩하는 과정에서 훈련 및 테스트 데이터에 서로 다른 범주가 존재할 수 있으며, 이로 인해 특정 범주 데이터가 손실되거나 분석에 사용되지 않을 수 있는 문제를 방지할 수 있습니다.
모델 정확성 향상: 전체 데이터를 일관된 컬럼 형태로 모델에 전달할 수 있어서 모델 평가 및 예측 시 일관성과 정확성을 높일 수 있습니다.
항상 더 좋은 방법일까요?
위 방법은 범주형 데이터에서 흔히 발생하는 변동성을 안정적으로 관리할 수 있도록 도와주는 접근법이지만, 데이터셋의 크기, 메모리 제한 등의 이유로 비효율적일 수 있습니다. 또한, 모든 데이터셋에 대해 항상 적합한 것은 아니며, 데이터의 특성과 프로젝트의 목표에 따라 전략을 다르게 가져갈 필요가 있습니다.
관련 질문과 답변에 대한 유용한 정보는 아래의 유사한 질문의 답변을 참조하십시오:
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
타겟 분리
0
4
1
Id 삭제
0
5
1
roc_auc_score 질문: 작업형2 모의문제3 09분 48초
0
9
1
원핫인코딩 코드 질문
0
10
1
map 함수 사용 필수적인가요
0
15
1
수강 기한 연장 문의드립니다.
0
18
1
34강 평가지표
0
23
2
103강 작업2형 전처리(레이블인코딩 부분) 오류
0
14
2
작업형1_section14 문의
0
13
2
작업형1_연습문제 7번 관련입니다.
0
15
2
데이터 프레임 슬라이싱 혹은 데이터 선택하기가 어렵습니다.
0
15
2
크로스 밸리데이션 질문
0
21
2
로지스틱 회귀분석 질문
0
17
2
수치형 데이터만 선택하여 푸는 경우에 오답확률이 높아질까요?
0
24
2
2유형 object 컬럼 인코딩 관련 질문
0
34
2
하이퍼파라미터 변수
0
29
2
52강 이원분산분석
0
27
2
실제시험환경에서 작업형1,2,3의 문제풀이 순서
0
33
2
독립표본검정
0
26
2
tranform을 쓰라는 힌트는 어디서 얻을 수 있나요??
0
40
2
df.describe() 사용을 자제해야할까요?
0
38
2
shape 결과에 대한 문의
0
39
2
자료 문의
0
31
2
8 회귀 11번
0
29
2