최빈값 채우기 관련 하여
데이터 전처리 강의 14:50 관련하여,
X_train['workclass']의 최빈값과
X_test['workclass']의 최빈값이 달라질 수 있는데
train 데이터와 test 데이터를 서로 다른 최빈값으로 결측치를 채워도 되나요?
제 생각에는 train과 test를 합쳐서 최빈값을 찾고, 그값으로 결측치를 채워야 하지 않나 싶습니다.
답변 2
0
시험 문제에서 따로 제약을 주지 않기 때문에 어떤 값이던 상관은 없습니다.
추후 머신러닝 학습 후 성능이 더 좋아지는 쪽으로 선택하는 것이 좋을 것 같아요!
다만 시험을 준비하는 입장에서 헷갈린다면
X_train['workclass']의 최빈값을 train과 test에 모두 채우는 것으로 기억해 주세요!
영상도 이렇게 최종 업데이트할 예정입니다.
[심화]
합치는 것도 방법입니다만 Data Leakage 문제가 있을 수 있어요!
0
안녕하세요, 인프런 AI 인턴입니다. seraphys10님.
데이터 전처리에서 최빈값으로 결측치를 채우는 방법은 여러 가지가 있으며, 각각의 상황에 따라 적절한 방법을 선택하는 것이 중요합니다.
최빈값으로 결측치 채우기
X_train과 X_test의 최빈값이 다를 경우:
- 보통 X_train의 최빈값으로 채우는 것이 일반적입니다. 이는 모델이 학습한 통계적 특성을 테스트 데이터에서도 일관되게 적용할 수 있도록 하기 위함입니다.
- 그러나, 특정 상황에서는 X_test의 최빈값으로 채워도 무방할 수 있습니다. 이는 주어진 문제의 요구 사항과 데이터 특성에 따라 다를 수 있습니다.
- 보통 X_train의 최빈값으로 채우는 것이 일반적입니다. 이는 모델이 학습한 통계적 특성을 테스트 데이터에서도 일관되게 적용할 수 있도록 하기 위함입니다.
Train과 Test를 합쳐서 최빈값을 찾는 방법:
- Train과 Test 데이터를 합쳐서 최빈값을 찾는 방법도 사용할 수 있지만, 이는 데이터 누수(data leakage)를 일으킬 수 있어 주의가 필요합니다. 데이터 누수는 모델 평가의 공정성을 해칠 수 있기 때문에 통상적으로 피하는 것이 좋습니다.
- Train과 Test 데이터를 합쳐서 최빈값을 찾는 방법도 사용할 수 있지만, 이는 데이터 누수(data leakage)를 일으킬 수 있어 주의가 필요합니다. 데이터 누수는 모델 평가의 공정성을 해칠 수 있기 때문에 통상적으로 피하는 것이 좋습니다.
관련된 기존 질문 및 답변 링크들:
- 결측값 채우기 관련 질문1: 최빈값을 찾는 함수인
mode()와mode()[0]에 대한 설명입니다.
- 결측값 채우기 관련 질문2: X_test 데이터 전처리에 대해 X_train 통계치를 활용하는 이유에 대한 자세한 설명입니다.
이 설명이 seraphys10님의 질문에 도움이 되었으면 합니다. 저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
빅이시 작업형2 기초 - 케이스 1~3 관련 문의
0
7
1
데이터프레임 슬라이싱 인덱싱 질문2
0
11
1
단일표본검정, 샤피로검정, 윌콕슨검정
0
20
2
강의자료 다운로드 여부
0
20
1
문제에 첨부된 예시와 실제 출력된 샘플 비교
0
17
2
원핫 인코딩 관련
0
26
2
타겟 분리
0
22
2
Id 삭제
0
25
2
roc_auc_score 질문: 작업형2 모의문제3 09분 48초
0
23
2
원핫인코딩 코드 질문
0
24
2
map 함수 사용 필수적인가요
0
31
2
수강 기한 연장 문의드립니다.
0
39
2
34강 평가지표
0
32
2
103강 작업2형 전처리(레이블인코딩 부분) 오류
0
25
3
작업형1_section14 문의
0
20
2
작업형1_연습문제 7번 관련입니다.
0
24
2
데이터 프레임 슬라이싱 혹은 데이터 선택하기가 어렵습니다.
0
23
2
크로스 밸리데이션 질문
0
26
2
로지스틱 회귀분석 질문
0
27
2
수치형 데이터만 선택하여 푸는 경우에 오답확률이 높아질까요?
0
31
2
2유형 object 컬럼 인코딩 관련 질문
0
44
2
하이퍼파라미터 변수
0
36
2
52강 이원분산분석
0
32
2
실제시험환경에서 작업형1,2,3의 문제풀이 순서
0
40
2





