데이터 결측치 채울 때 기준데이터
피처 엔지니어링 강의 시작부분 데이터 전처리 로직 관련 질문입니다.
데이터전처리 X_test 결측치를 채울 때 클래스, 국가의 경우 X_test의 최빈값을 사용하고, 나이나 주당 근무시간은 X_train 평균을 사용하는데 어떤건 X_train을 사용하고, 어떤건 X_test를 사용하는 이유가 있는걸까요???
답변 1
0
제가 혼용해 사용해서 혼란이 있었네요!
일반적으로는 훈련 데이터(X_train)의 통계를 사용해서 결측치를 채우는 것이 맞아요.
모델이 훈련된 데이터의 통계적 특성을 테스트 데이터에서도 일관되게 적용할 수 있도록 하기 때문입니다.
예를 들어, 나이나 주당 근무시간과 같은 연속형 변수는 X_train의 평균을 사용해서 결측치를 채우는 것이 일반적입니다.
하지만 테스트 데이터(X_test)의 통계를 사용해서 결측치를 채울 수도 있습니다.
결론적으로, 어느 쪽이든 머신러닝 모델의 성능이 향상되는 쪽을 선택하는 것이 중요해요. 뒤에서 학습할 평가지표를 통해 모델 성능으로 판단하면 됩니다.
실기시험 제출관련
0
128
2
6.20 작업형 2 과적합
0
140
3
코딩팡 장업형2 베이스 라인 인코딩 종류 질문
0
39
2
로지스틱회귀, 회귀
0
47
2
회귀 문제를 풀때 질문입니다.
0
52
1
불균형 처리 후 성능이 더 낮아졌다면,
0
61
2
실기 체험 제2유형 에러 문의
0
60
1
LIGHTGBM 으로 하면 pred값이 소수점 6자리까지 나오는게 맞나요
0
46
2
3번문제 등분산 가정
0
46
2
작업형3 target 형 변환 질문
0
34
2
[작업형1] 연습문제 섹션1 ~ 10 의 section4
0
36
3
원핫인코딩과 레이블 인코딩에서 concat
0
56
2
제2유형 질문입니다.
0
46
2
C()
0
44
2
작업형 2에서 strafity 적용 유무
0
49
2
수강 기간 연장 가능 여부 문의드립니다.
0
58
1
ols
0
43
2
2유형 작성관련 질문(일반 심화)
0
38
2
2유형 작성관련 질문
0
39
2
2유형 object컬럼 개수 다르면
0
48
2
코딩팡질문이요ㅠㅠ
0
45
2
관찰값과 기대값의 개념이 헷갈립니다.
0
25
2
작업형2 ID 컬럼 삭제 질문
0
45
2
2유형 작성관련 질문
0
32
2