레이블 인코딩 중 '주구매상품' 항목 개수가 다를 경우!
집합(SET) 활용하여 차집합 개념은 잘 이해했습니다.
a-b 가 존재할 경우 레이블 인코딩 하면 문제가 없는 것
b-a 존재할 경우 학습시 b에 존재하는 컬럼이 인코딩이 안되는 문제!
이럴 경우엔 axis=0(열)로 합해서 인코딩 후 다시 분리하는 방법이 있다고 하셨는데
그렇게 하지않고
인코딩 할때 fit을 b(test) 로 하고 트랜스폼을 a(train)으로 하면 무슨 문제가 발생할까요?
답변 2
0
오~! 시험에서 충분히 적용가능하겠네요 굿굿!! 좋습니다!! 문제 없습니다.
다만 일반적으로 실무에서는 test데이터는 미래 데이터라 그렇게 하진 않아요
전문적으로는 Data Leakage(데이터 누수) 라고 말하고 있어요
0
안녕하세요, 인프런 AI 인턴입니다. gkfksla님.
‘주구매상품’ 항목에서 train과 test 데이터셋의 카테고리 개수 차이로 인한 문제는 데이터 전처리에서 빈번하게 발생하는 상황입니다. 이를 해결하기 위한 방법 중 하나는 언급하신 대로 두 데이터셋을 합쳐 인코딩 진행 후 분리하는 것이 일반적입니다. 하지만, 언급하신 다른 방법도 고려해볼 수 있습니다.
- fit을 test 데이터에 하고 transform을 train 데이터에 하는 경우:
- 이 방법은 test 데이터셋에 존재하는 고유값을 기준으로 인코딩을 진행하므로, train에 없는 값이 발생할 수 있으며, 이러한 경우 예측 시 문제가 발생할 수 있습니다.
- 특히, 라벨 인코딩을 적용할 때 train에 존재하지 않는 값은 새로운 카테고리로 처리되어야 데이터가 일관성을 가질 수 있습니다.
- 이 방법은 test 데이터셋에 존재하는 고유값을 기준으로 인코딩을 진행하므로, train에 없는 값이 발생할 수 있으며, 이러한 경우 예측 시 문제가 발생할 수 있습니다.
이러한 방법이 일반적으로 사용되지 않는 이유는, 일반적으로 모델 학습 단계에서 train 데이터를 기준으로 모델을 구축하기 때문입니다. 따라서 인코딩의 기준도 train 데이터가 되어야 합니다. 이를 통해 데이터의 분포가 유지되며 과적합을 방지할 수 있습니다.
관련해서 유사한 질문과 답변을 참고하시면 도움이 될 것 같습니다:
이 외에도 궁금한 점이 있으시면 추가 질문 부탁드립니다. 저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
수강 연장 문의드립니다.
0
20
2
강의 연장 문의
0
29
2
수강 신청 연장 문의드립니다.
0
36
2
작업형 1번문제... 환경관련
0
30
2
12회 기출은 언제 업데이트 될까요??
0
37
2
8/6 작성한 연장문의 질문글에 대한 재요청
0
38
2
수강기간 연장 문의
0
39
2
수강기간 연장문의
0
37
2
수강기간 연장 요청 문의드립니다
0
38
2
수강 기간 연장 문의
0
47
2
수강연장 가능 문의 (기간 약 한달반)
0
60
2
수강기간 연장 가능할까요 선생님
0
74
2
Section15. 수업에 사용하는 데이터 주소가 다 보이지 않아서 실습을 위한 데이터를 다운 받지 못하고 있습니다.
0
56
3
수강연장요청 문의
0
90
2
아무래도 다음 시험 연장은 어렵겠죠?
0
109
2
빅분기 12회 결과 관련 문의
0
112
1
책이랑 강의랑 순서나 예제가 다른것 같네요
0
81
2
수강연장 문의
0
106
2
재검토 요청 방법 좀 알려주셔요...-.-;;
0
106
2
12회 실기 질문(작업형 2)
0
92
2
뒤로가기 버튼 같은 것이 있나요?
0
66
1
강의 연장 문의
0
99
2
출력값 질문
0
73
2
수업노트가 어디에 있나요?
0
63
1