불균형데이터 처리 전후 비교
불균형 데이터 처리 후 아래와 같이 오히려 성능이 떨어진 것을 확인했습니다. 강의 중 강사님께서 불균형데이터 처리 전 점수와 비교하는게 아니라 불균형데이터 처리 후 랜덤포레스트와 lightgbm 모델 결과를 서로 비교하라고 하셨습니다. 혹시 이 내용이 나오는 점수는 떨어져 보이더라도 적용하는게 좋다는 말씀이신건지, 아니면 전후 중에서 점수를 높은걸 채용하는게 맞다는 말씀이신건지 조금 헷갈립니다..! 점수는 아래와 같이 나왔습니다. 이 경우 어떤 케이스를 적용해야할까요 ?
#랜덤포레스트 0.738
#stratify 적용 후 : 0.697
# stratify, class_weight 적용 : 0.733
#lightGBM : 0.798
# stratify 적용 후 : 0.755
# stratify, class_weight 적용 : 0.755
두번째로 stratify 를 적용할거면 모델에도 class_weight를 함께 적용해야하나요 ? 아니면 결과에 따라서 둘 중 하나만 적용하는 식으로 해도 괜찮을까요 ?
최종 제출 전 모델은 그대로 사용하고 전체 데이터를 기반으로 하면 대부분의 경우 성능이 향상되나요 ?
Câu trả lời 2
0
1. LightGBM(stratify 적용)이 0.755로 가장 높으니 이걸 선택하시면 됩니다.
다만 불균형 데이터는 소수 클래스의 데이터가 적기 때문에, 코드가 조금 늘어나도 괜찮다면 최종 제출 때는 검증용 데이터까지 합쳐 전체 데이터로 다시 학습(선택:LightGBM(stratify 적용)하는 걸 추천합니다. 작은 클래스의 데이터를 학습에 써서 조금이라도 데이터 수를 늘리는 게 좋기 때문이에요.
2. 둘은 별개라서 꼭 함께 적용할 필요는 없어요!stratify는 데이터를 나눌 때 클래스 비율을 맞추는 것이고, class_weight는 모델이 학습할 때 소수 클래스에 가중치를 주는 것입니다. 각각 적용해 보고 검증 점수가 좋은 쪽을 선택하시면 됩니다.
3. 실제로 해 보면 성능이 오를 가능성이 높지만, 떨어질 수도 있어서 누구도 장담할 수는 없어요. 하지만 불균형이 심한 상황에서는 소수 클래스 데이터를 더 많이 학습할 수 있으니 이론상 성능이 좋아질 것으로 예상됩니다.
0
안녕하세요, 인프런 AI 인턴입니다. jww님.
불균형 처리는 항상 성능을 높이는 과정이 아니므로, 처리 전후의 검증 점수를 비교해 더 높은 점수를 보인 방법을 선택하는 것이 좋습니다. 공유해 주신 점수만 보면 랜덤포레스트는 기본 설정(0.738), LightGBM은 기본 설정(0.798)이 가장 높습니다. 따라서 동일한 검증 기준으로 비교한 점수라면, 이 결과에서는 불균형 처리를 적용하지 않은 LightGBM을 우선 고려할 수 있습니다.
다만 stratify는 학습·검증 데이터의 클래스 비율을 유지하도록 나누는 옵션이고, class_weight는 학습 시 클래스별 가중치를 조정하는 옵션입니다. 둘은 역할이 다르므로 반드시 함께 써야 하는 것은 아닙니다. 각각 적용한 결과를 같은 검증 방식으로 비교해 선택하시면 됩니다.
전체 데이터를 사용해 최종 학습하면 학습에 활용하는 데이터가 늘어나지만, 대부분의 경우 성능이 반드시 향상된다고 단정할 수는 없습니다. 검증 과정에서 좋은 방법을 선택한 뒤, 제출용 모델은 전체 학습 데이터로 다시 학습하는 방식을 고려해 보세요.
관련 답변도 참고해 주세요.
- 불균형 처리 후 성능이 더 낮아졌다면, — 처리 후 성능이 낮아진 경우와 전체 데이터 학습을 고려하는 방법에 대한 답변입니다.
- 작업형2 모의문제1 (30강) — 랜덤포레스트와 LightGBM 등 여러 모델을 비교해 성능이 좋은 모델을 선택하는 내용입니다.
- 기출 6회 작업형 2 — 검증 데이터를 나누어 모델 결과를 확인하는 방법에 대한 답변입니다.
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
로지스틱 회귀 독립변수가 범주형일 때
0
8
1
mtcars.csv파일을 받을 수 있을까요?
0
12
0
벼락치기질문
0
22
1
수강연장 문의 드립니다
0
19
1
수강연장 문의드립니다.
0
18
1
작업형2에서 데이터 분포를 확인하는 이유
0
26
2
10회 기출 작업형 2 문제
0
23
1
코딩팡 프로 인증
0
28
1
이번 강의 학습노트
0
22
2
캐글 질문
0
22
2
코딩팡 pro 관련
0
23
1
9번질문입니다.
0
23
2
시험에 대해서
0
21
2
12회 작업형 2
0
26
2
copy()
0
27
2
딴짓코치 이용
0
25
1
수강 관련 문의 드립니다.
0
69
4
자치구 상점 수 합(12회)
0
29
1
레이블인코딩/원핫
0
45
2
인코딩
0
44
2
작업형 2 작업
0
44
2
ttest_rel() 관련 질문
0
52
2
작업형2. 인코딩에 대해 질문드립니다.
0
41
2
작업형3 2-3
0
47
1

