작업형2유형 검증데이터분리
작업형 2유형중 검증데이터를 분할할때 기출7을 보면 전체 데이터사이즈는 1000개이고
train = 700 , test = 300입니다 여기서 train_test_split의 test_size를 0.2로한다면
실제 모델이 학습하는 데이터는 560개로 학습하기에는 너무작다고 느껴지고 편향이 있을수 있는데
이렇게 문제에서 제시하는 데이터사이즈가 작더라도 train_test_split을 사용해도 될까요??
답변 2
0
네 맞습니다. 이럴 경우 조심스러운데
다시 전체 데이터를 사용하거나 test_size를 줄이는 방법도 방법입니다.
실무에서는 크로스 밸리데이션으로 검증하고
전체데이터를 활용해 학습시키고 있어요
0
안녕하세요, 인프런 AI 인턴입니다. 강병구님.
질문해 주신 내용은 머신러닝에서 데이터 분할 시 흔히 고민하는 부분 중 하나입니다. 특히 데이터셋의 크기가 작은 경우, 올바르게 데이터를 분할하는 것이 중요합니다. 데이터셋을 나누는 방법과 비율은 모델의 성능에 큰 영향을 미칠 수 있습니다.
기출 7에서 언급하신대로 전체 데이터의 사이즈가 1000개이며, 이를 train과 test로 각각 700개와 300개로 나누는 상황입니다. 여기서 train_test_split의 test_size를 0.2로 설정하면, train 데이터는 560개, validation 데이터는 140개가 됩니다. 이로 인해 실제 학습 데이터의 양이 줄어들어 과소적합이나 편향의 우려가 있을 수 있습니다.
이런 상황에서는 다음과 같은 방법을 고려해 볼 수 있습니다:
- 교차 검증(Cross-validation): 데이터셋이 작을 때 흔히 쓰이는 기법으로, 여러 번의 모델 학습을 통해 편향을 줄일 수 있습니다. 특히 KFold 또는 StratifiedKFold를 사용하여 데이터를 여러 개의 subset으로 나누어 검증할 수 있습니다.
- Train/Validation 비율 조정: train과 validation 데이터 비율을 조정하여 학습 데이터의 비율을 늘리는 방법입니다. 예를 들어, 80% 이상의 데이터를 학습에 사용할 수도 있습니다.
- 데이터 증강(Data Augmentation): 데이터셋의 크기를 인위적으로 증가시키는 방법으로, 실제 데이터가 부족한 경우 유용할 수 있습니다.
아래 유사한 질문 및 답변을 참고하시면서 상황에 맞는 최적의 방법을 선택하실 수 있도록 도와드립니다:
3회기출문제 작업형2 검증데이터 분리 질문: 특정 문제에서 데이터 분할의 구체적인 전략에 대한 논의가 포함되어 있습니다.
검증데이터 분할 할 때 test_size 그리고 머신러닝 분류모델 종류: 데이터 분할 비율 설정에 대한 다양한 사례와 팁을 확인할 수 있습니다.
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
뒤로가기 버튼 같은 것이 있나요?
0
27
1
강의 연장 문의
0
31
1
출력값 질문
0
31
2
수업노트가 어디에 있나요?
0
29
1
실기시험 제출관련
0
160
2
6.20 작업형 2 과적합
0
169
3
코딩팡 장업형2 베이스 라인 인코딩 종류 질문
0
52
2
로지스틱회귀, 회귀
0
52
2
회귀 문제를 풀때 질문입니다.
0
59
1
불균형 처리 후 성능이 더 낮아졌다면,
0
66
2
실기 체험 제2유형 에러 문의
0
66
1
LIGHTGBM 으로 하면 pred값이 소수점 6자리까지 나오는게 맞나요
0
52
2
3번문제 등분산 가정
0
50
2
작업형3 target 형 변환 질문
0
38
2
[작업형1] 연습문제 섹션1 ~ 10 의 section4
0
40
3
원핫인코딩과 레이블 인코딩에서 concat
0
62
2
제2유형 질문입니다.
0
49
2
C()
0
44
2
작업형 2에서 strafity 적용 유무
0
53
2
수강 기간 연장 가능 여부 문의드립니다.
0
63
1
ols
0
44
2
2유형 작성관련 질문(일반 심화)
0
41
2
2유형 작성관련 질문
0
42
2
2유형 object컬럼 개수 다르면
0
49
2





