inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

작업형2유형 검증데이터분리

해결된 질문

32

강병구

작성한 질문수 1

0

작업형 2유형중 검증데이터를 분할할때 기출7을 보면 전체 데이터사이즈는 1000개이고

train = 700 , test = 300입니다 여기서 train_test_split의 test_size를 0.2로한다면

실제 모델이 학습하는 데이터는 560개로 학습하기에는 너무작다고 느껴지고 편향이 있을수 있는데

이렇게 문제에서 제시하는 데이터사이즈가 작더라도 train_test_split을 사용해도 될까요??

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 2

0

퇴근후딴짓

네 맞습니다. 이럴 경우 조심스러운데

다시 전체 데이터를 사용하거나 test_size를 줄이는 방법도 방법입니다.

 

 

실무에서는 크로스 밸리데이션으로 검증하고

전체데이터를 활용해 학습시키고 있어요

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 강병구님.

질문해 주신 내용은 머신러닝에서 데이터 분할 시 흔히 고민하는 부분 중 하나입니다. 특히 데이터셋의 크기가 작은 경우, 올바르게 데이터를 분할하는 것이 중요합니다. 데이터셋을 나누는 방법과 비율은 모델의 성능에 큰 영향을 미칠 수 있습니다.

기출 7에서 언급하신대로 전체 데이터의 사이즈가 1000개이며, 이를 train과 test로 각각 700개와 300개로 나누는 상황입니다. 여기서 train_test_splittest_size를 0.2로 설정하면, train 데이터는 560개, validation 데이터는 140개가 됩니다. 이로 인해 실제 학습 데이터의 양이 줄어들어 과소적합이나 편향의 우려가 있을 수 있습니다.

이런 상황에서는 다음과 같은 방법을 고려해 볼 수 있습니다:
- 교차 검증(Cross-validation): 데이터셋이 작을 때 흔히 쓰이는 기법으로, 여러 번의 모델 학습을 통해 편향을 줄일 수 있습니다. 특히 KFold 또는 StratifiedKFold를 사용하여 데이터를 여러 개의 subset으로 나누어 검증할 수 있습니다.
- Train/Validation 비율 조정: train과 validation 데이터 비율을 조정하여 학습 데이터의 비율을 늘리는 방법입니다. 예를 들어, 80% 이상의 데이터를 학습에 사용할 수도 있습니다.
- 데이터 증강(Data Augmentation): 데이터셋의 크기를 인위적으로 증가시키는 방법으로, 실제 데이터가 부족한 경우 유용할 수 있습니다.

아래 유사한 질문 및 답변을 참고하시면서 상황에 맞는 최적의 방법을 선택하실 수 있도록 도와드립니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

작업형1 강의 수강 완료 후..

0

10

0

작업형1 모의문제 4번에 3)문제 질문

0

16

2

이상치 전처리 작업

0

22

2

평가결과값 문의

0

27

2

시계열 데이터 날짜와 시간 format

0

31

2

평가지표 F1 스코어 질문드립니다.

0

24

2

작업형 2 기출7회분에서

0

37

2

작업형2 모의문제1 (30강)

0

34

2

수강 기간 연장 문의 드립니다.

0

41

2

수강 계획과 관련해 문의 드립니다.

0

28

2

작업형1 - 연습문제 16~39 풀이는 몇강을 보면 되나요?

0

50

2

작업형 1 -연습문제 4-6

0

38

2

작업형 1 유형 부분

0

42

2

작업형 1 (삭제예정, 구 버전)

0

51

2

수강기간 연장 문의드립니다.

0

38

2

2유형 레이블 인코딩 VS 원핫 인코딩

0

37

3

수강기간 연장 문의드립니다.

0

44

2

인덱스 슬라이싱

0

37

2

질문 드립니다.

0

50

2

강의 내용 관련 질문드립니다~

0

46

2

수강 연장 문의

0

63

2

강의자료 일괄 다운로드

0

61

2

수강기간 연장 문의드립니다

0

48

2

list 문제 질문드립니다~

0

38

2