inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

머신러닝 학습 및 평가 (회귀)

전체적인 머신러닝 순서

3

js05227

작성한 질문수 2

0

 

제미나이 같은 곳에 물어봐도 뭔가 명확한 답을 못 찾겠어서 질문합니다.

EDA
결측치 삭제 또는 채우기
train y값 pop
수치형 데이터 스케일링
범주형 데이터 인코딩
데이터분할
머신러닝 학습 및 평가
테스트 값 도출 및 파일 생성

이러한 과정에서
pop 하는 타이밍, 결측치 처리, 스케일링, 인코딩, 데이터 분할을 어떻게 해야 하는지 순서가 감이 안 옵니다.
과정이 꼬이면 y값 데이터에 영향을 줄까봐 걱정돼서요.

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 1

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. js05227님.

머신러닝 프로젝트의 과정을 이해하는 데 어려움을 겪고 계신 것 같군요. 머신러닝 모델을 구축할 때 일반적인 작업 순서는 다음과 같습니다:

  1. 탐색적 데이터 분석(EDA): 데이터를 이해하고 통계적으로 요약하며 이상치와 결측치를 확인합니다.
  2. 결측치 처리: 데이터 내 결측치를 제거하거나 평균, 중앙값 등으로 대체합니다. 이는 모델이 보다 신뢰할 수 있는 결과를 내도록 돕습니다.
  3. 타겟 변수 분리: 종속 변수(y)를 독립 변수에서 분리합니다. 보통 train_y = train.pop('target')처럼 pop 함수로 타겟 변수를 분리합니다.
  4. 수치형 데이터 스케일링: Min-Max Scaler, Standard Scaler 등으로 수치형 데이터를 스케일링합니다. 이는 모델의 성능을 개선할 수 있습니다.
  5. 범주형 데이터 인코딩: 범주형 특성을 숫자형으로 변환하여 모델에 사용할 수 있게 합니다. 일반적으로 One-Hot Encoding이나 Label Encoding을 사용합니다.
  6. 데이터 분할: 데이터를 학습 및 검증 세트로 분할하여 모델의 일반화 성능을 평가합니다.
  7. 모델 학습 및 평가: 모델을 학습시키고 검증 데이터 이용하여 성능을 평가합니다.
  8. 테스트 데이터 예측 및 파일 생성: 테스트 데이터에 대해 예측을 수행하고 결과를 파일로 저장합니다.

제시한 순서는 일반적인 흐름을 따르지만, 문제의 특성이나 데이터에 따라 유연하게 적용될 수 있습니다. 특히, 결측치 처리와 인코딩, 스케일링은 모델의 성능에 영향을 미칠 수 있으므로 주의해야 합니다.

연관된 질문과 답변으로 참고할 만한 링크를 첨부합니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

빅분기 실기 유형2질문

0

5

0

ID 전처리 이유

0

17

2

데이터제공

0

17

2

예시문제 작업형3 꼬리질문2번

0

8

0

데이터 개수를 구할 때, len과 value_counts 차이

0

14

2

작업형 2 제출방

0

12

2

인코딩 스케일링 순서

0

16

2

실제 시험에서도 공식을 문제에서 주는지

0

14

2

수강 연장 문의

0

13

2

작업형2 정리한 내용 확인 부탁드립니다 ㅜㅜ

0

18

1

14강 "" 사용 관련 질문

0

17

2

캐글 제출 점수

0

23

2

기출 마무리 방법

0

45

2

빅이시 작업형2 기초 - 케이스 1~3 관련 문의

0

28

2

데이터프레임 슬라이싱 인덱싱 질문2

0

27

2

단일표본검정, 샤피로검정, 윌콕슨검정

0

36

2

강의자료 다운로드 여부

0

38

2

문제에 첨부된 예시와 실제 출력된 샘플 비교

0

30

2

원핫 인코딩 관련

0

38

2

타겟 분리

0

39

2

Id 삭제

0

44

2

roc_auc_score 질문: 작업형2 모의문제3 09분 48초

0

39

2

원핫인코딩 코드 질문

0

36

2

map 함수 사용 필수적인가요

0

47

2