inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

예시문제 작업형2(ver. 2023)

기출1 작업형2 코드 질문

해결된 질문

71

홍영준

작성한 질문수 12

0

import pandas as pd

train = pd.read_csv("data/customer_train.csv")

test = pd.read_csv("data/customer_test.csv")

#1 문제정의

#분류 (ROC_AUC ), TARGET = '성별' 제출할 데이터 2482개

# 사용자 코딩

#2EDA

print(train.shape, test.shape) #제출할 데이터 2482개

print(train.info())

print(train.isnull().sum())

print(test.isnull().sum()) #환불금액 결측치 2295개

 

#3 데이터 전처리

#결측치 처리

aa = train['환불금액'].mode()[0]

print(aa)

train['환불금액'] = train['환불금액'].fillna(aa)

test['환불금액'] = test['환불금액'].fillna(aa)

print(train.isnull().sum())

print(test.isnull().sum())

target = train.pop('성별')

train = pd.get_dummies(train)

test = pd.get_dummies(test)

test = ★test.reindex(columns=train.columns, fill_value=0)

#검증데이터 분리

from sklearn.model_selection import train_test_split

X_tr, X_val, y_tr, y_val = train_test_split(train, target, test_size =0.2, random_state=0)

print(X_tr.shape, X_val.shape, y_tr.shape, y_val.shape)

#학습 및 예측

from sklearn.ensemble import RandomForestClassifier

rf = RandomForestClassifier(random_state=0)

rf.fit(X_tr, y_tr)

pred = rf.predict_proba(X_val)

from sklearn.metrics import roc_auc_score

roc_auc = roc_auc_score(y_val, pred[:,1])

print(roc_auc)

pred = rf.predict_proba(test)

submit = pd.DataFrame({'pred':pred[:,1]})

submit.to_csv('result.csv', index=False)

print(pd.read_csv('result.csv').head(3))

print(pd.read_csv('result.csv').shape)

# 답안 제출 참고

# 아래 코드는 예시이며 변수명 등 개인별로 변경하여 활용

# pd.DataFrame변수.to_csv("result.csv", index=False)

 

기출1회작업형2번 문제 중

결측치를 최빈값으로 채운 뒤 코드 작성하였지만 오류가 떴습니다. 검색결과 train과 test의 컬럼 개수가 다르다고 합니다.

Q. ★test.reindex(columns=train.columns, fill_value=0) 해당 코드를 추가하면 정상적으로 돌아가는데 해당 코드를 추가해도 답에 이상이 없을까요?

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 3

1

퇴근후딴짓

아 그런데 다시 코드를 살펴보니
문제가 하나 있긴합니다.

만약에 정말 만약에
test에만 있는 컬럼이 있다면 자동으로 test에서 제거됩니다.

1

퇴근후딴짓

좋은 방법이네요!! 괜찮습니다 🙂

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 홍영준님 질문에 답변 드리겠습니다.

질문에서 언급한 test.reindex(columns=train.columns, fill_value=0) 코드는 ‘train’ 데이터의 열과 ‘test’ 데이터의 열이 동일하게 맞춰져 있지 않을 때 유용하게 사용되는 방법 중 하나입니다.

문제 이해

우선, ‘train’ 데이터와 ‘test’ 데이터의 열 수가 다르다면 모델 학습 및 예측 과정에서 문제가 발생할 수 있습니다. 데이터 전처리 과정에서 pd.get_dummies()를 사용하여 범주형 데이터를 더미(다항식) 변수로 변환할 때, ‘train’과 ‘test’ 데이터가 가진 고유 값 범주가 다를 수 있어 열 수가 달라지게 됩니다.

해결 방안

  • reindex 메소드는 ‘train’ 데이터의 컬럼 구성에 맞춰 ‘test’ 데이터를 정렬하고, 없는 열은 0으로 채우도록 해줍니다. 이 과정을 통해 ‘train’과 ‘test’ 데이터 셋의 열 구성이 일치하도록 만들어 줍니다.
  • 그렇기 때문에 test.reindex(columns=train.columns, fill_value=0) 코드를 추가하면 정상적으로 돌아갈 뿐만 아니라, 예측에 필요한 데이터 셋도 적절히 준비됩니다.

결론

해당 코드를 추가하는 것은 올바른 접근이며, 이렇게 하면 ‘train’과 ‘test’ 데이터의 열 수를 맞추어 모델의 예측이 제대로 이루어지도록 조정할 수 있습니다. 따라서 답변에는 아무런 문제가 없으며, 데이터 전처리 과정에서 이와 같은 접근은 일반적입니다.

관련된 유사한 질문과 해결책에 대한 자세한 예제를 살펴보려면 다음 링크들을 참고해 보세요:
- (체험 제2유형)
- 예시문제 작업형 2

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

강의 관련 질문

0

7

0

작업형 2 질문

0

12

2

강의 연장 관련하여 문의드립니다.

0

18

1

섹션7 자료 다운로드

0

20

2

작업형 1 연습문제 Section12

0

18

2

수강기간 연장 문의

0

30

1

안녕하세요, 혹시 수강기간 연장이 가능할까요?

0

28

2

판다스 강의자료는 어디서 받을 수 있나요?

0

27

2

작업형2 모의고사3 자료 업데이트 요청

0

34

4

수강 연장가능여부 문의드립니다!

0

38

2

수강기간 연장 문의드립니다!

0

35

2

최빈값

0

36

2

수강 가이드라인

0

31

2

수강 연장 가능 여부 문의

0

56

2

강의 구매했는데 교재 필수일까요

0

44

2

수강기간 연장 가부 문의드립니다.

0

41

2

수강기간 연장이 가능한지 양해를 구하며 문의를 드립니다.

0

43

2

작업형2 모의문제2에서 drop이랑 인코딩

0

52

3

인코딩을 다 꼭 해봐야하는지

0

51

2

안녕하세요? 강사님 질문있습니다.(인코딩관련)

0

62

2

이진분류에서 양성 클래스가 0일 때 평가 방법

0

46

2

원핫인코딩 전 train과 test 병합여부

0

53

2

수강기간 연장

0

72

2

29강 작업2형의 이상치 처리

0

70

2