inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

예시문제 작업형2(ver. 2023)

기출1 작업형2 코드 질문

해결된 질문

56

홍영준

작성한 질문수 12

0

import pandas as pd

train = pd.read_csv("data/customer_train.csv")

test = pd.read_csv("data/customer_test.csv")

#1 문제정의

#분류 (ROC_AUC ), TARGET = '성별' 제출할 데이터 2482개

# 사용자 코딩

#2EDA

print(train.shape, test.shape) #제출할 데이터 2482개

print(train.info())

print(train.isnull().sum())

print(test.isnull().sum()) #환불금액 결측치 2295개

 

#3 데이터 전처리

#결측치 처리

aa = train['환불금액'].mode()[0]

print(aa)

train['환불금액'] = train['환불금액'].fillna(aa)

test['환불금액'] = test['환불금액'].fillna(aa)

print(train.isnull().sum())

print(test.isnull().sum())

target = train.pop('성별')

train = pd.get_dummies(train)

test = pd.get_dummies(test)

test = ★test.reindex(columns=train.columns, fill_value=0)

#검증데이터 분리

from sklearn.model_selection import train_test_split

X_tr, X_val, y_tr, y_val = train_test_split(train, target, test_size =0.2, random_state=0)

print(X_tr.shape, X_val.shape, y_tr.shape, y_val.shape)

#학습 및 예측

from sklearn.ensemble import RandomForestClassifier

rf = RandomForestClassifier(random_state=0)

rf.fit(X_tr, y_tr)

pred = rf.predict_proba(X_val)

from sklearn.metrics import roc_auc_score

roc_auc = roc_auc_score(y_val, pred[:,1])

print(roc_auc)

pred = rf.predict_proba(test)

submit = pd.DataFrame({'pred':pred[:,1]})

submit.to_csv('result.csv', index=False)

print(pd.read_csv('result.csv').head(3))

print(pd.read_csv('result.csv').shape)

# 답안 제출 참고

# 아래 코드는 예시이며 변수명 등 개인별로 변경하여 활용

# pd.DataFrame변수.to_csv("result.csv", index=False)

 

기출1회작업형2번 문제 중

결측치를 최빈값으로 채운 뒤 코드 작성하였지만 오류가 떴습니다. 검색결과 train과 test의 컬럼 개수가 다르다고 합니다.

Q. ★test.reindex(columns=train.columns, fill_value=0) 해당 코드를 추가하면 정상적으로 돌아가는데 해당 코드를 추가해도 답에 이상이 없을까요?

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 3

1

퇴근후딴짓

아 그런데 다시 코드를 살펴보니
문제가 하나 있긴합니다.

만약에 정말 만약에
test에만 있는 컬럼이 있다면 자동으로 test에서 제거됩니다.

1

퇴근후딴짓

좋은 방법이네요!! 괜찮습니다 🙂

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 홍영준님 질문에 답변 드리겠습니다.

질문에서 언급한 test.reindex(columns=train.columns, fill_value=0) 코드는 ‘train’ 데이터의 열과 ‘test’ 데이터의 열이 동일하게 맞춰져 있지 않을 때 유용하게 사용되는 방법 중 하나입니다.

문제 이해

우선, ‘train’ 데이터와 ‘test’ 데이터의 열 수가 다르다면 모델 학습 및 예측 과정에서 문제가 발생할 수 있습니다. 데이터 전처리 과정에서 pd.get_dummies()를 사용하여 범주형 데이터를 더미(다항식) 변수로 변환할 때, ‘train’과 ‘test’ 데이터가 가진 고유 값 범주가 다를 수 있어 열 수가 달라지게 됩니다.

해결 방안

  • reindex 메소드는 ‘train’ 데이터의 컬럼 구성에 맞춰 ‘test’ 데이터를 정렬하고, 없는 열은 0으로 채우도록 해줍니다. 이 과정을 통해 ‘train’과 ‘test’ 데이터 셋의 열 구성이 일치하도록 만들어 줍니다.
  • 그렇기 때문에 test.reindex(columns=train.columns, fill_value=0) 코드를 추가하면 정상적으로 돌아갈 뿐만 아니라, 예측에 필요한 데이터 셋도 적절히 준비됩니다.

결론

해당 코드를 추가하는 것은 올바른 접근이며, 이렇게 하면 ‘train’과 ‘test’ 데이터의 열 수를 맞추어 모델의 예측이 제대로 이루어지도록 조정할 수 있습니다. 따라서 답변에는 아무런 문제가 없으며, 데이터 전처리 과정에서 이와 같은 접근은 일반적입니다.

관련된 유사한 질문과 해결책에 대한 자세한 예제를 살펴보려면 다음 링크들을 참고해 보세요:
- (체험 제2유형)
- 예시문제 작업형 2

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

1유형 강의 다 나간 후 어떻게 할까요?

0

13

1

점수차가 많이 나는데 따로 하신게 있으신가요?

0

10

1

작업형1 모의문제 4번에 3)문제 질문

0

21

2

이상치 전처리 작업

0

25

2

평가결과값 문의

0

29

2

시계열 데이터 날짜와 시간 format

0

35

2

평가지표 F1 스코어 질문드립니다.

0

27

2

작업형 2 기출7회분에서

0

38

2

작업형2 모의문제1 (30강)

0

34

2

수강 기간 연장 문의 드립니다.

0

42

2

수강 계획과 관련해 문의 드립니다.

0

30

2

작업형1 - 연습문제 16~39 풀이는 몇강을 보면 되나요?

0

50

2

작업형 1 -연습문제 4-6

0

38

2

작업형 1 유형 부분

0

42

2

작업형 1 (삭제예정, 구 버전)

0

51

2

수강기간 연장 문의드립니다.

0

38

2

2유형 레이블 인코딩 VS 원핫 인코딩

0

37

3

수강기간 연장 문의드립니다.

0

44

2

인덱스 슬라이싱

0

37

2

질문 드립니다.

0

50

2

강의 내용 관련 질문드립니다~

0

46

2

수강 연장 문의

0

63

2

강의자료 일괄 다운로드

0

62

2

수강기간 연장 문의드립니다

0

48

2