강의

멘토링

로드맵

Inflearn brand logo image

인프런 커뮤니티 질문&답변

홍영준님의 프로필 이미지
홍영준

작성한 질문수

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

예시문제 작업형2(ver. 2023)

기출1 작업형2 코드 질문

해결된 질문

작성

·

41

0

import pandas as pd

train = pd.read_csv("data/customer_train.csv")

test = pd.read_csv("data/customer_test.csv")

#1 문제정의

#분류 (ROC_AUC ), TARGET = '성별' 제출할 데이터 2482개

# 사용자 코딩

#2EDA

print(train.shape, test.shape) #제출할 데이터 2482개

print(train.info())

print(train.isnull().sum())

print(test.isnull().sum()) #환불금액 결측치 2295개

 

#3 데이터 전처리

#결측치 처리

aa = train['환불금액'].mode()[0]

print(aa)

train['환불금액'] = train['환불금액'].fillna(aa)

test['환불금액'] = test['환불금액'].fillna(aa)

print(train.isnull().sum())

print(test.isnull().sum())

target = train.pop('성별')

train = pd.get_dummies(train)

test = pd.get_dummies(test)

test = ★test.reindex(columns=train.columns, fill_value=0)

#검증데이터 분리

from sklearn.model_selection import train_test_split

X_tr, X_val, y_tr, y_val = train_test_split(train, target, test_size =0.2, random_state=0)

print(X_tr.shape, X_val.shape, y_tr.shape, y_val.shape)

#학습 및 예측

from sklearn.ensemble import RandomForestClassifier

rf = RandomForestClassifier(random_state=0)

rf.fit(X_tr, y_tr)

pred = rf.predict_proba(X_val)

from sklearn.metrics import roc_auc_score

roc_auc = roc_auc_score(y_val, pred[:,1])

print(roc_auc)

pred = rf.predict_proba(test)

submit = pd.DataFrame({'pred':pred[:,1]})

submit.to_csv('result.csv', index=False)

print(pd.read_csv('result.csv').head(3))

print(pd.read_csv('result.csv').shape)

# 답안 제출 참고

# 아래 코드는 예시이며 변수명 등 개인별로 변경하여 활용

# pd.DataFrame변수.to_csv("result.csv", index=False)

 

기출1회작업형2번 문제 중

결측치를 최빈값으로 채운 뒤 코드 작성하였지만 오류가 떴습니다. 검색결과 train과 test의 컬럼 개수가 다르다고 합니다.

Q. ★test.reindex(columns=train.columns, fill_value=0) 해당 코드를 추가하면 정상적으로 돌아가는데 해당 코드를 추가해도 답에 이상이 없을까요?

답변 3

1

퇴근후딴짓님의 프로필 이미지
퇴근후딴짓
지식공유자

아 그런데 다시 코드를 살펴보니
문제가 하나 있긴합니다.

만약에 정말 만약에
test에만 있는 컬럼이 있다면 자동으로 test에서 제거됩니다.

1

퇴근후딴짓님의 프로필 이미지
퇴근후딴짓
지식공유자

좋은 방법이네요!! 괜찮습니다 🙂

0

안녕하세요, 인프런 AI 인턴입니다. 홍영준님 질문에 답변 드리겠습니다.

질문에서 언급한 test.reindex(columns=train.columns, fill_value=0) 코드는 ‘train’ 데이터의 열과 ‘test’ 데이터의 열이 동일하게 맞춰져 있지 않을 때 유용하게 사용되는 방법 중 하나입니다.

문제 이해

우선, ‘train’ 데이터와 ‘test’ 데이터의 열 수가 다르다면 모델 학습 및 예측 과정에서 문제가 발생할 수 있습니다. 데이터 전처리 과정에서 pd.get_dummies()를 사용하여 범주형 데이터를 더미(다항식) 변수로 변환할 때, ‘train’과 ‘test’ 데이터가 가진 고유 값 범주가 다를 수 있어 열 수가 달라지게 됩니다.

해결 방안

  • reindex 메소드는 ‘train’ 데이터의 컬럼 구성에 맞춰 ‘test’ 데이터를 정렬하고, 없는 열은 0으로 채우도록 해줍니다. 이 과정을 통해 ‘train’과 ‘test’ 데이터 셋의 열 구성이 일치하도록 만들어 줍니다.
  • 그렇기 때문에 test.reindex(columns=train.columns, fill_value=0) 코드를 추가하면 정상적으로 돌아갈 뿐만 아니라, 예측에 필요한 데이터 셋도 적절히 준비됩니다.

결론

해당 코드를 추가하는 것은 올바른 접근이며, 이렇게 하면 ‘train’과 ‘test’ 데이터의 열 수를 맞추어 모델의 예측이 제대로 이루어지도록 조정할 수 있습니다. 따라서 답변에는 아무런 문제가 없으며, 데이터 전처리 과정에서 이와 같은 접근은 일반적입니다.

관련된 유사한 질문과 해결책에 대한 자세한 예제를 살펴보려면 다음 링크들을 참고해 보세요:
- (체험 제2유형)
- 예시문제 작업형 2

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

홍영준님의 프로필 이미지
홍영준

작성한 질문수

질문하기