인프런 커뮤니티 질문&답변

안녕하세요 혼자 문제 풀이를 해보다가 제가 작성한 코드들이 문제가 없는지 여쭤보고싶습니다.

그리고 마지막 제출단계에서 test 데이터에 'Attritino_Flag'를 삭제했는데 (drop을 안시키고 작성했는데 오류가 뜨더니 자동으로 drop시키는 코드로 수정되었습니다.) 왜 삭제해야 오류가 안나는지 궁금합니다.

# 1. 문제 정의 (분류) target: Atrrition_Flag(1: 이탈, 0: 유지)
# 2. 데이터 불러오기

# 3. 탐색적 데이터 분석(EDA)
# train.info() # dtypes: float64(5), int64(11), object(5)
# train.isnull().sum() # 0
# train.describe(include='O')
# test.info() # dtypes: float64(5), int64(10), object(5)
# test.isnull().sum() # 0
# train['Attrition_Flag'].value_counts() # 0: 6815, 1: 1286

# 4. 데이터 전처리(인코딩, 데이터 전처리)
# 4-1. 원핫인코딩
data = pd.concat([train, test], axis = 0)
data = pd.get_dummies(data)

train = data.iloc[:len(train)].copy()
test = data.iloc[len(train):].copy()

# train.info() # bool(23), float64(6), int64(10)
# test.info() # bool(23), float64(6), int64(10)

# 5. 검증 데이터 나누기
from sklearn.model_selection import train_test_split
X_tr, X_val, y_tr, y_val = train_test_split(
    train.drop('Attrition_Flag',axis=1), train['Attrition_Flag'], test_size = 0.2, random_state = 0
)

# 6. 모델 학습 및 평가
# 6-1. 모델불러오기
from sklearn.ensemble import RandomForestClassifier
rf = RandomForestClassifier(random_state=0)
# 6-2. 학습(fit)
rf.fit(X_tr, y_tr)
# 6-3. 예측(predict)
pred = rf.predict(X_val)

# 6-4. 예측 결과 확인
# pred[:10]
# rf.classes_
# pred

# 6-5. 평가
# 평가: ROC-AUC, 정확도(Accuracy), F1, 정밀도(Precision), 재현율(Recall)
from sklearn.metrics import roc_auc_score, accuracy_score, f1_score, precision_score, recall_score

accuracy = accuracy_score(y_val, pred)
print('accuracy:',accuracy) # accuracy: 0.9549660703269587
f1 = f1_score(y_val, pred)
print('f1:',f1) # f1: 0.8381374722838137
precision = precision_score(y_val, pred)
print('precision:',precision) # precision: 0.9264705882352942
recall = recall_score(y_val, pred)
print('recall:',recall) # recall: 0.7651821862348178

pred = rf.predict_proba(X_val)
roc_auc = roc_auc_score(y_val, pred[:,1])
print('roc_auc:',roc_auc) # roc_auc: 0.9860421123349186


# 7. 제출
pred = rf.predict_proba(test.drop('Attrition_Flag', axis=1))
pred
submit = pd.DataFrame({
    'CLIENTNUM': test['CLIENTNUM'],
    'Attrition_Flag': pred[:,1]
})
submit.to_csv('000000.csv',index=False)