인프런 커뮤니티 질문&답변

안녕하세요! 머신러닝 학습 중에 DT,RF,XGBOOST 모두 선생님이 하신 것과 동일하게 코드 작성하고 실행했는데 모두 결과값이 다르게 나와서요. 제가 무언가를 잘못 한 걸까요??

이게 DT랑 RF는 결과값이 똑같이 나왔습니다.

from sklearn.ensemble import RandomForestClassifier 
rf = RandomForestClassifier()
rf.fit(X_tr[cols], y_tr)
pred = rf.predict_proba(X_val[cols])
pred[:10]

array([[1.],
       [1.],
       [1.],
       [1.],
       [1.],
       [1.],
       [1.],
       [1.],
       [1.],
       [1.]])

이게 XGB입니다.

from xgboost import XGBClassifier 
xgb = XGBClassifier()
xgb.fit(X_tr[cols], y_tr)
pred = xgb.predict_proba(X_val[cols])
pred[:10]

array([[9.999634e-01, 3.657642e-05],
       [9.999634e-01, 3.657642e-05],
       [9.999634e-01, 3.657642e-05],
       [9.999634e-01, 3.657642e-05],
       [9.999634e-01, 3.657642e-05],
       [9.999634e-01, 3.657642e-05],
       [9.999634e-01, 3.657642e-05],
       [9.999634e-01, 3.657642e-05],
       [9.999634e-01, 3.657642e-05],
       [9.999634e-01, 3.657642e-05]], dtype=float32)

그리고 이 예측데이터로 roc_auc 스코어를 뽑아내려고 하니 이런 오류가 뜨면서 안된다고 해서요. 무엇이 문제인지 궁금합니다ㅠㅠ

from sklearn.metrics import roc_auc_score
roc_auc_score(y_val,pred[:,1])

/usr/local/lib/python3.10/dist-packages/sklearn/metrics/_ranking.py in _binary_roc_auc_score(y_true, y_score, sample_weight, max_fpr)
    337     """Binary roc auc score."""
    338     if len(np.unique(y_true)) != 2:
--> 339         raise ValueError(
    340             "Only one class present in y_true. ROC AUC score "
    341             "is not defined in that case."

ValueError: Only one class present in y_true. ROC AUC score is not defined in that case.