• 카테고리

    질문 & 답변
  • 세부 분야

    딥러닝 · 머신러닝

  • 해결 여부

    미해결

산탄데르 데이터의 precision과 recall

21.07.16 13:19 작성 조회수 109

0

안녕하세요 강사님

산탄데르 데이터와 신용카드 데이터를 실습해보며 질문이 생겼습니다

신용카드 데이터는 precision과 recall이 나쁘지 않게 나오는데 산탄데르 데이터에 대한 precision과 recall은 아래의 결과와 같이 굉장히 안좋습니다

원인이 무엇인가요??

개선할 수 있는 방법이 있나요?

답변 1

답변을 작성해보세요.

0

안녕하십니까, 

일단 해당 실습 모델은 최적화된 모델이 아닙니다. 그리고 GridSearchCV도 ROC-AUC를 기준으로 수립된것입니다(이 역시 많은 하이퍼 파라미터 튜닝을 한것이 아닙니다)

고객 불만이 데이터가 전체의 4% 정도로 낮은데, 이 낮은 개수의 고객 불만데이터의  Positive 값 예측이 잘 안되서 그렇습니다. 

Precision은 조금 튜닝하면 더 나아집니다. 그런데 Recall이 낮습니다. 

precision은 tp/(fp + tp) 인데, confusion matrix를 보시면 tp가 2, fp가 4여서 0.33이 나옵니다.

보시면 fn이 600이나 됩니다. recall은 tp/(fn+tp) 그래서 2/602 가 나오게 됩니다. 여기서 fn을 줄여서 tp로 어떻게든 유도해야 하는데, 이럴려면 좀 더 다양한 성능 기법을 적용해 보아야 합니다. 

해당 실습은 성능 튜닝을 목표로 한것 보다는 xgboost, lightgbm의 사용에 익숙해지기 위한 실습 코드입니다. 

recall을 높이려면 모델 튜닝을 저도 수행해 봐야 합니다. 해당 건은 Q&A로는 답변 드리기가 어려 울 것 같습니다.  나중에 개정판 계획할 때 Recall 모델 튜닝도 같이 해보도록 하겠습니다. 

감사합니다. 

답변 감사합니다

혹시 다양한 성능 기법에는 무슨 방법이 있는지 알려주실 수 있으신가요?

음 지금으로선 돌려보지 얺고는 뭐라 말씀드리기가 어려울것 같습니다 

SMOTE 후 LightGBM으로 피처 스케일링 없이 학습시켰더니 매우 좋은 결과를 얻었습니다

오 대단하시군요.  저도 잘 배웠습니다