• 카테고리

    질문 & 답변
  • 세부 분야

    딥러닝 · 머신러닝

  • 해결 여부

    미해결

무슨 원리로 두가지 알고리즘이 차이가 심한건가요?

21.05.28 23:12 작성 조회수 85

0

무슨 원리로 두가지 알고리즘이 차이가 심한건가요?

마지막 SMOTE오버 샘플링 할 때 어떤 원리로 차이가 심한건지 알고 싶습니다.

답변 1

답변을 작성해보세요.

2

안녕하십니까,

두가지 알고리즘이 어떤걸 말씀하시는지 정확히는 모르겠지만, 문맥상 SMOTE 적용시  LogisticRegression과 LightGM의 성능 차이를 얘기하는 걸로 가정하겠습니다(아니면 다시 말씀해 주십시요)

결론 부터 말씀 드리면 왜 LogisticRegression이 그렇게 나빠지는지 잘 모르겠습니다. 

SMOTE를 학습 데이터를 만들시 관건은 만들어진 학습데이터가 기존의 학습 데이터를 어느정도 신뢰도를 가지고 만들어지느냐가 관건 입니다.

비슷한 논의가 예전에도 제 주변에서 한번 있었습니다만, 예를 들어 Logistic Regression이 원래 imbalanced 한 데이터 셋에서는 성능이 좋지않아서 SMOTE할 경우에도 성능이 저하 된다라는 등(저는 동의하지 않습니다만),  또는 선형 회귀 기반은 트리 기반에 비해서 Imbalanced 데이터 셋에 약하다는등(이건 이론적 근거를 찾지 못했습니다)의 의견이 있었지만, 정확히 결론을 내리지 못했습니다.

명확하진 않지만, LightGBM이 상대적으로 Imbalance Dataset에서 다른 알고리즘에 비해 더 강건하여 SMOTE 결과도 더 좋은 것으로 생각됩니다 정도가 제가 현재 드릴 수 있는 답변입니다.

감사합니다!! 방학때 이거 남은거 수강하고 딥러닝도 수강하겠습니다!!