• 카테고리

    질문 & 답변
  • 세부 분야

    딥러닝 · 머신러닝

  • 해결 여부

    미해결

GBM, LightGBM, XGboost의 알고리즘이 모두 Decision Tree인가요?

21.10.23 08:35 작성 조회수 182

0

선생님, 열심히 공부하고 있는 학생입니다~!!

 

GBM, LightGBM, XGboost를 보면 데이터를 샘플링하는 기법이라던지, 오차를 처리하는 기법의 차이인거 같은데

내부에서 사용하고 있는 분류 알고리즘은 Decision Tree를 사용하는 건가요? 아니면 다른 알고리즘을 사용하는건지 궁금합니다.

만약 다양한 알고리즘을 사용할 수 있다면, sklearn패키지에서는 어떤 알고리즘을 사용하고 있는지 궁금합니다.

 

답변 1

답변을 작성해보세요.

0

안녕하십니까, 

GBM, LightGBM, XGboost의 내부에서 사용하는 분류 알고리즘이라는게 정확히 뭔지 제가 잘 이해는 못했지만, 의미상으로는 이들 알고리즘이 여러개의 Decision Tree 모델이 앙상블된 개념이고, 그때 단일 알고리즘으로 Decision Tree를 모두 사용하는 것을 물어보는 것으로 생각됩니다만(아니면 다시 말씀해 주십시요)

네, GBM, LightGBM, XGboost는 여러개의 Decision Tree들을 기반으로 동작합니다. 물론 이 Decision Tree를 만드는 로직들이 조금씩 다를 순 있습니다. 그러니까 예를 들어 XGBoost내의 단일 Decision Tree는 원래 Decision Tree 알고리즘과 조금 다르거나 좀 더 여러가지 기능이 포함되어 있습니다.

감사합니다.