[R 프로그래밍]빅분기 필수! 앙상블,배깅, 부스팅 완벽정

빅데이터분석기사 필기/실기 단골 출제 파트! 앙상블 개념부터 R gbm() 패키지 실습까지 한 번에 정리합니다.

앙상블(배깅, 부스팅, AdaBoost) 핵심 개념을 빠르게 파악하고 싶은 분

R을 활용한 오존 및 스팸메일 데이터 분석 실습이 필요한 분

OOB, Cross-Validation 기반 최적 모수(n.trees 등) 프로그래밍을 배우고 싶은 분

• 
  

• 앙상블(Ensemble Learning)

  • 여러 예측모형을 학습한 후 결합하여 하나의 최종 예측모형을 만드는 방법

  • 학습 알고리즘, 모델 파라미터, 학습데이터 등을 다양화

• 배깅(Bagging)

  • 원자료에서 여러 개의 Bootstrap 표본을 추출

  • 각각의 표본으로 분류기를 학습

  • 여러 분류기의 결과를 평균 또는 다중투표로 결합

    
    

• 부스팅(Boosting)

  • 약한 예측모형(Weak Learner)을 여러 개 결합하여 강한 예측모형

  • 잘못 분류된 데이터에 더 큰 가중치를 부여

    
    

• AdaBoost

  • 초기에는 각 데이터에 동일한 가중치를 부여

  • 분류 → 오류 계산 → 분류기의 중요도 α 계산 → 데이터 가중치 갱신을 반복

  • 최종적으로 각 분류기의 예측을 가중합하여 최종 분류

• Generalized Boosted Models

  • gbm()을 이용한 오존 데이터와 스팸메일 데이터 분석

  • n.trees, shrinkage, interaction.depth, cv.folds 등의 모수 사용

  • OOB 및 Cross-Validation을 이용해 최적 반복 횟수를 결정하는 예제