feature 중요도 질문입니다.

안녕하세요. 

해당 주피터노트북의 상단에, 

다음 코드로, 학습을 우선 시킨 것이거든요.

models = [

    knn_model,

    logreg_model,

    svc_model,

    decision_model,

    random_model,

    extra_model,

    gbm_model,

    nb_model,

    xgb_model,

    lgbm_model

]

k_fold = KFold(n_splits=10, shuffle=True, random_state=0)           # K-Fold 사용

results = dict()

for alg in models:

    alg.fit(X_train, y_train)

    score = cross_val_score(alg, X_train, y_train.values.ravel(), cv=k_fold, scoring='accuracy')

    results[alg.__class__.__name__] = np.mean(score)*100

그렇게 학습된 모델중, 다음 네개의 모델을 가져와서, 학습하며 계산된 feature_importances_ 를 기준으로 진행하였습니다.

tree_models = [

    random_model,

    extra_model,

    gbm_model,

    xgb_model

]

이 부분 주피터 노트북의 상단 코드를 다시 한번 보시면서, 위 글을 읽어보시면, 바로 이해하실 수 있으실 것 같습니다.

감사합니다.