Inflearn コミュニティ Q&A

안녕하세요, 강사님.

수업에서 다루지 않은 내용이지만 질문할 곳이 없어 이렇게 글을 남깁니다.

저는 혼자서 코드 필사를 하며 머신러닝을 공부하고 있는데, 일부 코드가 이해가 잘 되지 않아 문의드립니다.

제가 질문하고 싶은 코드의 흐름은 다음과 같습니다.

1. 트리 깊이에 따라 모델 성능 비교

2. 적절한 트리 깊이 선택

3. 선택한 트리를 시각화

코드 필사를 하면서 트리 깊이를 선택하는 과정은 이해했지만, 트리 깊이를 선택한 후에 트리를 시각화하기 전에 학습 데이터만 사용하여 모델을 fit하는 것이 의문이 들었습니다.

model = DecisionTreeClassifier(max_depth=5, criterion='entropy')

model.fit(X.iloc[train_idx], Y.iloc[train_idx])

개인적으로는 타겟값 원인 분석을 위해 학습 데이터와 검증 데이터를 함께 사용하는 것이 더 나을 것 같은데, 이 부분이 맞는지 확신이 서지 않아 문의드립니다.

혹시 이에 대해 설명해주실 수 있을까요?

아래는 질문 관련 코드입니다.

# Parameter Searching ==> Depth 2 ~ 10

for i in range(2,11,1):

    print(">>>> Depth {}".format(i))

    model = DecisionTreeClassifier(max_depth=i, criterion='entropy')

    model.fit(X.iloc[train_idx], Y.iloc[train_idx])

    # Train Acc

    y_pre_train = model.predict(X.iloc[train_idx])

    cm_train = confusion_matrix(Y.iloc[train_idx], y_pre_train)

    print("Train Confusion Matrix")

    print(cm_train)

    print("Train Acc : {}".format((cm_train[0,0] + cm_train[1,1])/cm_train.sum()))

    # Test Acc

    y_pre_test = model.predict(X.iloc[valid_idx])

    cm_test = confusion_matrix(Y.iloc[valid_idx], y_pre_test)

    print("Valid Confusion Matrix")

    print(cm_test)

    print("TesT Acc : {}".format((cm_test[0,0] + cm_test[1,1])/cm_test.sum()))

    print("-----------------------------------------------------------------------")

    print("-----------------------------------------------------------------------")

# Depth가 깊어질 수록 정확도는 높게 나오지만 해석력에 대한 가독성을 위해 Depth 5를 선택함 

model = DecisionTreeClassifier(max_depth=5, criterion='entropy')

model.fit(X.iloc[train_idx], Y.iloc[train_idx])

from sklearn import tree

# Creating the tree plot

# Creating the tree plot (left = True, Right = False)

tree.plot_tree(model, filled=True, feature_names=X.columns, class_names = ['BAD', 'GOOD'])

plt.rcParams['figure.figsize'] = [40,10]