인프런 커뮤니티 질문&답변

기출 9회 작업2유형 풀이 코드입니다.

# print(train.shape,test.shape) # (4000, 9) (1000, 8)
# print(train.info(), test.info()) # float64(3), int64(2), object(4), float64(3), int64(1), object(4)
# print(train.nunique(), test.nunique()) # 농업면적 4000, 비료사용량 3997, 비료잔여량 4000
# print(train.head(30))

# train = train.drop(columns = '농업면적')
# test = test.drop(columns = '농업면적')

# train = train.drop(columns = '비료사용량')
# test = test.drop(columns = '비료사용량')

# train = train.drop(columns = '비료잔여량')
# test = test.drop(columns = '비료잔여량')
# target = train.pop('농약검출여부')

from sklearn.preprocessing import LabelEncoder
le = LabelEncoder()
cols = train.select_dtypes(include = 'O').columns
for col in cols:
  train[col] = le.fit_transform(train[col])
  test[col] = le.transform(test[col])

from sklearn.model_selection import train_test_split
X_tr, X_val, y_tr, y_val = train_test_split(train, target, test_size =0.2, random_state = 0)

from sklearn.ensemble import RandomForestClassifier
rf = RandomForestClassifier(random_state = 0, max_depth = 11, n_estimators = 200, class_weight = 'balanced')
rf.fit(X_tr, y_tr)
pred = rf.predict(X_val)

from sklearn.metrics import f1_score, accuracy_score, recall_score
print('f1 : ', round(f1_score(y_val, pred, average = 'macro'), 3))
print('acc : ', round(accuracy_score(y_val, pred), 3))
print('recall : ', round(recall_score(y_val, pred, average = 'macro'), 3))

처음 학습을 진행할 때 랜덤포레스트에 class_weight 하이퍼파라미터는 적용하지 않은 상태에서 학습을 진행했고, f1 : 0.887 acc : 0.97 recall : 0.848이라는 높은 수치가 나왔습니다.

GPT 확인해보니 accuracy_score 점수가 f1_score 점수보다 높으면 과적합 문제가 있을 수도 있다고해서

확인을 해보니 과적합 문제는 아닌 것 같았습니다.

이후에 train['농약검출여부'].value_counts()를 해보니 클래스 불균형으로 판단을 했습니다.

(농약검출여부 = (2 : 1989, 0 : 1758, 1 : 253))

확인 후에 class_weight 하이퍼 파라미터를 추가했는데도 수치가 크게 달라지지 않더라구요.

f1 : 0.856 acc : 0.945 recall : 0.887

이런 경우에는 그냥 제출하는게 맞을까요 ?

지난 9회차 시험에 평가지표 수치가 높게 나오긴 했는데 만점은 받았거든요..

그래도 수치가 높으면 좀 불안하네요..