8회 작업형2

[퇴근후딴짓] 빅데이터 분석기사 실기 (작업형1,2,3)

해결된 질문

작성

train = train.drop('customerID', axis=1)
test = test.drop('customerID', axis=1)
target = train.pop('TotalCharges')

train = pd.get_dummies(train)
test = pd.get_dummies(test)

from sklearn.model_selection import train_test_split
X_tr, X_val, y_tr, y_val = train_test_split(train, target, test_size=0.2, random_state=0)
print(X_tr.shape, X_val.shape, y_tr.shape, y_val.shape)

from sklearn.ensemble import RandomForestRegressor
rf = RandomForestRegressor(random_state=0)
rf.fit(X_tr, y_tr)
pred = rf.predict(X_val)
# print(pred)

from sklearn.metrics import mean_squared_error
mse = mean_squared_error(y_val, pred)
print(mse)

pred = rf.predict(test)
result = pd.DataFrame({'pred':pred})
result.to_csv('result.csv', index=False)
print(pd.read_csv('result.csv'))

print(pd.read_csv('result.csv').head())
print(pd.read_csv('result.csv').shape)

원핫인코딩, 랜덤포레스트로 진행했는데

mse 값이

1561363.7676789626

크게 나오는데 이렇게 진행해도 괜찮을까요?

제출파일의 pred값을 확인해보면 선생님이 하셨던 라벨인코딩, lgbm pred 예측값과는 차이가 별로 나지는 않습니다

python 머신러닝 빅데이터 pandas 빅데이터분석기사

답변 2

퇴근후딴짓

지식공유자

네 정상입니다 🙂

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 김범준님.

진행하신 코드에 대해 피드백 드리겠습니다. 현재 코드는 RandomForestRegressor를 사용하여 예측을 수행하고 있으며, 데이터 전처리에서 범주형 변수를 원-핫 인코딩하는 과정을 포함하고 있습니다. 주요한 코딩 부분에서는 큰 문제 없이 잘 처리되어 있습니다.

MSE가 큰 이유:
- Mean Squared Error (MSE)는 예측 값과 실제 값의 차이를 제곱해 평균한 값으로, 높은 값은 예측 모델이 실제와 많이 다르다는 것을 의미합니다. 이는 다양한 요인에 의해 발생할 수 있습니다.

데이터 스케일:
- TotalCharges 변수의 값이 상당히 큰 경우, MSE 역시 더 커집니다. 예측 대상의 범위를 확인하여 필요하다면 피처 스케일링(예: StandardScaler 또는 MinMaxScaler)을 테스트해 볼 수 있습니다.
파라미터 조정:
- RandomForestRegressor의 하이퍼파라미터를 튜닝하여 성능을 향상시킬 수 있습니다. 예를 들어, 트리의 개수, 분할 규칙 등을 조정하여 개선을 시도할 수 있습니다.
모델 변경:
- LGBMRegressor와 같은 다른 머신러닝 모델을 사용하여 성능을 비교할 수 있습니다. 실제로 lgbm에서 더 나은 결과를 제공할 수도 있으며, 이를 통해 어떤 모델이 해당 데이터에 적합한지 파악할 수 있습니다.

관련된 게시물을 추천드리니, 코드와 과정에서 도움을 받으시길 바랍니다:
- 작업형2 모의문제2: 원-핫 인코딩 및 모델 선택에 관한 문제를 다루고 있습니다.
- 시험환경 ver.2025 작업형2 RMSE: 데이터 전처리 및 결과 개선에 대한 논의가 포함되어 있습니다.

저는 질문자님의 이해를 돕고자 지식 공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

인프런 커뮤니티 질문&답변

8회 작업형2