인프런 커뮤니티 질문&답변

안녕하세요. 답변 도우미입니다.

회귀 모델에서 음수 예측값이 나오는 이유와 로그 변환의 필요성에 대해 설명드리겠습니다.

이유 1: 모델의 특성

LinearRegression과 같은 선형 회귀 모델은 종속 변수(y 값)에 대해 선형 관계를 가정합니다. 즉, 모델은 (y = \beta_0 + \beta_1 x_1 + \beta_2 x_2 + \ldots + \beta_n x_n) 형태의 예측을 수행합니다. 이 때, 독립 변수(x 값)들의 조합에 따라 예측값(y 값)이 음수가 될 수 있습니다.

이유 2: 타겟 변수의 분포

자전거 대여 수(count) 데이터는 보통 0 이상의 값을 가집니다. 그러나 모델이 이를 고려하지 않고 회귀 직선을 적합시키면, 일부 경우에서 음수 값이 예측될 수 있습니다. 이는 특히 데이터의 분포가 비대칭적이거나 정규 분포가 아닐 때 더 두드러집니다.

로그 변환의 이유

로그 변환은 종속 변수의 분포를 정규화하는 데 도움이 됩니다. 로그 변환을 통해 데이터의 분포를 보다 정규 분포에 가깝게 만들 수 있습니다. 이렇게 하면 모델이 예측하는 값이 음수가 될 확률이 줄어듭니다. 로그 변환을 적용하면 다음과 같은 효과를 기대할 수 있습니다:

1. 정규화: 로그 변환은 오른쪽으로 치우친 분포를 보다 대칭적인 분포로 만들어줍니다.

2. 변동성 감소: 큰 값들의 변동성을 줄여주어 모델이 더 안정적으로 예측할 수 있게 합니다.

3. 모델의 성능 향상: 회귀 모델의 가정(예: 선형성)을 더 잘 만족시켜 모델의 성능을 향상시킬 수 있습니다.

실습 예제

다음은 로그 변환을 적용하여 LinearRegression 모델을 사용하는 예제입니다:

import numpy as np
import pandas as pd
from sklearn.linear_model import LinearRegression
​
# 예시 데이터 로드
# df_train, df_test는 자전거 대여 데이터를 포함하는 데이터프레임입니다.
df_train = pd.read_csv('train.csv')
df_test = pd.read_csv('test.csv')
​
ml_columns = ['feature1', 'feature2', 'feature3']  # 적절한 피처로 변경하세요.
​
# 입력 변수와 타겟 변수 설정
X_train = df_train[ml_columns].copy()
y_train = np.log1p(df_train['count']).copy()  # 로그 변환 적용
X_test = df_test[ml_columns].copy()
​
# 모델 학습 및 예측
LiRe = LinearRegression()
LiRe_model = LiRe.fit(X_train, y_train)
y_pred_log = LiRe_model.predict(X_test)
​
# 로그 변환된 값을 원래 스케일로 복원
y_pred = np.expm1(y_pred_log)
​
print(y_pred)

이와 같이 로그 변환을 통해 예측값을 처리하면 음수 값이 나오는 것을 방지할 수 있으며, 모델의 예측 성능도 향상시킬 수 있습니다.

감사합니다.