-
질문 & 답변
카테고리
-
세부 분야
딥러닝 · 머신러닝
-
해결 여부
미해결
target 값에 대한 transformation
22.02.15 05:23 작성 조회수 174
0
안녕하세요 강사님, 좋은 강의와 친절한 설명 항상 감사합니다.
target 값에 대한 transformation에 대한 이유가 선형 회귀의 가정(예측 오류값이 정규분포 형태를 가진다)을 따르기 위해서라고 말씀하셨습니다.
그렇다면 선형 회귀 기반의 L1 L2가 아닌 tree-based model (Randomforest, XGBoost)에 대해서는 y 값에 대해 transformation을 할 필요가 없는 것인가요? 그 이유는 tree model은 선형성을 가정으로 하지 않고 각 node가 각 변수에 대한 condition을 기준으로 Yes/No에 따라 split하기 때문인가요?
답변을 작성해보세요.
0
권 철민
지식공유자2022.02.15
안녕하십니까,
선형회귀의 경우 target값은 skew형태 보다 정규 분포 형태로 바꿔주는게 일반적으로 좋습니다.
트리기반 역시 target값은 skew형태보다는 선형회귀보다는 덜 할수 있지만 정규 분포 형태로 바꿔주는게 좋습니다.
Boosting이나 RF 트리가 split될 때 MSE를 최소화하는 방향성으로 쪼개 질 수 있는데 이때 Skew가 되어 있으면 자꾸 skew가 되어 있는 큰 값으로만 split 되려는 경향성이 있습니다.
그래서 트리기반 역시 타겟값이 skew가 심하게 되어 있을 경우 정규 분포 형태로 바꿔주면 좋습니다.
감사합니다.
답변 1