-
질문 & 답변
카테고리
-
세부 분야
딥러닝 · 머신러닝
-
해결 여부
미해결
강사님 선형회귀 - 피처 스케일링 관련 질문이 있습니다.
22.01.11 16:27 작성 조회수 439
0
안녕하세요 강사님
선형회귀 - 피처스케일링 관련 질문이 있습니다.
사이킷런 LinearRegression 예제에서 보스턴 주택 가격 데이터의 피처별 단위 차이가 큽니다.
데이터 스케일링 없이 선형회귀로 학습했기에,
상대적으로 단위가 작은 NOX 회귀계수가 크게 나온것이 아닌가라는 생각하게 되었는데요.
그래서 해당 데이터에 MinMaxscaler를 적용하고 계수를 도출해보았습니다.
질문은 다음과 같습니다. 신경망과 같은 알고리즘은 데이터 스케일(단위)에 민감한 것 알고있습니다.
1. 선형회귀에서는 (데이터의 정규분포 형태와 달리) 피처 단위에 대한 정규화는 중요시되지 않는지 궁금합니다.
2. 또한, 분류에서 배운 피처 선택(feature selection) 관련하여, 피처 스케일링 후 학습을 수행해서 도출된 회귀계수가 feature importance에 더 적합한 것 같다는 생각이 들었는데, 맞는 생각일까요?
답변을 작성해보세요.
0
권 철민
지식공유자2022.01.12
안녕하십니까,
1. 선형회귀에서는 (데이터의 정규분포 형태와 달리) 피처 단위에 대한 정규화는 중요시되지 않는지 궁금합니다.
=> 반드시 그런것은 아니지만 선형 회귀에서는 피처단위의 정규화(standard scaling, min/max scaling)을 적용해 주는것이 좋습니다. 좀 더 강의를 들으시면 해당 내용에 대해서 다루고 있습니다.
2. 또한, 분류에서 배운 피처 선택(feature selection) 관련하여, 피처 스케일링 후 학습을 수행해서 도출된 회귀계수가 feature importance에 더 적합한 것 같다는 생각이 들었는데, 맞는 생각일까요?
=> 분류에서는 트리 기반 알고리즘만 말씀드렸습니다. 트리 알고리즘의 경우 feature importance는 트리 분할에 피처들이 어떤 역할을 하였는지에 중요도를 부과합니다. 트리 기반 알고리즘은 피처 스케일링에 크게 영향 받지 않습니다. 일반적으로 선형 회귀의 경우는 피처 스케일링 후 구한 회귀 계수를 feature importance 대용으로 적용합니다.
감사합니다.
답변 1