인프런 커뮤니티 질문&답변
작성한 질문수
회귀에서 규제(L1, L2)에 따른 회귀계수의 변화가 궁금합니다.
작성
·
185
0
310페이지에서 보면 NOX의 회귀계수가 -19.8로 나옵니다.
즉, 집값과 NOX가 반대의 영향을 크게 미치는 것처럼 보였는데요.
308페이지의 그래프를 보아도 음의 관계를 갖는거 처럼 나왔습니다.
이렇게 중요해보였던 피쳐가 L1이 적용되면서 0으로 (없어도 되는 피쳐) 되어 버린게 이해가 잘 되지 않습니다.
피쳐의 중요도가 규제에 따라 달라지는건가요? 아니면, 310페이지는 학습이 잘 못되었다고 봐야 하는건가요?
답변 1
0
권 철민
지식공유자
안녕하십니까,
Nox가 그림상으로 보면 그렇게 큰 영향도는 아닌것 같은데, 회귀 계수값이 큰 이유로는 예측건데, 오버피팅이 된 것 같습니다. Linear Regression이 학습이 잘못되었다기 보다는 알고리즘 자체가 오버피팅의 영향도를 더 받을 수 있기 때문에 Regularization을 적용해서 성능이 개선될 수 있는 여지가 많은 걸로 봐야 할 것 같습니다.
피처의 중요도는 규제에 따라 달라질 수 있습니다.