-
질문 & 답변
카테고리
-
세부 분야
딥러닝 · 머신러닝
-
해결 여부
미해결
라쏘 회귀
22.07.12 23:00 작성 조회수 149
0
릿지 회귀에서는 alpha값이 1일때 NOX의 회귀값이 -10.77로 나왔는데, 라쏘회귀에서는 alpha값이 0.7일때 Nox의 회귀값이 다른 컬럼들의 회귀 계수값의 비해 특히 더 줄어 0을 띄는 이유가 궁금합니다 책에서는 L1 규제는 불필요한 회귀 계수를 급격하게 감소시켜 0으로 만들고 제거한다 라고 나와있는데 이것 때문에 Nox의 회귀 계수 값이 급격히 줄어든것이라면 L1규제는 어떤 지표를 보고 불필요한 회귀 계수를 판별하는것인가요?
답변을 작성해보세요.
0
권 철민
지식공유자2022.07.13
안녕하십니까,
먼저 릿지의 alpha값에 따른 회귀 계수와 Lasso의 alpha값에 따른 회귀 계수는 서로 다릅니다.
L1 규제가 어떤 지표를 보고 회귀 계수를 판별한다는 개념보다는 Loss 식에 L1 규제를 추가하였다는 개념으로 생각해 주시면 될 것 같습니다.
L1 규제를 수학적으로 풀어드리기에는 너무 범위가 넓고, 요약해서 말씀 드리면 절대값 기반으로 L1 규제를 적용하면 전체 회귀 식에서 영향력이 적은 피처들의 회귀 계수는 지속적으로 작아지게 됩니다. 그래서 0에 가깝게 됩니다. 그런 측면에서 Nox의 회귀 계수가 0에 가깝게 되었다고 생각해 주시면 될 것 같습니다.
감사합니다.
답변 1