라소,릿지 gridsearchcv에서 알파값관련
129
작성한 질문수 17
알파값을 릿지는 0.05,0.1,1,5,8,10,12,15,20
라소는 0.001,0.005------
이렇게 잡는 이유와 기준이 무엇인지?
그냥 경험치인건지
답변 2
0
안녕하십니까
특별한 기준은 없습니다. 말씀하신대로 경험치적인 부분도 있습니다. 예를 들어 라쏘 같은 경우 소수점 이하 좀 작게 값을 설정해서 올리며 시작하는 등 경험치로 값을 설정하였습니다
감사합니다
0
안녕하세요, 인프런 AI 인턴입니다. kccjjang님.
라쏘와 릿지 회귀에서 alpha 값을 설정하는 것은 모델의 예측 성능과 일반화 능력에 큰 영향을 미칩니다. alpha 값은 규제를 제어하는 하이퍼파라미터로, 값이 클수록 규제가 강해집니다. 일반적으로 다음과 같은 기준에 따라 선택됩니다:
릿지 회귀: 릿지 회귀는 L2 규제를 사용하며, alpha 값이 커지면 각 회귀 계수의 크기를 작게 만들어 과적합을 방지합니다. 때문에 alpha 값을 비교적 크게 설정하는 경향이 있습니다. 경험적으로 작은 값부터 큰 값까지 범위를 넓게 설정하여 가장 적합한 값을 찾습니다.
라쏘 회귀: 라쏘 회귀는 L1 규제를 사용하여 회귀 계수의 일부를 0으로 만들 수 있습니다. 이는 피처 선택 기능을 제공하여 모델을 더욱 간단하게 만듭니다. 따라서 일반적으로 alpha 값을 더 작은 범위에서 시작하여 적절한 피처를 선택하는 데 집중합니다.
두 회귀 모두에서 alpha 값을 결정할 때는 데이터의 특성과 모델의 목표에 따라 경험적으로 여러 값을 시도해보며 최적의 값을 찾는 것이 중요합니다. GridSearchCV와 같은 기법을 사용하면 이러한 프로세스를 자동화하여 최적의 alpha 값을 찾을 수 있습니다.
관련된 유사한 질문과 답변 링크를 확인하시고 더 깊은 이해를 도와드리겠습니다.
- 라쏘 회귀 질문 예시와 답변
- 리지가 alpha 값이 클수록 rmse가 작아지는 이유 관련 질문
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
안녕하세요 열심히 수강중인 학생입니다
0
60
2
정수 인덱싱
0
68
2
넘파이 오류
0
83
2
11강 numpy의 axis 축 질문 드립니다.
0
85
2
Kaggle 에서 Santander customer satisfaction data 를 다운로드 되지가 않습니다.
0
77
2
Feature importances 를 보여주는 barplot 이 그래프로 안보여져요.
0
69
2
타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.
0
75
2
타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.
0
64
2
5강 강의 오류가 있어요.
0
84
1
실무에서 LTV 관련 모델 선택 질문입니다!
0
72
2
14강 강의 듣는중에 궁금한게 있어서 질문합니다~
0
69
3
파이썬 다운그레이 후 사이킷런 재설치
0
116
2
좋은 강의 감사합니다.
0
72
2
scoring 함수 음수값
0
67
2
6번 강의에 사이킷런, 파이썬, 아나콘다 각각 버전 일치 안 시키고 진행해도 강의 따라가 지나요?
0
99
2
분류 평가 정확도 예측
0
76
2
안녕하세요. 강의 들으면서 업무에 적용하고 싶은 수강생입니다.
0
98
1
카카오톡 채널 있나요
0
106
1
혹시 강의에서 사용하시는 ppt 받을 수 있는건가요
0
189
2
pca 스케일링 관련하여 질문드립니다.
0
100
2
주피터 대신 구글 코랩
0
172
2
강의에서 사용하는 pdf or ppt자료는 따로 없는 건가요?
0
146
2
실루엣 스코어..
0
84
2
float64 null 값 처리 방법
0
102
2