inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[개정판] 파이썬 머신러닝 완벽 가이드

라소(Lasso)와 엘라스틱넷(Elastic Net) 회귀의 이해

train_test_split 할 경우, 무조건 alpha값이 작은 값이 rmse가 작게 나오는 이유?

498

freedom07

작성한 질문수 104

0

https://www.inflearn.com/questions/66382

이 질문을 보고 저도 궁금증이 들어서 한번 해봤는데요..

(아래 코드는 
'릿지(Ridge) 회귀의 이해 강의' 에서  3:01초 쯤에 나오는 코드입니다.)

기존 강의에서는 alpha값이 클수록 rmse가 작게 나왔는데요.

이건 기존 코드에서 train_test_split 을 추가한 코드인데요~

test_size=0.3 일 경우에 rmse가 alpha값이 작을수록 작게 나왔고,

test_size를 아주 작게 0.01로 줄 때에도 alpha값이 작을수록 rmse 가 작게나오는 결과를 얻었습니다. 

저도 기존 질문자의 궁금증처럼 왜그러는지 이유가 궁금하네요.. ㅠ! 

머신러닝 배워볼래요? python 통계

답변 3

0

권 철민

train_test_split()으로 동일한 random_state로 여러번 쪼개지 마시고, random_state를 바꿔가면서 해보십시요.

0

freedom07

네 선생님 답변 감사합니다.

그런데, 제가 궁금했던 부분은..똑같은 botston 데이터 세트인데.. train_test_split을 하니깐 경향이 반대로 되서 궁금했던 부분입니다. 

기존 강의 코드에서는(train_test_split을 하지 않았을 때에는) alpha값이 '클수록' rmse가 작아졌는데..

 train_test_split을 하니깐  alpha값이 '작을수록'  rmse가 작아져서 궁금증이 생겼었습니다.

 train_test_split을 test_size=0.01 로 아주 작게 하고 (거의 train_test_split 안한 것과 비슷하게.. 기존 강의코드와 같이  전체 boston 데이터를 넣어준 것처럼) 전체데이터의 99%인 train 데이터를 넣어주었을 때에도 alpha값이 '작을수록'  rmse가 작아지는 결과가 나왔기에..

그래서 기존 질문자의 궁금증 처럼  train_test_split 여부가 영향이 미치는건지 궁금했던 부분입니다..!

0

권 철민

안녕하십니까,

데이터 세트별로 특성이 있긴 한데, 보통은 Ridge의 경우 alpha가 0 ~ 1 사이 값이 1보다 큰 경우 보다 상대적으로 성능이 좋게 나옵니다. 그리고 Lasso의 경우는 alpha가 1보다 큰 경우가 성능이 상대적으로 좋게 나옵니다.

단 위 경우는 보통이 그렇다는 거고, 데이터의 특성에 따라서 얼마든지 달라질 수 있습니다.

해당 데이터 세트는 alpha가 작은 경우에 성능이 좋아지는 경우입니다. 때문에 테스트 세트로 여러번 (쪼개어) 테스트 해도,  alpha가 작은 경우가 성능이 좋게 된 결과로 추정됩니다.

안녕하세요 열심히 수강중인 학생입니다

0

59

2

정수 인덱싱

0

67

2

넘파이 오류

0

83

2

11강 numpy의 axis 축 질문 드립니다.

0

84

2

Kaggle 에서 Santander customer satisfaction data 를 다운로드 되지가 않습니다.

0

76

2

Feature importances 를 보여주는 barplot 이 그래프로 안보여져요.

0

68

2

타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.

0

74

2

타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.

0

62

2

5강 강의 오류가 있어요.

0

82

1

실무에서 LTV 관련 모델 선택 질문입니다!

0

71

2

14강 강의 듣는중에 궁금한게 있어서 질문합니다~

0

68

3

파이썬 다운그레이 후 사이킷런 재설치

0

115

2

좋은 강의 감사합니다.

0

71

2

scoring 함수 음수값

0

66

2

6번 강의에 사이킷런, 파이썬, 아나콘다 각각 버전 일치 안 시키고 진행해도 강의 따라가 지나요?

0

98

2

분류 평가 정확도 예측

0

75

2

안녕하세요. 강의 들으면서 업무에 적용하고 싶은 수강생입니다.

0

97

1

카카오톡 채널 있나요

0

105

1

혹시 강의에서 사용하시는 ppt 받을 수 있는건가요

0

187

2

pca 스케일링 관련하여 질문드립니다.

0

100

2

주피터 대신 구글 코랩

0

170

2

강의에서 사용하는 pdf or ppt자료는 따로 없는 건가요?

0

145

2

실루엣 스코어..

0

82

2

float64 null 값 처리 방법

0

100

2