과적합과 eta
233페이지에 과적합 문제가 심각하다면 eta값을 낮추라고 했는데, 학습률은 overshooting과 local minima문제와 관련된 것이지, 과적합과는 관계가 없는 것 아닌가요?
답변 2
1
안녕하십니까,
말씀하신바가 eta의 이론적인 설명으로 맞습니다. 다만 XGBoost Tuning guide에 overfitting 감소 방안에 대해서 eta 값을 낮추라고 언급이 되어 있습니다.
https://xgboost.readthedocs.io/en/latest/tutorials/param_tuning.html
설명에서는 add randomness를 적용하기 위해서 eta값을 낮추라고 되어 있는데, 좀 의아하긴 합니다. 아마 XGBoost 를 사용하면서 경험적인 요소가 녹아있어서 그렇게 추천한 것 같습니다.
좋은 질문 감사합니다.
모델 서빙과 관련된 강좌가 출시되는지 질문드립니다.
0
52
2
안녕하세요 열심히 수강중인 학생입니다
0
88
2
정수 인덱싱
0
86
2
넘파이 오류
0
109
2
11강 numpy의 axis 축 질문 드립니다.
0
107
2
Kaggle 에서 Santander customer satisfaction data 를 다운로드 되지가 않습니다.
0
94
2
Feature importances 를 보여주는 barplot 이 그래프로 안보여져요.
0
77
2
타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.
0
83
2
타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.
0
73
2
5강 강의 오류가 있어요.
0
90
1
실무에서 LTV 관련 모델 선택 질문입니다!
0
81
2
14강 강의 듣는중에 궁금한게 있어서 질문합니다~
0
75
3
파이썬 다운그레이 후 사이킷런 재설치
0
129
2
좋은 강의 감사합니다.
0
80
2
scoring 함수 음수값
0
72
2
6번 강의에 사이킷런, 파이썬, 아나콘다 각각 버전 일치 안 시키고 진행해도 강의 따라가 지나요?
0
108
2
분류 평가 정확도 예측
0
87
2
안녕하세요. 강의 들으면서 업무에 적용하고 싶은 수강생입니다.
0
114
1
카카오톡 채널 있나요
0
118
1
혹시 강의에서 사용하시는 ppt 받을 수 있는건가요
0
193
2
pca 스케일링 관련하여 질문드립니다.
0
109
2
주피터 대신 구글 코랩
0
184
2
강의에서 사용하는 pdf or ppt자료는 따로 없는 건가요?
0
156
2
실루엣 스코어..
0
91
2