경사하강법 관련 질문
263
작성한 질문수 9
안녕하세요 강사님,
경사하강법 부분 코드를 보면 w값은 0으로 지정한 후에 편미분값을 점진적으로 빼면서 업데이트를 수행한다고 나와있습니다. 여기서 w값을 0으로 설정하는 부분에서 의문점이 생깁니다. 만약 비용이 최소가 되는 임계점보다 0이 작을 경우, 편미분값을 지속적으로 뺐을 때, 경사하강법의 방향성이 맞는지 궁금합니다. 0에서 편미분값을 빼면서 출발했는데 경사가 내리막길이 아닌 오르막길일 경우가 있지 않은가에 대한 궁금증입니다.
답변 1
0
안녕하십니까,
경사하강법 부분 코드를 보면 w값은 0으로 지정한 후에 편미분값을 점진적으로 빼면서 업데이트를 수행한다고 나와있습니다. 여기서 w값을 0으로 설정하는 부분에서 의문점이 생깁니다. 만약 비용이 최소가 되는 임계점보다 0이 작을 경우, 편미분값을 지속적으로 뺐을 때, 경사하강법의 방향성이 맞는지 궁금합니다. 0에서 편미분값을 빼면서 출발했는데 경사가 내리막길이 아닌 오르막길일 경우가 있지 않은가에 대한 궁금증입니다.
음, 초기 w 값과 경사 하강법(비용 최소값도 마찬가지로)과는 별다른 상관 관계가 없습니다(물론 잘 초기화 된 w 값은 경사하강법이 더 제대로 적용될 수는 있습니다만 이건 예외로 하겠습니다. )
w값이 작아진다고 비용이 최소로 되지 않습니다. 경사 하강법을 적용하면 초기 w값이 어떤 값이 되던 비용이 최소로 되는 방향으로 w를 update할 수 있는 값을 구할 수 있습니다.
감사합니다.
안녕하세요 열심히 수강중인 학생입니다
0
58
2
정수 인덱싱
0
66
2
넘파이 오류
0
83
2
11강 numpy의 axis 축 질문 드립니다.
0
84
2
Kaggle 에서 Santander customer satisfaction data 를 다운로드 되지가 않습니다.
0
76
2
Feature importances 를 보여주는 barplot 이 그래프로 안보여져요.
0
68
2
타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.
0
73
2
타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.
0
62
2
5강 강의 오류가 있어요.
0
81
1
실무에서 LTV 관련 모델 선택 질문입니다!
0
71
2
14강 강의 듣는중에 궁금한게 있어서 질문합니다~
0
67
3
파이썬 다운그레이 후 사이킷런 재설치
0
115
2
좋은 강의 감사합니다.
0
70
2
scoring 함수 음수값
0
66
2
6번 강의에 사이킷런, 파이썬, 아나콘다 각각 버전 일치 안 시키고 진행해도 강의 따라가 지나요?
0
98
2
분류 평가 정확도 예측
0
75
2
안녕하세요. 강의 들으면서 업무에 적용하고 싶은 수강생입니다.
0
96
1
카카오톡 채널 있나요
0
104
1
혹시 강의에서 사용하시는 ppt 받을 수 있는건가요
0
187
2
pca 스케일링 관련하여 질문드립니다.
0
100
2
주피터 대신 구글 코랩
0
169
2
강의에서 사용하는 pdf or ppt자료는 따로 없는 건가요?
0
145
2
실루엣 스코어..
0
82
2
float64 null 값 처리 방법
0
99
2