인프런 커뮤니티 질문&답변
작성한 질문수
업데이트 관련 질문입니다.
작성
·
183
0
안녕하세요~! 강의 잘 듣고있습니다.
아랫분이 질문해주신 내용과 동일한 것인데,
경사하강법의 목적은
(w1, w0이 포함된 비용함수)를 최소화하고자,
(비용함수를 w1, w0으로 미분한 값)이 감소하는 방향으로 업데이트를 하는 것이라고 하셨습니다.
그럼 w1로 편미분한 값 w1_update를 줄여가야하는데,
w1_update = -(2/N)*learning_rate*(np.dot(X.T, diff))
→ 이것이 음수니까,
w1 - w1_update가 아니라
w1 + w1_update가 맞는것 아닐까요!?
왜냐면... w1+w1_update를 하게되면 w1가 더 커지게 되는게 아닐까 싶습니다.
다른분의 댓글에 수정하겠다고 하셔서... 더욱 헷갈리고 있습니다..^^... 잘 모르겠어서 일단은 건너뛰고 사이킷런으로 갔다가 다시 돌아왔는데... 다시 한 번 설명 부탁드립니다..!! 감사합니다.
답변 1
0
권 철민
지식공유자
안녕하십니까,
np.dot(X.T, diff)의 요소들은 음수가 될수도, 양수가 될수도 있습니다.
경사하강법은 기존 가중치에서 update 가중치 만큼을 빼주시면 됩니다. 따라서 w1 - w1_update 을 적용해 주시면 됩니다. 과거 댓글은 이제 개정판 영상에서는 신경쓰지 않으셔도 됩니다.
감사합니다.