inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[개정판] 파이썬 머신러닝 완벽 가이드

경사하강법을 통한 비용함수 RSS 최소화 - 파이썬 코드로 경사 하강법 구현하기

업데이트 관련 질문입니다.

188

영준하

작성한 질문수 3

0

안녕하세요~! 강의 잘 듣고있습니다.
 
아랫분이 질문해주신 내용과 동일한 것인데,
경사하강법의 목적은
(w1, w0이 포함된 비용함수)를 최소화하고자,
(비용함수를 w1, w0으로 미분한 값)이 감소하는 방향으로 업데이트를 하는 것이라고 하셨습니다.
 
그럼 w1로 편미분한 값 w1_update를 줄여가야하는데,
w1_update = -(2/N)*learning_rate*(np.dot(X.T, diff))
→ 이것이 음수니까,
 
w1 - w1_update가 아니라
w1 + w1_update가 맞는것 아닐까요!?
 
왜냐면... w1+w1_update를 하게되면 w1가 더 커지게 되는게 아닐까 싶습니다.
 
다른분의 댓글에 수정하겠다고 하셔서... 더욱 헷갈리고 있습니다..^^... 잘 모르겠어서 일단은 건너뛰고 사이킷런으로 갔다가 다시 돌아왔는데... 다시 한 번 설명 부탁드립니다..!! 감사합니다.

python 머신러닝 배워볼래요? 통계

답변 1

0

권 철민

안녕하십니까, 

np.dot(X.T, diff)의 요소들은 음수가 될수도, 양수가 될수도 있습니다.

경사하강법은 기존 가중치에서 update 가중치 만큼을 빼주시면 됩니다. 따라서 w1 - w1_update 을 적용해 주시면 됩니다. 과거 댓글은 이제 개정판 영상에서는 신경쓰지 않으셔도 됩니다.

감사합니다.

모델 서빙과 관련된 강좌가 출시되는지 질문드립니다.

0

55

2

안녕하세요 열심히 수강중인 학생입니다

0

91

2

정수 인덱싱

0

86

2

넘파이 오류

0

113

2

11강 numpy의 axis 축 질문 드립니다.

0

107

2

Kaggle 에서 Santander customer satisfaction data 를 다운로드 되지가 않습니다.

0

96

2

Feature importances 를 보여주는 barplot 이 그래프로 안보여져요.

0

79

2

타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.

0

83

2

타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.

0

75

2

5강 강의 오류가 있어요.

0

90

1

실무에서 LTV 관련 모델 선택 질문입니다!

0

81

2

14강 강의 듣는중에 궁금한게 있어서 질문합니다~

0

79

3

파이썬 다운그레이 후 사이킷런 재설치

0

131

2

좋은 강의 감사합니다.

0

80

2

scoring 함수 음수값

0

74

2

6번 강의에 사이킷런, 파이썬, 아나콘다 각각 버전 일치 안 시키고 진행해도 강의 따라가 지나요?

0

108

2

분류 평가 정확도 예측

0

90

2

안녕하세요. 강의 들으면서 업무에 적용하고 싶은 수강생입니다.

0

114

1

카카오톡 채널 있나요

0

119

1

혹시 강의에서 사용하시는 ppt 받을 수 있는건가요

0

193

2

pca 스케일링 관련하여 질문드립니다.

0

109

2

주피터 대신 구글 코랩

0

184

2

강의에서 사용하는 pdf or ppt자료는 따로 없는 건가요?

0

156

2

실루엣 스코어..

0

93

2