[p.293~295] Gradient Descent/편미분 관련 문의
199
작성한 질문수 7
안녕하세요.
요즘 선생님 덕분에 보며 머신러닝이 꽤나 매력적이고 재미있는 분야라는 것을 느끼고 있는 한 직장인입니다.
다름이 아니라, Gradient Descent 수식을 파이썬으로 구현하는 부분 관련해서 궁금한 점이 있어 질문 남깁니다.
p.294~5를 보면,
1) get_weight_updates(w1, w0, X, y, learning_rate=0.01) 함수에서 w1_update=-(2/N)*learning_rate*(np.dot(X.T, diff)를 return
2) gradient_descent_steps(x, y, iters=10000) 함수에서 1)에서 return 받은 w1_update를 활용해 w1를 업데이트(w1 = w1 - w1_update)하고 있는데, 최종적으로는 w1 = w1 + (2/N) * learning_rate * np.dot(X.T, diff)가 되는 것으로 보입니다.
그런데, p.293에서는 Gradient Descent의 프로세스는 w1=w1-learning_rate*2/N*SUM(xi*(실제값i-예측값i)라고 설명되어 있어 차이가 있는 것 같습니다. 제가 놓친 부분이 있는건가요?
답변 1
0
안녕하십니까, 격려에 감사 드립니다.
질의 하신 부분은 제가 잘못 기술했습니다. w0, w1 의 update는 - 로 계속 update 해야 되서
최종적으로는 w1=w1- (-1*learning_rate*2/N*SUM(xi*(실제값i-예측값i)) = w1 + learning_rate*2/N*SUM(xi*(실제값i-예측값i))으로 update 되어야 합니다.
책, 강의 모두 수정 반영하도록 하겠습니다. 훌륭한 지적 감사합니다
모델 서빙과 관련된 강좌가 출시되는지 질문드립니다.
0
14
2
안녕하세요 열심히 수강중인 학생입니다
0
63
2
정수 인덱싱
0
68
2
넘파이 오류
0
85
2
11강 numpy의 axis 축 질문 드립니다.
0
85
2
Kaggle 에서 Santander customer satisfaction data 를 다운로드 되지가 않습니다.
0
79
2
Feature importances 를 보여주는 barplot 이 그래프로 안보여져요.
0
70
2
타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.
0
75
2
타이타닉 csv 파일이 주피터 화면에 보이지 않습니다.
0
64
2
5강 강의 오류가 있어요.
0
84
1
실무에서 LTV 관련 모델 선택 질문입니다!
0
72
2
14강 강의 듣는중에 궁금한게 있어서 질문합니다~
0
69
3
파이썬 다운그레이 후 사이킷런 재설치
0
117
2
좋은 강의 감사합니다.
0
74
2
scoring 함수 음수값
0
67
2
6번 강의에 사이킷런, 파이썬, 아나콘다 각각 버전 일치 안 시키고 진행해도 강의 따라가 지나요?
0
100
2
분류 평가 정확도 예측
0
79
2
안녕하세요. 강의 들으면서 업무에 적용하고 싶은 수강생입니다.
0
99
1
카카오톡 채널 있나요
0
108
1
혹시 강의에서 사용하시는 ppt 받을 수 있는건가요
0
190
2
pca 스케일링 관련하여 질문드립니다.
0
100
2
주피터 대신 구글 코랩
0
172
2
강의에서 사용하는 pdf or ppt자료는 따로 없는 건가요?
0
148
2
실루엣 스코어..
0
86
2