강의

멘토링

로드맵

Cộng đồng Hỏi & Đáp của Inflearn

Hình ảnh hồ sơ của susan69594204
susan69594204

câu hỏi đã được viết

Trải nghiệm Deep Learning bằng Excel

Hạ gradient

W_new의 정의

Viết

·

46

0

안녕하세요. 감사히 잘 듣고있습니다.

W_new = W_old - LearningRate*(dLoss/dw)로 정의되고, 여기서 dLoss/dw = (y_pred - y)*x 인것까지 이해했습니다.

궁금한 점은, 엑셀에서 실습할 때 dL_dw를 개별 x들에 대해서 구한 뒤, 이를 평균한 값을 lr에 곱해서 weight를 조정해주는데 왜 평균값을 사용하는건가요?

loss가 (y-y_pred)^2한 값을 평균하기 때문인가요?

감사합니다.

딥러닝excelVBA

Quiz

65% người trả lời sai. Hãy thử ngay!

시뮬레이션 데이터에 '노이즈'를 추가하는 주된 목적은 무엇일까요?

예측값을 완벽하게 만들기 위해서

계산 오류를 제거하기 위해서

실제 측정값의 불확실성을 모사하기 위해서

모델의 복잡성을 늘리기 위해서

Câu trả lời 1

0

hjk1000님의 프로필 이미지
hjk1000
Người chia sẻ kiến thức

네 이해하신부분이 정확히 맞습니다!

초반에 SGD를 설명하기 어려워 전체데이터 기준으로 업데이트를 합니다

이 전체 데이터에 대한 평균값이 결국 미분값이 됩니다

 

나중에 SGD개념이 들어가면 샘플을 MINIBATCH 단위로 샘플링을하고 그 미니배치의 평균으로 업데이트를 합니다

Hình ảnh hồ sơ của susan69594204
susan69594204

câu hỏi đã được viết

Đặt câu hỏi