inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

엑셀로 맛보는 딥러닝

경사하강법

W_new의 정의

63

Suji Cho

작성한 질문수 2

0

안녕하세요. 감사히 잘 듣고있습니다.

W_new = W_old - LearningRate*(dLoss/dw)로 정의되고, 여기서 dLoss/dw = (y_pred - y)*x 인것까지 이해했습니다.

궁금한 점은, 엑셀에서 실습할 때 dL_dw를 개별 x들에 대해서 구한 뒤, 이를 평균한 값을 lr에 곱해서 weight를 조정해주는데 왜 평균값을 사용하는건가요?

loss가 (y-y_pred)^2한 값을 평균하기 때문인가요?

감사합니다.

딥러닝 excel VBA

답변 1

0

멋진

네 이해하신부분이 정확히 맞습니다!

초반에 SGD를 설명하기 어려워 전체데이터 기준으로 업데이트를 합니다

이 전체 데이터에 대한 평균값이 결국 미분값이 됩니다

 

나중에 SGD개념이 들어가면 샘플을 MINIBATCH 단위로 샘플링을하고 그 미니배치의 평균으로 업데이트를 합니다

[긴급요청2] 28강 동영상 오류(27강 음성 재생) 수정 예정일자를 알려주세요

0

26

1

[긴급요청] 28강 동영상 전체에 오디오가 잘못들어가있습니다.

0

26

1

17강 강의 마지막 부분에서 헷갈리는 부분이 있습니다.

0

24

0

14강의 예시 데이터를 통한 답을 구하는 과정에서의 문의

0

27

1

강의 자료 열람 요청이 안되네요

0

18

1

3작업에서 정렬기능을 사용하면 조건부서식(파란글자)들이 빠져요

0

19

1

40강 error

0

32

2

예측에 사용하는 경제지표의 활용에 대해

1

33

2

강의 자료를 어디서 확인 할 수 있나요?

1

46

3

제공파일 관련 문의

0

23

1

예제 파일 다운 불가

0

36

1

함수를 입력한 후

0

45

2

40강 데이터 원본 설정

0

33

2

AI가 만들어 주는 엑셀 함수를 다 이해하고 넝어가야 할까요?

0

56

1

실습 코드

0

36

2

Excel 핵심 기출유형 1 암호

0

28

1

MMDetection 버전 이슈

0

59

2

자료에 "목표값찾기"엑셀파일이 없어요.

0

37

1

문자 수식 더불 클릭후 하단 옵션 안보임

0

55

3

[업로드오류] 강의 내용과 제목 불일치

0

46

2

섹션22 퀴즈 질문

0

59

1

import torch가 안되는 경우는 어떻게 하나요?

0

58

1

소리가 겹쳐서 들려요

0

67

2

W 업데이트

0

78

2