W_new의 정의
63
작성한 질문수 2
안녕하세요. 감사히 잘 듣고있습니다.
W_new = W_old - LearningRate*(dLoss/dw)로 정의되고, 여기서 dLoss/dw = (y_pred - y)*x 인것까지 이해했습니다.
궁금한 점은, 엑셀에서 실습할 때 dL_dw를 개별 x들에 대해서 구한 뒤, 이를 평균한 값을 lr에 곱해서 weight를 조정해주는데 왜 평균값을 사용하는건가요?
loss가 (y-y_pred)^2한 값을 평균하기 때문인가요?
감사합니다.
답변 1
0
네 이해하신부분이 정확히 맞습니다!
초반에 SGD를 설명하기 어려워 전체데이터 기준으로 업데이트를 합니다
이 전체 데이터에 대한 평균값이 결국 미분값이 됩니다
나중에 SGD개념이 들어가면 샘플을 MINIBATCH 단위로 샘플링을하고 그 미니배치의 평균으로 업데이트를 합니다
강의 자료 열람 요청이 안되네요
0
13
1
3작업에서 정렬기능을 사용하면 조건부서식(파란글자)들이 빠져요
0
13
1
40강 error
0
23
2
예측에 사용하는 경제지표의 활용에 대해
1
26
2
강의 자료를 어디서 확인 할 수 있나요?
1
29
3
제공파일 관련 문의
0
21
1
예제 파일 다운 불가
0
33
1
함수를 입력한 후
0
37
2
40강 데이터 원본 설정
0
29
2
AI가 만들어 주는 엑셀 함수를 다 이해하고 넝어가야 할까요?
0
41
1
실습 코드
0
32
2
Excel 핵심 기출유형 1 암호
0
27
1
MMDetection 버전 이슈
0
53
2
자료에 "목표값찾기"엑셀파일이 없어요.
0
37
1
문자 수식 더불 클릭후 하단 옵션 안보임
0
54
3
[업로드오류] 강의 내용과 제목 불일치
0
45
2
섹션22 퀴즈 질문
0
54
1
import torch가 안되는 경우는 어떻게 하나요?
0
54
1
소리가 겹쳐서 들려요
0
61
2
4-7강 음성이 안나옵니다
0
45
2
자료 다운로드 오류
0
56
2
20강에서 파인튜닝 때 사용한 데이터가 없어졌습니다. LoRA Trainer 매개변수도 라이브러리 업그레이드로 수정되었습니다.
0
45
1
[개정판] 딥러닝 컴퓨터 비전 완벽 가이드 먼저? 구현하며 배우는 Transformer 먼저?
0
59
1
W 업데이트
0
77
2