인프런 커뮤니티 질문&답변

Jun-yeol Choi님의 프로필 이미지
Jun-yeol Choi

작성한 질문수

딥러닝 CNN 완벽 가이드 - Fundamental 편

오차 역전파(Backpropagation)의 Gradient 적용 메커니즘 - 01

Upstream Gradient, Local Gradient의 의미를 제대로 이해했는지 몰라서요.

작성

·

376

1

안녕하세요.

Upstream Gradient와 Local Gradient를 제대로 이해했는지 몰라 질문드립니다.

세터1의 가중치를 업데이트하려고 할 때

Local Gradient는 구하고자 하는 가중치(세터1)가 직접 곱해지는 레이어의 gradient를 가리키는 것이고

Upstream Gradient는 세터1이 직접 곱해지는 레이어 이전까지(역방항기준) 모든 레이어의 gradient를 가리키는 것이 맞나요?

 

상세하고 명쾌한 강의 감사드립니다.

답변 1

2

권 철민님의 프로필 이미지
권 철민
지식공유자

안녕하십니까,

오, 제대로 이해하고 계시는 군요. 말씀하신대로 Upstream은 이전 layer까지의 가중치 Gradient 식이고, Local Stream은 자신이 속한 layer 가중치 Gradient 식입니다.

감사합니다.

Jun-yeol Choi님의 프로필 이미지
Jun-yeol Choi

작성한 질문수

질문하기