inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

[파이토치] 실전 인공지능으로 이어지는 딥러닝 - 기초부터 논문 구현까지

역전파(Backpropagation)

x.grad 결과가 계속 업데이트되는 문제?

191

David Heo

작성한 질문수 12

0

안녕하세요. 이번 강의 코랩 파일을 실행해보다가 궁금한 점이 생겨서 질문 남깁니다. 

역전파 코랩 파일에서 3번째 셀(y, z, res 계산하는 셀) ~ 5번째 셀(x.grad를 print하는 셀)을 순서대로 여러번 실행하면 print(x.grad)의 결과가 처음 [[2, 2], [2, 2]]에서 [[4, 4], [4, 4]], [[6, 6], [6, 6]], [[8, 8], [8, 8]] ... 로 계속 바뀝니다. x, y, z, res의 변화가 없으니 print(x.grad)의 결과가 계속 [[2, 2], [2, 2]]로 동일해야 할 것 같다고 생각되는데 왜 이런 현상이 발생하는 건가요? 궁금합니다. 

인공신경망 머신러닝 배워볼래요? python pytorch 딥러닝

답변 1

0

딥러닝호형

안녕하세요.

grad는 그래디언트 값이 누적되는 속성이 있습니다 :)

수업자료 제공 부탁드립니다.

0

115

2

코드가 어디에 있는지 모르겠습니다.

0

116

2

논문 구현

0

208

2

overfitting이 나는 이유가 궁금합니다.

1

184

2

분류 성능이 잘 안 나오는 이유

0

226

1

AutoEncoder 차원 질문

1

258

2

사전 학습 모델에서의 layer 변경에 대한 질문

1

223

1

7강 폴더 만들

0

265

1

4-3강 cross-validation에서의 best model 선정 기준

0

460

1

regression 문제에 대한 결과 시각화

0

219

1

Loss function 관련하여 질문드립니다.

0

971

1

early stopping 코드 문의

0

331

1

예측 그래프

0

363

1

데이터 불균형

1

367

1

8강 전이 학습 질문

0

406

2

data의 gpu처리 질문

0

246

1

nn.Linear(1024, 10) 관련 질문드립니다.

0

296

1

학습과 평가시 Loss 함수가 다른 이유

0

254

1

전처리 관련해서 질문 있습니다.

0

231

1

데이터 엔지니어의 역량을 기르려면 어떻게 해야할까요?

0

948

2

역전파 내용 중 미분 관련 질문 드립니다

1

283

1

8강 전이학습에서 kernel size 관련 질문 드립니다.

1

967

1

이미지분류-합성곱신경망(CNN) 피쳐맵 질문입니다.

1

590

1

14강 데이터 불균형 RandomRotation

1

485

1