활성화함수 inplace=True 관련 질문있습니다.
271
작성한 질문수 63
안녕하세요. 출간하신 Pytorch 입문 책과 함께 공부 중에 GAN 파트에서 질문이 있습니다.
영상에서와 다르게 책에서는 활성화함수층에 일부는 inplace=True 를 설정하여 주셨는데, 그 이유가 무엇인지 잘 이해가 잘 안가고 헷갈리네요.
답변 1
0
안녕하세요!
신경망 측면에서는 inplace와 관계없이 계산에 동일하게 진행됩니다. 다만 연산 측면에서는 inplace=True는 입력 변수를 직접 수정하기 때문에 메모리 사용을 줄여 줄 수 있습니다. 그런데 inplace 방식이 역전파 시 이전 값을 사용해야 하는 경우가 있다면 예기치 못한 상황에서 오류를 발생할 수 있기 때문에 사용하실 때 신경망 구조를 잘 확인하셔야 합니다!
감사합니다.
수업자료 제공 부탁드립니다.
0
118
2
코드가 어디에 있는지 모르겠습니다.
0
117
2
논문 구현
0
209
2
overfitting이 나는 이유가 궁금합니다.
1
185
2
분류 성능이 잘 안 나오는 이유
0
227
1
AutoEncoder 차원 질문
1
260
2
사전 학습 모델에서의 layer 변경에 대한 질문
1
227
1
7강 폴더 만들
0
268
1
4-3강 cross-validation에서의 best model 선정 기준
0
462
1
regression 문제에 대한 결과 시각화
0
220
1
Loss function 관련하여 질문드립니다.
0
974
1
early stopping 코드 문의
0
333
1
예측 그래프
0
364
1
데이터 불균형
1
368
1
8강 전이 학습 질문
0
409
2
data의 gpu처리 질문
0
248
1
nn.Linear(1024, 10) 관련 질문드립니다.
0
297
1
학습과 평가시 Loss 함수가 다른 이유
0
257
1
전처리 관련해서 질문 있습니다.
0
232
1
데이터 엔지니어의 역량을 기르려면 어떻게 해야할까요?
0
950
2
역전파 내용 중 미분 관련 질문 드립니다
1
285
1
8강 전이학습에서 kernel size 관련 질문 드립니다.
1
970
1
이미지분류-합성곱신경망(CNN) 피쳐맵 질문입니다.
1
594
1
14강 데이터 불균형 RandomRotation
1
488
1