처음하는 딥러닝과 파이토치(Pytorch) 부트캠프 (쉽게! 기본부터 챗GPT 핵심 트랜스포머까지) [데이터분석/과학 Part3]
강사가 처음 딥러닝을 익혔을 때 실패했던 경험을 바탕으로 딥러닝 이해에 필요한 수학, 이론, 파이토치 기반 구현, 전이학습, GPT 핵심 트랜스포머까지 차근차근 익힐 수 있도록 새롭게 꾸민 강의입니다.
수강생 1,676명
난이도 초급
수강기한 무제한
[잔재미코딩] 딥러닝 강의 수정 사항 공유
안녕하세요. 잔재미코딩 Dave Lee 입니다.
다름이 아니라 딥러닝 강의에서 수정 사항이 있어서 가볍게 공유를 드립니다.
CNN으로 MNIST 분류 문제 적용해보기 챕터에서 테스트 평가 시 test_loss를 계산하는 부분에 오류가 있었습니다. 불편을 드려 죄송합니다. 따라서 관련 자료를 다음 맥락으로 업데이트를 하였습니다.
nn.NLLLoss()는 기본적으로 reduction='mean' 설정이 적용되어 있어서, 각 미니배치에서 해당 배치 내 샘플들의 평균 loss를 반환합니다. 따라서 for문을 통해 누적된 test_loss는 "미니배치 평균값들의 합"이 됩니다.
기존 코드에서는 이 값을 전체 샘플 수(len(test_batches.dataset), 예: 10000)로 나누었는데, 이렇게 하면 실제 loss보다 훨씬 작은 값이 계산됩니다. 올바른 계산을 위해서는 미니배치 수(len(test_batches), 예: 79)로 나눠야 합니다.
즉, 미니배치 평균들의 합이므로 미니배치 수로 나눠야 전체 평균 loss가 정확하게 계산됩니다.
수정된 파일:
12_CNN_MNIST.ipynb
12_CNN_MNIST_GPU.ipynb
12_CNN_MNIST_GPU_DROPOUT.ipynb
해당 주피터노트북 자료를 수정 완료했으니, 수업자료를 다시 다운받으시면 수정된 코드로 학습하실 수 있습니다.
감사합니다.