Batch Normalization 질문 드립니다
355
작성한 질문수 8
안녕하세요 딥러닝호형님! 궁금한 점이 생겨 질문드립니다.
1. Image Data Normalization과 Batch Normalization의 차이가 어떻게 되나요?
2. Image Data Normalization을 해준 데이터를 모델에 넣어 Batch Normalization을 해주게 될 경우 데이터는 중복으로 normalization되는 것인가요?
우문일 수도 있지만 너무 궁금해서 질문드립니다. ㅠㅠ 그럼 답변 기다리겠습니다. 감사합니다!
답변 1
1
ZERO님, 좋은 질문 감사합니다 :)
1. 데이터 전처리 단계에서의 정규화는 데이터 전체에 대한 평균과 표준편차를 기준으로 정규화를 하는 것이고 배치정규화는 합성곱 층에서의 배치 데이터(피쳐맵)에 대한 평균과 표준편차를 기준으로 정규화 하는 것입니다. 수식은 약간 다르지만 목적과 쓰임새는 동일하다고 볼 수 있습니다. 결국은 균일한 데이터를 모델(각 층)에 제공하여 최적화 성능을 높이는데 있습니다.
2. "중복"이라는 표현보다는 "순서대로"가 더 적절할 것 같아요. 정규화 된 데이터를 입력값으로 사용하고 배치정규화가 적용 된 각 층미다 피쳐맵이 정규화가 됩니다. 결론적으로 각 합성곱 층의 필터 변수에 대한 업데이트를 잘 할 수 있도록 도와주는 역할을 합니다!
열공하세욧!
수업자료 제공 부탁드립니다.
0
114
2
코드가 어디에 있는지 모르겠습니다.
0
114
2
논문 구현
0
208
2
overfitting이 나는 이유가 궁금합니다.
1
184
2
분류 성능이 잘 안 나오는 이유
0
226
1
AutoEncoder 차원 질문
1
258
2
사전 학습 모델에서의 layer 변경에 대한 질문
1
223
1
7강 폴더 만들
0
265
1
4-3강 cross-validation에서의 best model 선정 기준
0
460
1
regression 문제에 대한 결과 시각화
0
219
1
Loss function 관련하여 질문드립니다.
0
970
1
early stopping 코드 문의
0
331
1
예측 그래프
0
363
1
데이터 불균형
1
367
1
8강 전이 학습 질문
0
406
2
data의 gpu처리 질문
0
246
1
nn.Linear(1024, 10) 관련 질문드립니다.
0
296
1
학습과 평가시 Loss 함수가 다른 이유
0
254
1
전처리 관련해서 질문 있습니다.
0
230
1
데이터 엔지니어의 역량을 기르려면 어떻게 해야할까요?
0
947
2
역전파 내용 중 미분 관련 질문 드립니다
1
283
1
8강 전이학습에서 kernel size 관련 질문 드립니다.
1
966
1
이미지분류-합성곱신경망(CNN) 피쳐맵 질문입니다.
1
590
1
14강 데이터 불균형 RandomRotation
1
484
1