-
질문 & 답변
카테고리
-
세부 분야
딥러닝 · 머신러닝
-
해결 여부
미해결
Batch Normalization 질문 드립니다
21.12.10 04:46 작성 조회수 184
0
안녕하세요 딥러닝호형님! 궁금한 점이 생겨 질문드립니다.
1. Image Data Normalization과 Batch Normalization의 차이가 어떻게 되나요?
2. Image Data Normalization을 해준 데이터를 모델에 넣어 Batch Normalization을 해주게 될 경우 데이터는 중복으로 normalization되는 것인가요?
우문일 수도 있지만 너무 궁금해서 질문드립니다. ㅠㅠ 그럼 답변 기다리겠습니다. 감사합니다!
답변을 작성해보세요.
1
딥러닝호형
지식공유자2021.12.10
ZERO님, 좋은 질문 감사합니다 :)
1. 데이터 전처리 단계에서의 정규화는 데이터 전체에 대한 평균과 표준편차를 기준으로 정규화를 하는 것이고 배치정규화는 합성곱 층에서의 배치 데이터(피쳐맵)에 대한 평균과 표준편차를 기준으로 정규화 하는 것입니다. 수식은 약간 다르지만 목적과 쓰임새는 동일하다고 볼 수 있습니다. 결국은 균일한 데이터를 모델(각 층)에 제공하여 최적화 성능을 높이는데 있습니다.
2. "중복"이라는 표현보다는 "순서대로"가 더 적절할 것 같아요. 정규화 된 데이터를 입력값으로 사용하고 배치정규화가 적용 된 각 층미다 피쳐맵이 정규화가 됩니다. 결론적으로 각 합성곱 층의 필터 변수에 대한 업데이트를 잘 할 수 있도록 도와주는 역할을 합니다!
열공하세욧!
답변 1