8강 전이학습에서 kernel size 관련 질문 드립니다.
커널 사이즈의 의미가 먼가요?
커널 사이즈를 input size에 맞게 대략 어림잡아 pre-trained 모델 (7, 7) -> (3, 3)으로 바꾸면 되는건가요?
예를들어, (2, 2) 로 바꾸는 것과 어떤 차이가 있을까요?
Answer 1
0
안녕하세요!
좋은 질문입니다.
커널 사이즈는 합성곱 필터의 크기(사이즈)입니다.
"필터의 크기 = 커널의 크기 = 합성곱 윈도우의 크기" 모두 같은 말입니다 :)
7x7필터를 3x3 필터로 크기를 줄여서 사용하겠다는 의미입니다. 말씀하신대로 해당 모델에서는 CIFAR10의 이미지 사이즈가 작기 때문에 7x7 필터를 사용하게 되면 오류가 발생합니다. 그렇기 때문에 사이즈를 줄여준 것입니다. 필터의 크기는 정해진 규칙이 없기 때문에 문제에 따라 적절한 크기로 정해주시면 됩니다.
일반적으로 합성곱 필터는 1x1, 3x3, 5x5, 7x7 필터를 많이 사용합니다. 따라서 언급하신 2x2는 풀링에서 자주 사용되지만 합성곱 필터에서는 사용하지 않습니다. (물론 구현은 할 수 있습니다...)
추가적으로 간단히 말씀드리면 홀수 크기를 사용하는 이유는 이미지의 각 픽셀이 중심이 되어 기준으로 이웃값들과 같이 계산될 수 있기 때문입니다. 즉, 각 픽셀로 부터 특징을 뽑아내는 합성곱 메커니즘에 부합하는 설정이라고 보시면 됩니다. 반대로 풀링은 주변 지역의 대푯값을 뽑는 연산이기 때문에 짝수로 해도 상관없으며 너무 큰 영역에서의 대푯값 추출은 성능에 안 좋은 영향을 미치기 때문에 일반적으로 2x2를 사용합니다.
감사합니다.
수업자료 제공 부탁드립니다.
0
93
2
코드가 어디에 있는지 모르겠습니다.
0
93
2
논문 구현
0
183
2
overfitting이 나는 이유가 궁금합니다.
1
169
2
분류 성능이 잘 안 나오는 이유
0
217
1
AutoEncoder 차원 질문
1
250
2
사전 학습 모델에서의 layer 변경에 대한 질문
1
218
1
7강 폴더 만들
0
259
1
4-3강 cross-validation에서의 best model 선정 기준
0
446
1
regression 문제에 대한 결과 시각화
0
213
1
Loss function 관련하여 질문드립니다.
0
953
1
early stopping 코드 문의
0
325
1
예측 그래프
0
353
1
데이터 불균형
1
364
1
8강 전이 학습 질문
0
395
2
data의 gpu처리 질문
0
240
1
nn.Linear(1024, 10) 관련 질문드립니다.
0
286
1
학습과 평가시 Loss 함수가 다른 이유
0
249
1
전처리 관련해서 질문 있습니다.
0
224
1
데이터 엔지니어의 역량을 기르려면 어떻게 해야할까요?
0
932
2
역전파 내용 중 미분 관련 질문 드립니다
1
278
1
이미지분류-합성곱신경망(CNN) 피쳐맵 질문입니다.
1
581
1
14강 데이터 불균형 RandomRotation
1
479
1
3장 데이터 불러오기에서 LinearTensor를 정의하는 이유가 궁금합니다.
1
321
1