flatten, fully-connected layer에 대해서 질문드립니다.

Question

- 학습 관련 질문을 남겨주세요. 상세히 작성하면 더 좋아요! - 먼저 유사한 질문이 있었는지 검색해보세요. - 서로 예의를 지키며 존중하는 문화를 만들어가요. - 잠깐! 인프런 서비스 운영 관련 문의는 1:1 문의하기를 이용해주세요. 안녕하세요! 강의 잘 듣고 있습니다. cnn에서 convolution-pooling의 과정을 반복하고, 마지막에 flatten을 거쳐 fully connected layer로 가고 sofmax를 실행한다고 이해하였는데, flattening 이후 다시 Dense로 줄여주는 과정이 있어서 다음과 같은 궁금증이 생겼습니다. 8x8x128 feature map을 flattening하면 그 숫자만큼 펼쳐진 벡터가 나올텐데, 1) 다시 Dense를 거치는 이유가 무엇인지 (fc_layer_1) 2) Dense 해주는 숫자는 어떤 방식으로 정하는지 아무래도 제가 잘 이해를 못 한 것 같은데.. 설명해주시면 정말 감사하겠습니다

AISchool · Answer

안녕하세요~. 반갑습니다. 답신이 늦어서 죄송합니다ㅠ. 1) 다시 Dense를 거치는 이유가 무엇인지 (fc_layer_1) -> 다시 Dense를 거치는 이유는 추가적인 특징 추출을 한번더 수행하기 위해서입니다. 일반적인 ANN에서 히든레이어의 Depth를 깊게하면 더 추상화된 특징을 추출할수 있는 원리가 CNN 뒷부분에 동일하게 적용된다고 생각하시면 됩니다. 2) Dense 해주는 숫자는 어떤 방식으로 정하는지 -> 딥러닝에서 레이어 노드 개수를 정하는 방법은 경험적으로 이루어지며 공식등으로 어떤 개수가 좋다.라고 명확히 정해진 부분은 없습니다. 일반적으로는 여러가지 노드 개수를 테스트해보거나 논문에서 좋다고 검증된 구조의 개수를 취해서 구성하게 됩니다. 좋은 하루되세요~. 감사합니다.