드랍아웃과 Convolutional Autoencoder에 대한 간단한 질문입니다.
드랍아웃 방법도 노이즈와 같이 첫번째 은닉층에서만 적용되나요??
9:37쯤에서 하신 말씀은 Convolutional Autoencoder에는 CNN의 classifier부분이 적용될 수 도, 안될 수도 있다는 말씀이신가요?
Convolutional Autoencoder에 드랍아웃이 적용된다면 필터에 어떤 부분을 삭제 하는 방식으로 적용하는 건가요??
Câu trả lời 2
1
안녕하세요!
1. 오토인코더는 classifier 부분이 없습니다. 9:37에서 언급한 것은 latent variable을 일렬로 펼 수도 있고 안 펼수도 있다는 말입니다. 보통 latent variable에서 특징 벡터를 뽑고자 일렬로 하는게 기본적인 구조이나 연구에 따라 정하실 수 있습니다!
2. 매우 좋은 질문입니다!!
일반적으로 구조와 상관 없이 컨볼루셔널 레이어에는 드랍아웃을 적용하지 않습니다. 드랍아웃 컨셉을 잘 생각해 보시면은 일부를 계산하지 않는거죠? 그래서 애초에 계산 할 애들(?)이 어느정도 있어야 효과를 볼 수 있습니다. 하지만 컨볼루셔널 연산은 적은 가중치로 국소 부분의 피쳐값들을 뽑아내는 때문에 정규화가 효과적이지 않습니다. 만약에 "무조건 적용하고 싶다!!"라고 하신다면 이 전 컨볼루셔널 레이어에서 다음 컨볼루셔널 레이어로 넘어갈 때 나온 피쳐맵의 일부를 0으로 만들어 줍니다.
참고로 저는 써본 적 없습니다😅😅
numpy의 shape
0
583
1
tfjs-node 안깔려서
0
1102
1
강의자료 요청드립니다!
0
538
1
하이퍼 파라미터 튜닝 범위
0
608
1
딥러닝 코드에 Batch Normalization 적용해보기 질문입니다
0
580
1
flyctl 관련 재문의 드립니다.
0
594
1
Adversarial-based Transfer Learning과 GAN에 대해 질문 드립니다
1
651
1
모멘텀 기반, 가변학습률, adam 식 보충 설명 요구
1
510
1
알아두기 2.3.8 이진 교차 엔트로피 함수 식 괄호 여부 질문
0
320
1
공식 표현이 이해가 안됩니다...
0
404
1
Input size 및 노드수 관련 문의
1
514
2
안녕하세요 비지도학습 문의드려요
1
218
1
강의 공부 내용을 정리해서 개인 블로그에 업로드해도 괜찮을까요?
0
366
1
손실함수 교차엔트로피 함수
0
1028
3
계산 오류 (영상 16:04~16:53)
2
278
1
손실함수 예제 질문
0
292
1
XOR 강의 중에 질문있습니다
0
209
2
Grad CAM에 관한 질문 입니다.
0
237
1
Adversarial-based 전이 학습에 관한 질문 입니다.
1
276
2
Sparse Autoencoder의 식에서 궁금한 점이 있습니다.
1
351
4
Attention Mechanism이 이해가 잘 안되네요
1
404
2
간단한 궁금증입니다!!
1
302
2
필터사이즈와 컨볼루션레이어 크기의 관계에서
1
494
2
XOR 문제 행렬 연산
6
581
1