Weight Initialization 강의 관련 질문드립니다.
205
작성한 질문수 2
Xavier Initialization과 He Initialization을 학습한 후, he_normal을 실습하는 시간이 있었습니다. 그런데, 해당 실습 과정에서 Conv2D Layer에만 he_normal을 적용하였고, Dense Layer에는 그대로 glorot_uniform이 사용되었음을 확인할 수 있었습니다. 마지막 출력 때에는 sigmoid가 사용되었으니 glorot_uniform을 그대로 사용하는 것에 큰 문제를 느끼지 못 하였으나, Flatten Layer 이후에 적용된 Dense Layer는 ReLU를 사용함에도 왜 kernel_initializer를 he_normal로 바꾸지 않았는지 궁금합니다. Dense Layer에도 동일하게 kernel_initializer 변수가 있는 것으로 알고 있는데, Conv2D Layer만 kernel_initializer를 변경하신 이유가 따로 있을까요?
좋은 강의를 제공해주셔서 감사합니다.
답변 1
0
안녕하십니까,
음, 날카로우시군요.
별 다른 이유가 없습니다. Conv weight에 촛점을 맞추다보니 마지막에 Dense 적용은 빼먹고(?) 적용하지 않았습니다. 양해 부탁드립니다.
감사합니다.
resize 질문
0
60
1
20251212 Kaggle 런타임에 scikit-learn 설치 실패 트러블 슈팅
0
86
1
Loss와 매트릭 관계
0
77
2
Boston 코랩 실습
0
171
2
배치 정규화의 이해와 적용 2 강의 질문
0
144
2
Augmentation원본에 적용해서 데이터 갯수 자체를 늘리는 행위는 의미가있나요?
0
151
2
Conv함수 안에 activation 을 넣지 않는 이유가 뭔지 궁금합니다.
0
213
2
소프트맥스 관련 질문입니다
0
215
1
강의 관련 질문입니다
0
161
2
residual block과 identity block의 차이
0
200
2
옵티마이저와 경사하강법의 차이가 궁금합니다.
1
251
1
실습 환경
0
171
2
입력 이미지 크기
0
256
2
데이터 증강
0
203
2
albumentations ShiftScaleRotate
0
211
1
Model Input Size 관련
0
294
1
마지막에 bird -> frog 말고도 deer -> frog 도 잘못된것 아닌가요??
0
206
1
일반적인 질문 (kaggle notebook사용)
0
276
2
실무에서 Augmentation 적용 시
0
347
2
안녕하세요 교수님
0
235
1
가중치 초기화(Weight Initialization) 질문입니다.
0
332
1
테스트 데이터셋 predict의 'NoneType' object has no attribute 'shape' 오류
0
412
1
학습이 이상하게 됩니다.
2
1041
2
boston import가 안됩니다
0
230
1