새로운 데이터셋에 훈련된 가중치 적용

Question

선생님 안녕하세요. 항상 좋은 강의 잘 듣고 있습니다. 두가지 질문이 있습니다. 선생님께서 18:21에 좋은 성능을 보여준 이유로 imagenet의 가중치를 사용해서라고 말씀 하셨는데, imagenet의 훈련된 가중치는 애초에 cat and dog와 완전히 다른(imagenet에 많은 강아지와 고양이 이미지가 있다고 하더라도) 데이터로 만들어진 결과인데, cat and dog 데이터 셋에 적용해도 높은 정확도가 나오는 이유가 궁금합니다. 그리고, 개인적으로 인도 새 25종을 분류하는 모델을 만들고 있는데 그렇다면 강의와 같이 imagenet의 가중치를 가져와서 훈련하는 것이 아무것도 없는? 가중치로 훈련하는 것보다 좋은 성능 만들어 낼까요?

권 철민 · Answer

안녕하십니까, 일반적으로 imagenet이 아닌 데이터 세트로 학습을 시킬 때 CNN 필터의 가중치값을 Random 값으로 시작해서 학습을 진행하는 것 보다, Imagenet등으로 Pretrained 된 가중치 값으로 초기화된 CNN 필터값을 기반으로 학습을 진행하는게 모델 성능이 더 좋습니다. 전반적인 물체의 질감등을 이미 CNN 필터에서 가지고 있기 때문에 학습 시 훨씬 가중치를 최적화 하기에 유리합니다. 그래서 CNN 모델의 학습은 대부분 Pretrained 모델을 기반으로 학습을 진행합니다. 맞습니다. 인도 새 종류라도 imagenet등의 Pretrained 모델을 이용하는 것이 더 좋을 것입니다. 감사합니다.