pre-trained model 사용과 관련해서 질문이 있습니다.

Question

안녕하세요 선생님, object detection 강의를 듣다가 최근 선생님께서 cnn에 대한 강의를 개설하신 것을 보고 수강신청한 대학원생입니다. 제 전공분야는 컴퓨터공학은 아니고 자연과학 쪽인데, 최근 나무 수피를 이용한 수종 자동 분류모델을 만드는 연구를 진행하고 있습니다. 궁금한 점은, 제가 pre-trained된 VGG, resNet 등의 모델을 활용하고자 하는데, 이들 모델의 뼈대만 가져와서 weights가 초기화된 상태에서 새로 훈련을 시킬지, 아니면 마지막 classification layer만 새로 만들고 weights는 ImageNet weight를 가져와서 fine-tuning을 할지, 어떤 것이 좋을지 선생님의 고견을 여쭙고 싶습니다. 그냥 제 직관적으로는, ImageNet은 애초에 나무 수종과는 관련없는 것들로 훈련되었기 때문에 아예 weights도 초기화시켜서 훈련시키는 것이 나을 꺼 같기는 한데, 이 부분에 대한 의견을 여쭙고 싶습니다 :) 마지막으로, 제가 현재 구글 이미지 크롤링과 제가 직접 수집한 나무 사진들로 모델을 훈련시키고자 하는데, ImageDataGenerator 데이터 증대 후, 약 50,000장의 이미지가 훈련 이미지로 input될 것 같습니다. 이정도의 이미지로 완전 초기화된 모델을 훈련시키는데 충분한지도 궁금합니다! 좋은 강의 만들어주셔서 진심으로 감사드립니다!!

권 철민 · Answer

안녕하십니까, 확실한 결과는 imagenet weight를 적용한것과 그렇지 않은 것을 비교해 보면 알겠지만,  imagenet 클래스들과 밀접하게 관련이 없는 클래스 들이라 할지라도 imagenet weight를 적용하는 것이 그렇지 않은 것 대비 좀 더 성능이 나은것 같습니다. 설혹 관련이 없더라도, imagenet weight를 적용하는것과  random 초기화 weight 는 거의 비슷한 수준의 성능을 내는 것 같습니다. 연구 하시는 분야에 좋은 성과를 올려셨으면 합니다. 감사합니다.