전이학습 질문이요!

Question

강의 듣는 중 질문이 있습니다. 저는 사람을 인식하는 프로젝트를 만드는 중입니다. 제가 생각하고 있는 학습 방법의 과정은   1) 맨처음 학습=> 우수한 학습모델을 가져와서 3가지 의 객체를 인식하는 데이터를 학습시킨다 (이번 강의로 감을 잡음)   2) 1에서 학습된 모델 을 사용하다가 인식할 객체의 추가 를 위해 1의 모델 을 load후 추가로 객체의 데이터 를 추가학습시킨다 (지속적으로 label을 추가 시킬수 있는 모델을 만드는것이 목적)   질문) 2번과정에서 추각 학습을 할때 추가시킬 데이터만 학습을 시키면 되는건가요? 아니면 모든 객체를 처음부터 다시 학습시켜야 하나요? => 제가 원하는 방향은 추가 데이터만 학습을 시켜도 기존에 학습시켯던 label과 추가 label을 전부 검출하는것 입니다.

권 철민 · Answer

안녕하십니까,  전이 학습을 사용하셔도 객체를 추가하시려면, 해당 이미지 뿐만 아니라 다시 전체 이미지를 학습해야 합니다.  딥러닝은 weight를 학습하여 학습 모델을 만듭니다. 이 weight를 학습할 때 최초에는 random/xavier/he 방식으로 초기화 합니다. 아뭏튼 초기에는 weight값이 성능이 좋지 않으면 점차 학습을 통해서 weight를 최적화하면서 모델을 학습하게 됩니다.  전이 학습은 이와 다르게 이미 생성된 pretrained모델의 weight를 초기 weight로 이용하기 때문에 random/xavier/he 보다 더 좋은 성능을 나타낼 수 있습니다. 하지만 이것이 추가적인 객체를 학습할 때 해당 이미지만 추가해서 학습을 한다는 의미는 아닙니다.  가령 클래스가 4개에서 5개로 추가되면 전체 모델이 다시 학습되어야 하므로 최종 classifier layer를 5개로 변경하고 전체 이미지를 학습에 사용해야 합니다.  이때 전이 학습을 사용하면 초기화 weight에 기존에 학습된 weight부터  시작하므로 성능은 향상될 수 있습니다.  감사합니다.