MMdetection Transfer learning에 관련하여.

안녕하십니까, 

모델을 학습하면 모델의 전체 layer에 있는 weight가 학습이 됩니다. 

coco로 pretrained 된 모델을 이용하여 자신만의 모델을 학습 시킬때는 weight 초기화를 pretrained 모델의 weight를 활용합니다. 학습은 이 weight초기화 부터 시작하면서 weight를 update합니다. 그러니까 pretrained 모델을 이용한다는 것은 weight학습의 출발점이 다르다는 것입니다(즉 금수저로 출발합니다 ^^). pretrained 모델을 이용한다고 특정 layer의 weight를 학습을 하지 않는건 아닙니다. 

pretrained 모델을 적용하면 어떤 layer까지 weight를 초기화하는 지는 구현 모델마다 다릅니다. 물론 image classification 같은 경우는 마지막, 또는 CNN 이후 연결하는 Dense layer 계층을 제외하고 전 CNN영역을 Weight 초기화 합니다. 

Object Detection이나 Segmentation은 조금 다를 수 있는데,  주로 anchor 쪽에 class의 갯수에 따른 CNN이 되어 있는 부분을 제외하고 초기화 합니다. 그러니까 이들 모델은 강의에서 body-> neck -> head 형태로 구분하면 주로 head를 제외하고 body, neck 부분을 pretrained 영역에서 초기화 합니다.  구현에 따라서는 head의 일부분도 pretrained 영역에서 초기화 할수도 있습니다. 

감사합니다.