Continual Learning 과 Transfer Learning 의 차이점

Question

안녕하세요. 올려주신 강의 열심히 보면서 공부중에 있습니다^^   Continual Learning 과 Transfer Learning 의 차이점을 혹시 알수 있을까요? 두가지 개념 모두 기존에 학습된 weight를 사용하여 현재 데이터에 더 잘 맞는 모델을 만들겠다. 라고 느껴져서요. 차이점이 궁금합니다~!!^^

Justin · Answer

안녕하세요, Justin입니다. Continual Learning, Transfer Learning 모두 학습이 이루어진 가중치 상태에서 추가적으로 학습하는 것이 맞습니다. 이 때, 학습이 이루어진 시점과 학습이 완료된 모델의 부분을 분석가가 범위를 정의해주고, 업데이트 가중치도 조절해주어야 합니다. Continual Learning은 위의 내용에 해당되는 학습 기법을 일반적으로 표현하는 방식이며, Transfer Learning은 비슷한 도메인의 다른 Task에 해당되는 학습데이터를 추가 활용하여 가중치를 새로 업데이트하는 것을 통상적으로 일컫습니다. 예를 들어, ImageNET 데이터를 활용하여 분류하는 모형을 설계한 이후, 특정 도메인의 이미지를 활용하여 분류 및 객체 탐지를 할 수 있는 모형을 설계하는 것이 대표적인 Transfer Learning의 예시입니다.어떻게 보면 Continual Learning이 Transfer Learning을 포함하는 방식일 수 있겠네요. 감사합니다.