인프런 커뮤니티 질문&답변
작성한 질문수
Adversarial-based Transfer Learning과 GAN에 대해 질문 드립니다
작성
·
553
1
안녕하세요!
강연자님의 친절하고 유익한 강의 잘 듣고 있습니다 :) Adversarial-based Transfer Learning과 GAN에 대해 몇 가지 질문 드리려고 합니다.
Adversarial-based Transfer Learing
전이 학습은 기존에 알고 있는 source domain을 통해 target domain을 해결하는 학습 방법으로, 사전 학습된 지식이 활용되는 것으로 이해했습니다. Adversarial-based Transfer Learing에는 사전 학습된 모델이 사용되지 않는지 궁금합니다.
Adversarial-based Trasfer Learning 설명 부분에서 'Adversarial Layer를 통해 도메인 라벨을 생성한다'라고 하셨는데, 어떻게 Adversarial Layer를 통해 도메인 라벨을 만드는지, 그리고 도메인 라벨의 정확한 의미를 추가적으로 설명 듣고 싶습니다.
구글링을 통해 딥러닝에서 Labling은 주어진 데이터에 정답지를 만들어주는 작업이고 이때 정답지가 Label이라고 이해했습니다. 이를 바탕으로 Adversarial-based Transfer Learning 강의자료의 소스 라벨과 타겟 라벨을 각각 "소스/타겟 도메인이 학습되길 희망하는 모습"이라고 이해했습니다. 제가 이해한 부분이 맞는지, 만약 아니라면 소스 라벨과 타겟 라벨이 의미하는 것이 정확히 무엇인지, 이에 대한 예시에 대해 여쭤보고 싶습니다.
Adversarial-based Transfer Learing + GAN
강의를 들으면서 전이 학습 중 Adversarial-based Transfer Learning과 GAN에 대해 흥미를 가지게 되었습니다. 이 두 가지 방법 모두 "Adversarial"이라는 공통점을 가지고 있고, 이 두 방법을 활용한 아이디어에 대해 질문 드리고자 합니다.
Adversarial-based Transfer Learning 시나리오를 적용한 GAN 실험을 해보고 싶은데, 이때 GAN 실험 시나리오에서 Adversarial-based Transfer Learning 아이디어를 어떻게 적용하면 좋을지 여쭤보고 싶습니다.
Adversarial-based Transfer Learning의 Adversarial Layer와 GAN 실험에 활용되는 Adversarial Sample을 어떻게 설정해야 Adversarial-based Transfer Learning 개념을 적용한 GAN 실험이 될 수 있는지 궁금합니다. (두 방법 모두 Adversarial한 성질을 가지고 있는데 이를 어떻게 배치해야 하는지 궁금합니다.)
아니면 단순히 Transfer Learning 개념을 사용하여 GAN 코드로 실험을 진행하면, 그것을 Adversarial-based Transfer Learning이라고 볼 수 있는지도 궁금합니다.
좋은 하루 보내시길 바랍니다.
감사합니다!
답변 1
0
안녕하세요.
좋은 질문 감사합니다.
Adversarial-based Transfer Learning은 여러 가지 방법이 존재합니다만 기본 모티베이션은 서로 다른 스타일의 데이터의 분포 간의 간격을 줄여 좀 더 일반적인 모델을 만드는 것 입니다. 예를들어 실제 사진이미지를 가지고 사전학습 된 모델을 adversarial-based Transfer Learning을 이용해 만화 이미지를 분류하고 싶은 경우 사진 이미지가 소스 데이터가 되고 만화 이미지가 타겟 데이터가 됩니다. 이 때 우리는 라벨을 각각 1과 0로 부여할 수 있습니다.
즉, 일반적으로 사전학습 모델을 가지고 다른 데이터셋으로 학습을 다시 하는 방법과는 달리 adversarial-based Transfer Learning은 학습 중에 도메인 라벨을 사용하여 소스 도메인과 타겟 도메인의 거리을 좁혀 좀 더 일반적인 모델을 만들 수 있게 합니다. (물론 데이터에 따라 학습이 어려울 수 있습니다.)
GAN은 네트워크 종류 중 하나입니다. 단일 모델로는 adversarial-based Transfer Learning과 무관합니다. 또한 강의에서 소개 된 사전학습 방법은 하나의 모델 구조를 가지고 다른 도메인에 적용하고자 하는 것입니다. 즉, 실제 사진으로 학습 된 GAN을 가지고 와서 만화 사진으로 추가학습을 하는 방법이 일반적인 방법입니다. 여기서 adversarial-based Transfer Learning을 적용할 경우 도메인 layer를 하나 만들고 잘 정의 된 손실함수를 사용하여 추가 학습을 진행하시면 될 것 같습니다. 이 경우에는 원하시는 주제나 비슷한 주제를 가지고 했던 논문들을 검색하셔야 합니다.
감사합니다.
열공하세요!
라벨은 말 그대로 0, 1, 2와 같은 구분을 위한 숫자에 불과합니다. 위 예시의 경우 우리는 소스 데이터와 타겟 데이터 (즉, 2개의 데이터 셋)을 가지고 있습니다. 따라서 이미지 마다 라벨링이 되어 있듯이 각각 데이터 셋에 0과 1을 라벨링한 것입니다. (순서가 중요하지 않으므로 1과 0으로 해도 무방합니다.) 학습 시 이 라벨을 분류하기 위해 adversarial layer를 만들고 관련 손실함수를 기존 손실함수에 추가하여 추가 학습을 하게 됩니다.
안녕하세요!
먼저, 친절한 답변 정말 감사합니다. 보내주신 답변을 읽어 보았고, 궁금증이 생겨 추가 질문을 드리려 합니다 :)
'adversarial-based Transfer Learning은 학습 중에 도메인 라벨을 사용하여 소스 도메인과 타겟 도메인의 거리을 좁혀 좀 더 일반적인 모델을 만들 수 있게 한다'라고 말씀하셨는데, 도메인 라벨의 의미에 대해 여쭤보고 싶습니다. 도메인 라벨이 정확히 어떤 의미인지 이해가 되지 않아 예시를 들어 설명해주시면 감사하겠습니다!!
편안한 하루 보내시길 바랍니다ㅎㅎ
감사합니다