Adversarial-based 전이 학습에 관한 질문 입니다.

아하 GAN 처럼 모델이 두개있는게 아니군요. 감사합니다.

안녕하세요😀

길쭉하게 표현한 층은 레이어를 같이 쓰고 마지막에 적대층이랑 분류층으로 나눠져서 계산이 따로 되고 업데이트는 각각의 손실 함수를 기반(+옵티마이저)으로 되는 것이예요. 즉, 레이어 내에서 구분을 잘 하는지 안 하는지 판단하지는 않아요. 따라서 라벨 분류층에서 나온 예측값과 실제값을 계산하는 손실함수(Lc)가 하나 있고 적대층에서 나온 예측값과 0과1을 비교하는 손실함수(La)가 하나 있고요. 둘 다 길쭉한 레이어들에 있는 가중치를 업데이트 하고 싶어 하는 녀석들이에요.  

다만 업데이트가 한 번 될 때 기준은 하나로 있어야 하기 때문에 최종 손실함수는 둘을 더해서 하나로 만든 것(L=La+Lc)이구요. 아니면 손실함수를 합치지 않고 Lc를 minimizing 한 번하고 La를 maximizing  한 번 하고 GAN처럼 하는 경우도 있고 아니면 손실함수 앞에 특정 값을 곱해주는 경우도 있고요... 손실함수 정의와 업데이트 방법이 다양할 수 있어요! 전이학습 적용하실 때는 논문을 많이 보셔야 해요...

열공하세욧!!😊