오토인코더 sigmoid

안녕하세요~. 반갑습니다.

MNIST 재구축 AutoEncoder 예제에서 최종 output layer에 sigmoid function을 사용한 이유는 인풋 이미지의 pixel intensity를 255로 나눠서 [0~1] range값으로 사용하기에 출력결과도 sigmoid 함수를 적용해서 [0~1] range로 맞춰준 것인데요.

다만 학습과정에서 어차피 input과 똑같은 형태가 되도록 계속 optimize를 진행하기에 ReLU를 사용해도 충분히 학습을 시킨다면 출력 결과값이 [0~1] range와 근사한 값이 될 것이므로 큰 문제는 없을 것입니다.

좋은 하루되세요.

감사합니다.