인프런 커뮤니티 질문&답변

손용성님의 프로필 이미지
손용성

작성한 질문수

최신 딥러닝 기술 Vision Transformer 개념부터 Pytorch 구현까지

모델 활용 관련 질문

작성

·

208

1

안녕하세요,

최신 이론을 시의 적절하게 잘 다뤄 주셔서 매우 유익한 강의였습니다.

제공해 주신 실습파일에서는 cifar-10 데이터셋을 epoch 500회로 학습하여 model .pth를 만드신 것으로 보이는데,  만약 데이터셋만 다른 것으로 변경 후 model.pth를 적용하면, 기존 cifar-10을 이용하여 pretrained된 모델을 이용한 전이학습이 가능한 것인지요?

그리고, 현재 모델은 cifae-10으로 학습되어 있는데, 혹시 cifar-100 이나 imagenet 등 다른 데이터셋으로 pretrained된 모델을 구할 수 있는 지 궁금합니다.

답변 1

0

딥러닝호형님의 프로필 이미지
딥러닝호형
지식공유자

안녕하세요. 용성님 :)

질문을 2개를 주셔서 나눠서 말씀 드리겠습니다.

1. 우리가 학습한 모델로 전이학습 당연히 가능합니다. 하지만 강의에서 언급했듯이 일반적으로 고해상도로 사전학습을 하고 저해상도 데이터로 전이학습을 시행합니다. 즉, cifar10 pretrained 모델을 이용하여 고해상도 이미지로 전이학습을 한다면 정확도가 보장되지 않거나 학습 속도 단축의 효과를 보지 못할 수도 있습니다. 공부를 위해 파이토치에서 제공하는 cifar-100이나 STL-10 데이터를 사용하여 전이학습 해보시면 좋을 것 같습니다. (결과 공유까지 해 주시면 더 좋을 것 같습니다!!)

2. 컴퓨팅 성능 때문에 더 큰 데이터로는 진행하지 않았고 저는 다른 분야에 비전 트랜스포머를 적용하고 있기 때문에 말씀하신 pretrained 모델을 가지고 있지 않습니다 ㅠㅠ 

 

감사합니다!

손용성님의 프로필 이미지
손용성

작성한 질문수

질문하기