안녕하세요 파인튜닝 관련 문의 드립니다.
528
작성한 질문수 19
안녕하세요
파인튜닝 관련하여 문의 드립니다.
파인튜닝이 기존 학습된 모델의 가중치를 가지고 소수의 새로운 추가 데이터를 가지고 실시간 튜닝을 하는 것으로 이해하고 있습니다.
위에서 제가 이해하는 것이 맞을까요??
다른 딥러닝 모델들도 파인튜닝이 적용 가능 하겠지요??
실시간 데이터를 가지고 파인튜닝하는 것을 연구해보려고 하는데 추천하시거나 실제 현업에 적용해 볼만한 방향이 혹시 있으시면 말씀해 주시면 감사하겠습니다!!
답변 1
0
안녕하십니까,
일반적으로 파인 튜닝은 말씀하신 대로
파인튜닝이 기존 학습된 모델의 가중치를 가지고 소수의 새로운 추가 데이터를 가지고 튜닝을 한다는 의미도 있지만(실시간 튜닝의 의미는 제가 잘 모르겠습니다.)
모델의 특정영역을 분리해서 보다 세밀하게(Fine) 학습한다는 기능을 가지고 있습니다.
그러니까 CNN의 이미지 분류 모델의 경우 CNN으로 되어 있는 Backbone layer영역들과 이미지 분류를 최종 수행하는 classification dense layer영역들이 있습니다.
그래서 fine tuning은 ImageNet(클래스 1000개)으로 Pretrained된 CNN Backbone 영역의 가중치를 그대로 가지고 Classification dense layer는 자신만의 custom image로 학습하는 방식이 있을 수 있고,
Pretrained 모델을 이용하여 CNN영역까지 먼저 자신만의 Custom image로 학습 한 뒤에 추가적으로 classification dense layer만 별도로 학습하는 방식등이 있을 수 있습니다.
그리고 다른 딥러닝 모델들도 파인 튜닝이 가능한 걸로 알고 있습니다. 가령 Object Detection, Segmentation도 파인 튜닝을 적용해서 학습할 수 있습니다. 그리고 NLP영역은 제 전문이 아니라 잘 모르겠습니다.
그런데 말씀하신
"실시간 데이터를 가지고 파인튜닝하는 것을 연구해보려고 하는데 추천하시거나 실제 현업에 적용해 볼만한 방향이 혹시 있으시면 말씀해 주시면 감사하겠습니다!!"
실시간 데이터를 가지고 파인 튜닝한다는 것이 어떤 의미 인지요? 실시간으로 학습을 하신다는 건지요? 만약 그렇다면 해당 분야는 제가 잘 모르겠습니다.
resize 질문
0
60
1
20251212 Kaggle 런타임에 scikit-learn 설치 실패 트러블 슈팅
0
87
1
Loss와 매트릭 관계
0
78
2
Boston 코랩 실습
0
173
2
배치 정규화의 이해와 적용 2 강의 질문
0
145
2
Augmentation원본에 적용해서 데이터 갯수 자체를 늘리는 행위는 의미가있나요?
0
153
2
Conv함수 안에 activation 을 넣지 않는 이유가 뭔지 궁금합니다.
0
213
2
소프트맥스 관련 질문입니다
0
215
1
강의 관련 질문입니다
0
162
2
residual block과 identity block의 차이
0
202
2
옵티마이저와 경사하강법의 차이가 궁금합니다.
1
252
1
실습 환경
0
172
2
입력 이미지 크기
0
258
2
데이터 증강
0
208
2
albumentations ShiftScaleRotate
0
212
1
Model Input Size 관련
0
294
1
마지막에 bird -> frog 말고도 deer -> frog 도 잘못된것 아닌가요??
0
206
1
일반적인 질문 (kaggle notebook사용)
0
276
2
실무에서 Augmentation 적용 시
0
347
2
안녕하세요 교수님
0
236
1
가중치 초기화(Weight Initialization) 질문입니다.
0
332
1
테스트 데이터셋 predict의 'NoneType' object has no attribute 'shape' 오류
0
414
1
학습이 이상하게 됩니다.
2
1042
2
boston import가 안됩니다
0
232
1





