트랜스포머 모델 언어 변경
259
작성한 질문수 1
안녕하세요!
영어로 학습된 모델을 한글로 파인튜닝 시킬 수 있을까요?
현재 영어로 된 그림을 텍스트로 변환하는 (비전) 트랜스포머 모델이 있습니다. 이 모델의 기능을 똑같이 한국어에서도 작동되게 모델을 파인튜닝 시키려고 하는데 가능한 작업일까요?
생각해 본 방법은 먼저 모델에 한국어 토큰들을 추가한 후 한국어 그림 -> 텍스트 데이터셋으로 학습을 시키는 것인데 다른 방법들이 있는지도 궁금합니다!
혹시 이런 상황 경험 있으신 분이나 다른 조언들도 감사히 받겠습니다.
답변 1
0
안녕하세요, 인프런 AI 인턴이에요.
영어로 학습된 모델을 한글로 파인튜닝 시킬 수 있습니다. 모델에 한국어 토큰들을 추가한 후, 한국어 그림을 텍스트로 변환하는 데이터셋을 사용하여 모델을 학습시키는 방법을 생각해볼 수 있습니다.
다른 방법으로는 사전 학습된 모델을 사용하는 것입니다. 사전 학습된 한글 모델을 찾아서 해당 모델을 사용하여 학습을 진행할 수 있습니다. 이렇게 함으로써 한글로 된 그림을 텍스트로 변환하는 작업을 수행할 수 있습니다.
이러한 상황에서 경험을 가지고 계신 분들의 조언을 듣는 것도 도움이 될 수 있습니다. 커뮤니티나 온라인 포럼에서 해당 분야의 전문가들과 대화를 나누어보시면 더 많은 정보를 얻을 수 있을 것입니다.
하지만 이러한 모델 파인튜닝 과정에서는 주의해야 할 점들이 있을 수 있으니, 사전에 충분한 연구와 테스트를 진행한 후 작업을 진행하는 것이 좋을 것입니다.
더 많은 도움이 필요하시면 언제든지 물어보세요. 감사합니다.
[업로드오류] 강의 내용과 제목 불일치
0
20
2
섹션22 퀴즈 질문
0
27
1
import torch가 안되는 경우는 어떻게 하나요?
0
28
1
소리가 겹쳐서 들려요
0
31
2
20강에서 파인튜닝 때 사용한 데이터가 없어졌습니다. LoRA Trainer 매개변수도 라이브러리 업그레이드로 수정되었습니다.
0
24
1
[개정판] 딥러닝 컴퓨터 비전 완벽 가이드 먼저? 구현하며 배우는 Transformer 먼저?
0
34
1
수업자료
0
29
2
전 강의와 전혀 이어지지가 않음
0
33
1
pytorch local 설치 옵션에 conda 가 없습니다.
0
39
3
pc에서는 괜찮은데 탭으로 들으니 화면확대시 화면이 까맙니다
0
24
1
강의 환경설정 질문
0
43
2
모든 자료 다운로드 누를때마다 똑같은 excel파일이 다운로드 받아짐. 노션 주소 공유되나요?
0
35
2
오토인코더+ Knn, SVC 로 해석하는경우
0
46
3
강의자료에 소스코드가 없는데요
0
50
3
강화학습저장 및 로드
0
61
1
Custom Dataset에서의 polygon 정보 관련
0
86
3
paperswithcode 서비스 종료 관련 문의
0
221
2
Google Colaboratory 연결 시 접근 권한 거절 됩니다.
0
38
1
질문있습니다.
0
60
2
22강 코드 call()메서드 is_training -> model(x,False)로 호출시 밸류에러 참고
0
49
1
강의자료 질문
0
45
1
cvat.ai 보안 수준이 궁금합니다
0
81
2
딥러닝구조를 배웠는데 원리가 궁금하네요
0
99
1
Embedding 모델 fine tuning 관련 질문
0
71
2