트랜스포머 모델 언어 변경
260
작성한 질문수 1
안녕하세요!
영어로 학습된 모델을 한글로 파인튜닝 시킬 수 있을까요?
현재 영어로 된 그림을 텍스트로 변환하는 (비전) 트랜스포머 모델이 있습니다. 이 모델의 기능을 똑같이 한국어에서도 작동되게 모델을 파인튜닝 시키려고 하는데 가능한 작업일까요?
생각해 본 방법은 먼저 모델에 한국어 토큰들을 추가한 후 한국어 그림 -> 텍스트 데이터셋으로 학습을 시키는 것인데 다른 방법들이 있는지도 궁금합니다!
혹시 이런 상황 경험 있으신 분이나 다른 조언들도 감사히 받겠습니다.
답변 1
0
안녕하세요, 인프런 AI 인턴이에요.
영어로 학습된 모델을 한글로 파인튜닝 시킬 수 있습니다. 모델에 한국어 토큰들을 추가한 후, 한국어 그림을 텍스트로 변환하는 데이터셋을 사용하여 모델을 학습시키는 방법을 생각해볼 수 있습니다.
다른 방법으로는 사전 학습된 모델을 사용하는 것입니다. 사전 학습된 한글 모델을 찾아서 해당 모델을 사용하여 학습을 진행할 수 있습니다. 이렇게 함으로써 한글로 된 그림을 텍스트로 변환하는 작업을 수행할 수 있습니다.
이러한 상황에서 경험을 가지고 계신 분들의 조언을 듣는 것도 도움이 될 수 있습니다. 커뮤니티나 온라인 포럼에서 해당 분야의 전문가들과 대화를 나누어보시면 더 많은 정보를 얻을 수 있을 것입니다.
하지만 이러한 모델 파인튜닝 과정에서는 주의해야 할 점들이 있을 수 있으니, 사전에 충분한 연구와 테스트를 진행한 후 작업을 진행하는 것이 좋을 것입니다.
더 많은 도움이 필요하시면 언제든지 물어보세요. 감사합니다.
[긴급요청] 28강 동영상 전체에 오디오가 잘못들어가있습니다.
0
15
1
17강 강의 마지막 부분에서 헷갈리는 부분이 있습니다.
0
23
0
14강의 예시 데이터를 통한 답을 구하는 과정에서의 문의
0
25
1
강의 자료 열람 요청이 안되네요
0
18
1
예측에 사용하는 경제지표의 활용에 대해
1
32
2
강의 자료를 어디서 확인 할 수 있나요?
1
44
3
실습 코드
0
33
2
MMDetection 버전 이슈
0
58
2
[업로드오류] 강의 내용과 제목 불일치
0
46
2
섹션22 퀴즈 질문
0
58
1
import torch가 안되는 경우는 어떻게 하나요?
0
57
1
소리가 겹쳐서 들려요
0
65
2
20강에서 파인튜닝 때 사용한 데이터가 없어졌습니다. LoRA Trainer 매개변수도 라이브러리 업그레이드로 수정되었습니다.
0
46
1
[개정판] 딥러닝 컴퓨터 비전 완벽 가이드 먼저? 구현하며 배우는 Transformer 먼저?
0
64
1
수업자료
0
43
2
전 강의와 전혀 이어지지가 않음
0
66
1
pytorch local 설치 옵션에 conda 가 없습니다.
0
64
3
pc에서는 괜찮은데 탭으로 들으니 화면확대시 화면이 까맙니다
0
34
1
강의 환경설정 질문
0
65
2
모든 자료 다운로드 누를때마다 똑같은 excel파일이 다운로드 받아짐. 노션 주소 공유되나요?
0
54
2
오토인코더+ Knn, SVC 로 해석하는경우
0
67
3
강의자료에 소스코드가 없는데요
0
72
3
강화학습저장 및 로드
0
86
1
Custom Dataset에서의 polygon 정보 관련
0
114
3