트랜스포머 모델 언어 변경
264
작성한 질문수 1
안녕하세요!
영어로 학습된 모델을 한글로 파인튜닝 시킬 수 있을까요?
현재 영어로 된 그림을 텍스트로 변환하는 (비전) 트랜스포머 모델이 있습니다. 이 모델의 기능을 똑같이 한국어에서도 작동되게 모델을 파인튜닝 시키려고 하는데 가능한 작업일까요?
생각해 본 방법은 먼저 모델에 한국어 토큰들을 추가한 후 한국어 그림 -> 텍스트 데이터셋으로 학습을 시키는 것인데 다른 방법들이 있는지도 궁금합니다!
혹시 이런 상황 경험 있으신 분이나 다른 조언들도 감사히 받겠습니다.
답변 1
0
안녕하세요, 인프런 AI 인턴이에요.
영어로 학습된 모델을 한글로 파인튜닝 시킬 수 있습니다. 모델에 한국어 토큰들을 추가한 후, 한국어 그림을 텍스트로 변환하는 데이터셋을 사용하여 모델을 학습시키는 방법을 생각해볼 수 있습니다.
다른 방법으로는 사전 학습된 모델을 사용하는 것입니다. 사전 학습된 한글 모델을 찾아서 해당 모델을 사용하여 학습을 진행할 수 있습니다. 이렇게 함으로써 한글로 된 그림을 텍스트로 변환하는 작업을 수행할 수 있습니다.
이러한 상황에서 경험을 가지고 계신 분들의 조언을 듣는 것도 도움이 될 수 있습니다. 커뮤니티나 온라인 포럼에서 해당 분야의 전문가들과 대화를 나누어보시면 더 많은 정보를 얻을 수 있을 것입니다.
하지만 이러한 모델 파인튜닝 과정에서는 주의해야 할 점들이 있을 수 있으니, 사전에 충분한 연구와 테스트를 진행한 후 작업을 진행하는 것이 좋을 것입니다.
더 많은 도움이 필요하시면 언제든지 물어보세요. 감사합니다.
강의 자료 및 코드 수령
0
31
2
기초실습 BERT파인튜닝 예제 오류
0
26
1
130_Transformer.ipynb 오류 대응 부탁드립니다.
0
43
1
[데이터 전처리] dropna에서 특정 두 지표만 기준으로 결측치를 제거한 이유가 궁금합니다
1
31
1
smithery filesystem mcp server
0
49
2
supabase url, key 값 확인방법
1
80
3
02_TENSOR.md자료
0
45
1
프로그램은 뭘 사용하시는 건가요??
1
53
2
소스코드 오탈자 및 누락입니다.
0
64
2
소스코드 오탈자 입니다.
0
65
2
pytorch 설치 업데이트좀요
0
66
2
강의 제작
1
72
1
안녕하세요, 강의자료 요청드립니다
0
48
1
자료실 문의합니다. AIDU 툴 다운받으려고합니다.
0
52
1
7강 강의 학습자료에 대해서 질문있습니다.
0
43
1
소스 깃허브 주소
0
43
1
타 강의 내용
1
69
2
이론 설명의 ppt 자료 다운
0
60
2
[긴급요청2] 28강 동영상 오류(27강 음성 재생) 수정 예정일자를 알려주세요
0
39
1
[긴급요청] 28강 동영상 전체에 오디오가 잘못들어가있습니다.
0
45
1
17강 강의 마지막 부분에서 헷갈리는 부분이 있습니다.
0
48
1
14강의 예시 데이터를 통한 답을 구하는 과정에서의 문의
0
58
2
강의 자료 열람 요청이 안되네요
0
45
1
예측에 사용하는 경제지표의 활용에 대해
1
62
2