트랜스포머 모델 언어 변경
266
작성한 질문수 1
안녕하세요!
영어로 학습된 모델을 한글로 파인튜닝 시킬 수 있을까요?
현재 영어로 된 그림을 텍스트로 변환하는 (비전) 트랜스포머 모델이 있습니다. 이 모델의 기능을 똑같이 한국어에서도 작동되게 모델을 파인튜닝 시키려고 하는데 가능한 작업일까요?
생각해 본 방법은 먼저 모델에 한국어 토큰들을 추가한 후 한국어 그림 -> 텍스트 데이터셋으로 학습을 시키는 것인데 다른 방법들이 있는지도 궁금합니다!
혹시 이런 상황 경험 있으신 분이나 다른 조언들도 감사히 받겠습니다.
답변 1
0
안녕하세요, 인프런 AI 인턴이에요.
영어로 학습된 모델을 한글로 파인튜닝 시킬 수 있습니다. 모델에 한국어 토큰들을 추가한 후, 한국어 그림을 텍스트로 변환하는 데이터셋을 사용하여 모델을 학습시키는 방법을 생각해볼 수 있습니다.
다른 방법으로는 사전 학습된 모델을 사용하는 것입니다. 사전 학습된 한글 모델을 찾아서 해당 모델을 사용하여 학습을 진행할 수 있습니다. 이렇게 함으로써 한글로 된 그림을 텍스트로 변환하는 작업을 수행할 수 있습니다.
이러한 상황에서 경험을 가지고 계신 분들의 조언을 듣는 것도 도움이 될 수 있습니다. 커뮤니티나 온라인 포럼에서 해당 분야의 전문가들과 대화를 나누어보시면 더 많은 정보를 얻을 수 있을 것입니다.
하지만 이러한 모델 파인튜닝 과정에서는 주의해야 할 점들이 있을 수 있으니, 사전에 충분한 연구와 테스트를 진행한 후 작업을 진행하는 것이 좋을 것입니다.
더 많은 도움이 필요하시면 언제든지 물어보세요. 감사합니다.
19강 감정분석 강의처럼 api 돌렸는데
1
53
1
완독 챌린지 도서 인정 방법에 대한 문의
0
66
2
강사님 강의 자료와 코드를 부탁드리고 싶습니다.
0
56
2
16강에서 코드가 계속 안도길래. ai가 고쳐서 일단 supabase에 preditc 한 주가를
1
51
1
16강 구글 colab 에서 코드 실행이 안돼요.
0
64
1
강의자료, 코드 요청드립니다
0
48
2
강의 자료에 대한 질문입니다.
1
63
2
강의의 난이도 및 속도
1
68
2
20번 강의 LoRA 실습이 에러가 납니다.
0
65
1
강의자료 문의
1
73
2
mmcv 문의 드립니다.
0
90
2
강의 자료 및 코드 수령
0
71
2
기초실습 BERT파인튜닝 예제 오류
0
73
1
130_Transformer.ipynb 오류 대응 부탁드립니다.
0
77
1
[데이터 전처리] dropna에서 특정 두 지표만 기준으로 결측치를 제거한 이유가 궁금합니다
1
53
1
smithery filesystem mcp server
1
80
2
supabase url, key 값 확인방법
1
130
3
02_TENSOR.md자료
0
69
1
프로그램은 뭘 사용하시는 건가요??
1
88
2
소스코드 오탈자 및 누락입니다.
0
98
2
소스코드 오탈자 입니다.
0
98
2
pytorch 설치 업데이트좀요
0
93
2
강의 제작
1
83
1
안녕하세요, 강의자료 요청드립니다
0
64
1