KorQuad 데이터셋에서 context
334
작성한 질문수 19
안녕하세요 강사님
KorQuad 데이터셋을 Llama2 모델에 활용하기 위해서 context는 제거를 하시고 단순하게 Q와 A로 구성된 데이터셋을 구성하였는데 context를 유지해서 학습하는 방법은 없어서 적용하는 건가요? 아니면 LLM의 학습에는 적합하지 않아서 사용하지 않는건가요?
GPT등의 모델을 파인튜닝 한다고 했을때도 context는 제거하는게 맞는 건가요??
답변 1
0
안녕하세요~. 반갑습니다.
KorQuad 데이터셋을 Llama2 모델에 활용하기 위해서 context는 제거를 하시고 단순하게 Q와 A로 구성된 데이터셋을 구성하였는데 context를 유지해서 학습하는 방법은 없어서 적용하는 건가요? 아니면 LLM의 학습에는 적합하지 않아서 사용하지 않는건가요?
->
context를 포함해서 학습을 진행하고 싶으시다면 context를 포함해서 데이터셋을 구성한뒤에 파인튜닝을 진행하시면 됩니다. LLM의 학습에 적합하지 않아서 사용하지 않은 것은 아닙니다.
GPT등의 모델을 파인튜닝 한다고 했을때도 context는 제거하는게 맞는 건가요??
->
context를 제거하느냐 제거하지않느냐는 최종적으로 학습이 끝난 LLM 모델을 사용할때 인풋 프롬프트가 어떤식으로 사용되느냐에 따라서 결정하시면 됩니다.
파인튜닝이 끝난 모델을 최종적으로 사용하는 시나리오에서 인풋 프롬프트에 context까지 같이 받아서 추론을 진행하는 상황을 가정하면 context를 포함해서 학습을 진행하시면 되고, 파인튜닝이 끝난 모델을 사용하는 시나리오에서 context를 제외하고 question만 받아서 추론을 진행하는 상황을 가정하면 context를 제거해서 학습을 진행하시면 됩니다.
좋은 하루되세요.
감사합니다.
섹션22 퀴즈 질문
0
30
1
LLM 기반 문서 유사도 산출 가능성 관련 문의드립니다
0
124
1
『6. LLM 용어 정리 - 인컨텍스트 러닝(In-context learning)』에 대한 문의
0
416
2
trainer.train() 실행했는데 API key를 입력하라고 합니다. ㅠ
0
142
2
open api 이용 방법
0
185
2
Llama vision 이미지 해상도
0
215
1
API 특정 짓는 법
0
142
2
소량의 fineTuning 이 미치는 영향
0
241
2
파인튜닝모델에게 일반적인 질문 할 경우에 대한 궁금증
0
223
2
모델에 대한 성능평가 방법
0
243
1
데이터셋을 파인튜닝 하는 것과 반대로 필요없는 데이터를 제거하는 방법도 있나요?
0
303
2
Lora 기법 질문
0
173
1
소스코드 다운받을 장소를 알려 주셔요.
0
150
1
섹션 20~23 강의자료가 없습니다.
0
139
1
학습시 API Key를 입력하라고 합니다.
0
962
2
OpenAI Assistants tools 중 retrieval 기능
0
140
0
OpenAI Assistants API 기초 예제 중 client.beta.threads.message.list 함수
0
135
1
Fine Tuning 후 inference 하는 예시(코드) 질문
0
245
1
PEFT_P-Tuning semantic similarity 예제 실행 오류
0
302
4
강사님 Step-back 학습자료가 없습니다.
0
163
2
학습 중지 후 재학습 방법(autotrain 최신 버전)
0
280
1
Fine-tuning 데이터셋 질문
0
301
1
Llama3 response 시간
0
499
2
fine-tuning 완료된 모델 관련 질문
0
229
2