Fine Tuning 후 inference 하는 예시(코드) 질문
안녕하세요
우선 커리큘럼을 차례대로 재밌게 학습하고 있습니다
LLM finetuning 후 추론하는 예시를 따라하고 있는데요
아래 박스는 혹시 필요 없는 문장이 아닌가 해서 질문 드립니다
감사합니다
답변 1
0
안녕하세요~. 반갑습니다.
재밌게 학습하고 계시다니 기쁘네요^^.
확인해보니 말씀해주신대로 해당 예제에서는 바로 아래에 정의된 bnb_config 변수를 사용하기 때문에 언급해주신 config 변수는 사용하지 않아서 불필요하게 정의되어 있네요.
config 변수는 무시하시면 될 것 같습니다.
좋은 하루되세요.
감사합니다.
섹션22 퀴즈 질문
0
30
1
LLM 기반 문서 유사도 산출 가능성 관련 문의드립니다
0
124
1
『6. LLM 용어 정리 - 인컨텍스트 러닝(In-context learning)』에 대한 문의
0
416
2
trainer.train() 실행했는데 API key를 입력하라고 합니다. ㅠ
0
142
2
open api 이용 방법
0
185
2
Llama vision 이미지 해상도
0
215
1
API 특정 짓는 법
0
142
2
소량의 fineTuning 이 미치는 영향
0
241
2
파인튜닝모델에게 일반적인 질문 할 경우에 대한 궁금증
0
223
2
모델에 대한 성능평가 방법
0
243
1
데이터셋을 파인튜닝 하는 것과 반대로 필요없는 데이터를 제거하는 방법도 있나요?
0
303
2
Lora 기법 질문
0
173
1
소스코드 다운받을 장소를 알려 주셔요.
0
150
1
섹션 20~23 강의자료가 없습니다.
0
139
1
학습시 API Key를 입력하라고 합니다.
0
962
2
OpenAI Assistants tools 중 retrieval 기능
0
140
0
OpenAI Assistants API 기초 예제 중 client.beta.threads.message.list 함수
0
135
1
PEFT_P-Tuning semantic similarity 예제 실행 오류
0
302
4
강사님 Step-back 학습자료가 없습니다.
0
163
2
학습 중지 후 재학습 방법(autotrain 최신 버전)
0
280
1
Fine-tuning 데이터셋 질문
0
301
1
Llama3 response 시간
0
499
2
fine-tuning 완료된 모델 관련 질문
0
229
2
llama 3 파인튜닝 관련 문의 사항
0
647
1