강의

멘토링

커뮤니티

Inflearn Community Q&A

okputto3340's profile image
okputto3340

asked

Large Language Model for Everyone LLM (Large Language Model) Part 1 - Try Fine-Tuning Llama 2

Llama 2 Fine-Tuning Example 1 - Llama 2 Inference Fine-Tuned on KorQuad Dataset and Performance Comparison with ChatGPT (GPT-4)

Fine Tuning 후 inference 하는 예시(코드) 질문

Resolved

Written on

·

229

0

안녕하세요

우선 커리큘럼을 차례대로 재밌게 학습하고 있습니다

LLM finetuning 후 추론하는 예시를 따라하고 있는데요

아래 박스는 혹시 필요 없는 문장이 아닌가 해서 질문 드립니다

감사합니다

image.png

딥러닝pytorchchatgptllmllama

Answer 1

0

AISchool님의 프로필 이미지
AISchool
Instructor

안녕하세요~. 반갑습니다.

재밌게 학습하고 계시다니 기쁘네요^^.

 

확인해보니 말씀해주신대로 해당 예제에서는 바로 아래에 정의된 bnb_config 변수를 사용하기 때문에 언급해주신 config 변수는 사용하지 않아서 불필요하게 정의되어 있네요.

config 변수는 무시하시면 될 것 같습니다.

 

좋은 하루되세요.

감사합니다.

okputto3340's profile image
okputto3340

asked

Ask a question