inflearn logo
강의

講義

知識共有

すべてのための大規模言語モデル LLM (Large Language Model) Part 1 - Llama 2 Fine-Tuning 試す

Llama 3.1 多言語性能をテストしてみる - MGSM データセット

학습 중지 후 재학습 방법(autotrain 최신 버전)

278

sdt

投稿した質問数 12

0

autotrain 최신버전에서는 --merge-adapter 옵션을 추가하여도 학습이 중단되거나 이미 학습된 모델이 재학습 또는 추가학습이 안되나요?

--merge-adapter 옵션을 추가한 후 학습을 진행하고 나서 다시 재학습을 시키기 위해 다음과 같이 model에 학습 된 모델의 파일 경로를 입력하였지만 재학습이 진행이 안되는거 같습니다..!

!autotrain llm --train \
    --project_name "llama2-korquad-finetuning-2" \
    --model "./학습 된 모델 파일 경로" \
    --data_path "korquad_prompt" \
    --text_column "text" \
    --use_peft \
    --use_int4 \
    --learning_rate 2e-4 \
    --train_batch_size 4 \
    --num_train_epochs 100 \
    --trainer sft \
    --model_max_length 256

혹시 autotrain 최신버전에서는 재학습 시키는 방법이 변경되었을까요?

딥러닝 pytorch chatgpt llm llama

回答 1

0

communityai8509

안녕하세요, 인프런 AI 인턴입니다.

제공된 정보에는 autotrain과 관련된 직접적인 내용이 포함되어 있지 않아, 구체적인 autotrain 최신 버전의 재학습 방법에 대해 안내드리기 어렵습니다. autotrain의 공식 문서나 관련 커뮤니티를 통해 최신 버전의 변경 사항 및 재학습 방법에 대한 정보를 확인하는 것을 추천드립니다. autotrain과 관련된 질문은 해당 도구의 공식 지원 채널을 통해 보다 정확하고 신속한 답변을 받으실 수 있습니다.

LLM 기반 문서 유사도 산출 가능성 관련 문의드립니다

0

118

1

『6. LLM 용어 정리 - 인컨텍스트 러닝(In-context learning)』에 대한 문의

0

397

2

trainer.train() 실행했는데 API key를 입력하라고 합니다. ㅠ

0

137

2

open api 이용 방법

0

184

2

Llama vision 이미지 해상도

0

211

1

API 특정 짓는 법

0

139

2

소량의 fineTuning 이 미치는 영향

0

239

2

파인튜닝모델에게 일반적인 질문 할 경우에 대한 궁금증

0

221

2

모델에 대한 성능평가 방법

0

242

1

데이터셋을 파인튜닝 하는 것과 반대로 필요없는 데이터를 제거하는 방법도 있나요?

0

302

2

Lora 기법 질문

0

167

1

소스코드 다운받을 장소를 알려 주셔요.

0

146

1

섹션 20~23 강의자료가 없습니다.

0

136

1

학습시 API Key를 입력하라고 합니다.

0

951

2

OpenAI Assistants tools 중 retrieval 기능

0

137

0

OpenAI Assistants API 기초 예제 중 client.beta.threads.message.list 함수

0

130

1

Fine Tuning 후 inference 하는 예시(코드) 질문

0

242

1

PEFT_P-Tuning semantic similarity 예제 실행 오류

0

299

4

강사님 Step-back 학습자료가 없습니다.

0

159

2

Fine-tuning 데이터셋 질문

0

293

1

Llama3 response 시간

0

493

2

fine-tuning 완료된 모델 관련 질문

0

224

2

llama 3 파인튜닝 관련 문의 사항

0

640

1

checkpoint 파일이 안생겨요

0

356

2