PEFT_P-Tuning semantic similarity 예제 실행 오류
https://colab.research.google.com/drive/1Xzv-qhal48LknNYmTSI_-sEBmBWpioBl?usp=sharing
위의 코드 실행 중 오류가 발생하였습니다
trainer = Trainer(
model=model,
args=training_args,
train_dataset=tokenized_datasets["train"],
eval_dataset=tokenized_datasets["test"],
tokenizer=tokenizer,
data_collator=data_collator,
compute_metrics=compute_metrics,
)
trainer.train()오류 발생 부분은 위의 파트이고 오류의 내용은 아래와 같습니다
혹시 수정된 코드를 받을 수 있을까요?
답변 4
0
안녕하세요. 아래 colab 링크로 실습 진행부탁드립니다.
https://colab.research.google.com/drive/1xlOtBOLf0DjSNHXTiz5PV72X5Pp4-O8s?usp=sharing
좋은 하루되세요.
감사합니다.
0
안녕하세요 답변 주셔서 감사합니다
오류는 training 하기 전 즉 load_best_model_at_end 인자값을 제공하기 전 이래 부분에서 발생합니다
model = get_peft_model(model, peft_config)
실행 부분 및 발생오류 공유드립니다

0
low_cpu_mem_usage 로 같은 오류가 나서 해보니.
0.12.0 도 오류가 나고 0.11.0 으로 install 하니 되네요~
!pip install peft==0.11.0
0
안녕하세요~. 반갑습니다.
먼저 수강에 불편을 드려서 죄송합니다.
최신 버전의 peft 라이브러리에서 load_best_model_at_end 인자값을 True로 설정할 경우 충돌이 발생하는 버그가 있는 것 같습니다.
load_best_model_at_end 인자값을 False로 변경한 아래 colab 코드를 통해서 실습 진행 부탁드립니다.
https://colab.research.google.com/drive/1gecg-5vCjBzTZk3-It_a2m5-L-WN7Qq6?usp=sharing
좋은 하루되세요.
감사합니다.
0
안녕하세요, 인프런 AI 인턴입니다.
제공해주신 정보와 링크 내용을 확인하였으나, 질문하신 ‘PEFT_P-Tuning semantic similarity 예제 실행 오류’ 수정 코드에 관한 구체적인 답변을 제공하는 내용이 포함되어 있지 않습니다.
프로그래밍과 관련해 다른 궁금증이 있으시거나, 특정 기술적 문제에 대한 해결 방법이 필요하시다면, 구체적인 내용을 알려주시면 도움을 드릴 수 있습니다.
LLM 기반 문서 유사도 산출 가능성 관련 문의드립니다
0
118
1
『6. LLM 용어 정리 - 인컨텍스트 러닝(In-context learning)』에 대한 문의
0
388
2
trainer.train() 실행했는데 API key를 입력하라고 합니다. ㅠ
0
137
2
open api 이용 방법
0
183
2
Llama vision 이미지 해상도
0
210
1
API 특정 짓는 법
0
139
2
소량의 fineTuning 이 미치는 영향
0
237
2
파인튜닝모델에게 일반적인 질문 할 경우에 대한 궁금증
0
220
2
모델에 대한 성능평가 방법
0
241
1
데이터셋을 파인튜닝 하는 것과 반대로 필요없는 데이터를 제거하는 방법도 있나요?
0
300
2
Lora 기법 질문
0
167
1
소스코드 다운받을 장소를 알려 주셔요.
0
146
1
섹션 20~23 강의자료가 없습니다.
0
136
1
학습시 API Key를 입력하라고 합니다.
0
949
2
OpenAI Assistants tools 중 retrieval 기능
0
137
0
OpenAI Assistants API 기초 예제 중 client.beta.threads.message.list 함수
0
130
1
Fine Tuning 후 inference 하는 예시(코드) 질문
0
242
1
강사님 Step-back 학습자료가 없습니다.
0
156
2
학습 중지 후 재학습 방법(autotrain 최신 버전)
0
277
1
Fine-tuning 데이터셋 질문
0
292
1
Llama3 response 시간
0
493
2
fine-tuning 완료된 모델 관련 질문
0
223
2
llama 3 파인튜닝 관련 문의 사항
0
639
1
checkpoint 파일이 안생겨요
0
354
2





