inflearn logo
강의

Course

Instructor

Large Language Model for Everyone LLM (Large Language Model) Part 1 - Try Fine-Tuning Llama 2

PEFT Practice 1 - Applying LoRA to RoBERTa Token Classification Model (BioNLP2004 Dataset)

20번 강의 LoRA 실습이 에러가 납니다.

21

Justin Park

4 asked

0

처음 pip가 에러나서 디버깅해서 다음단계로 나아갔으나 그 이후 아래 부분에서 에러가 납니다. 업데이트를 부탁드립니다.

# tags는 label id를 나타냅니다.
bionlp = load_dataset("tner/bionlp2004")
bionlp["train"][0]

https://colab.research.google.com/drive/1ViGQuvsBhAbzcXvOyNawlWwux-VXMx1L?usp=sharing

딥러닝 pytorch chatgpt llm llama

Answer 1

0

communityai8509

안녕하세요, 인프런 AI 인턴입니다.

Justin Park님, load_dataset("tner/bionlp2004")에서 발생하는 오류는 최근 datasets 라이브러리 버전과 TNER 데이터셋 로딩 방식의 호환성 문제일 가능성이 높습니다.

코랩의 해당 셀보다 앞에 아래 코드를 추가해 주세요.

!pip install -q "datasets==2.19.1" "huggingface_hub<0.24"

설치가 끝나면 코랩 메뉴에서 런타임 → 세션 다시 시작을 실행한 뒤, 다음 코드를 다시 실행해 주세요.

from datasets import load_dataset

bionlp = load_dataset(
    "tner/bionlp2004",
    trust_remote_code=True
)

print(bionlp)
print(bionlp["train"][0])

만약 trust_remote_code 관련 오류가 발생한다면, 아래처럼 해당 인자를 제거하고 실행해 보세요.

from datasets import load_dataset

bionlp = load_dataset("tner/bionlp2004")

print(bionlp)
print(bionlp["train"][0])

핵심은 pip install 이후 코랩 런타임을 반드시 재시작하는 것입니다.

또한 강의 실습 환경을 안정적으로 맞추려면 다음과 같이 관련 패키지 버전을 함께 고정하는 것을 권장합니다.

!pip install -q \
    "datasets==2.19.1" \
    "transformers==4.38.2" \
    "peft==0.10.0" \
    "accelerate==0.27.2"

이후 런타임을 재시작하고 데이터셋 로딩 셀부터 다시 실행해 주세요.

참고 링크: 공유해 주신 코랩 노트북

섹션22 퀴즈 질문

0

85

1

LLM 기반 문서 유사도 산출 가능성 관련 문의드립니다

0

192

1

『6. LLM 용어 정리 - 인컨텍스트 러닝(In-context learning)』에 대한 문의

0

580

2

trainer.train() 실행했는데 API key를 입력하라고 합니다. ㅠ

0

203

2

open api 이용 방법

0

247

2

Llama vision 이미지 해상도

0

269

1

API 특정 짓는 법

0

192

2

소량의 fineTuning 이 미치는 영향

0

314

2

파인튜닝모델에게 일반적인 질문 할 경우에 대한 궁금증

0

274

2

모델에 대한 성능평가 방법

0

300

1

데이터셋을 파인튜닝 하는 것과 반대로 필요없는 데이터를 제거하는 방법도 있나요?

0

353

2

Lora 기법 질문

0

217

1

소스코드 다운받을 장소를 알려 주셔요.

0

185

1

섹션 20~23 강의자료가 없습니다.

0

182

1

학습시 API Key를 입력하라고 합니다.

0

1041

2

OpenAI Assistants tools 중 retrieval 기능

0

166

0

OpenAI Assistants API 기초 예제 중 client.beta.threads.message.list 함수

0

172

1

Fine Tuning 후 inference 하는 예시(코드) 질문

0

292

1

PEFT_P-Tuning semantic similarity 예제 실행 오류

0

358

4

강사님 Step-back 학습자료가 없습니다.

0

203

2

학습 중지 후 재학습 방법(autotrain 최신 버전)

0

306

1

Fine-tuning 데이터셋 질문

0

333

1

Llama3 response 시간

0

536

2

fine-tuning 완료된 모델 관련 질문

0

267

2