inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 1 - Llama 2 Fine-Tuning 해보기

PEFT 실습 1 - RoBERTa Token Classification 모델에 LoRA 적용하기 (BioNLP2004 데이터셋)

20번 강의 LoRA 실습이 에러가 납니다.

55

Justin Park

작성한 질문수 4

0

처음 pip가 에러나서 디버깅해서 다음단계로 나아갔으나 그 이후 아래 부분에서 에러가 납니다. 업데이트를 부탁드립니다.

# tags는 label id를 나타냅니다.
bionlp = load_dataset("tner/bionlp2004")
bionlp["train"][0]

https://colab.research.google.com/drive/1ViGQuvsBhAbzcXvOyNawlWwux-VXMx1L?usp=sharing

딥러닝 pytorch chatgpt llm llama

답변 1

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다.

Justin Park님, load_dataset("tner/bionlp2004")에서 발생하는 오류는 최근 datasets 라이브러리 버전과 TNER 데이터셋 로딩 방식의 호환성 문제일 가능성이 높습니다.

코랩의 해당 셀보다 앞에 아래 코드를 추가해 주세요.

!pip install -q "datasets==2.19.1" "huggingface_hub<0.24"

설치가 끝나면 코랩 메뉴에서 런타임 → 세션 다시 시작을 실행한 뒤, 다음 코드를 다시 실행해 주세요.

from datasets import load_dataset

bionlp = load_dataset(
    "tner/bionlp2004",
    trust_remote_code=True
)

print(bionlp)
print(bionlp["train"][0])

만약 trust_remote_code 관련 오류가 발생한다면, 아래처럼 해당 인자를 제거하고 실행해 보세요.

from datasets import load_dataset

bionlp = load_dataset("tner/bionlp2004")

print(bionlp)
print(bionlp["train"][0])

핵심은 pip install 이후 코랩 런타임을 반드시 재시작하는 것입니다.

또한 강의 실습 환경을 안정적으로 맞추려면 다음과 같이 관련 패키지 버전을 함께 고정하는 것을 권장합니다.

!pip install -q \
    "datasets==2.19.1" \
    "transformers==4.38.2" \
    "peft==0.10.0" \
    "accelerate==0.27.2"

이후 런타임을 재시작하고 데이터셋 로딩 셀부터 다시 실행해 주세요.

참고 링크: 공유해 주신 코랩 노트북

섹션22 퀴즈 질문

0

91

1

LLM 기반 문서 유사도 산출 가능성 관련 문의드립니다

0

207

1

『6. LLM 용어 정리 - 인컨텍스트 러닝(In-context learning)』에 대한 문의

0

607

2

trainer.train() 실행했는데 API key를 입력하라고 합니다. ㅠ

0

205

2

open api 이용 방법

0

251

2

Llama vision 이미지 해상도

0

277

1

API 특정 짓는 법

0

199

2

소량의 fineTuning 이 미치는 영향

0

319

2

파인튜닝모델에게 일반적인 질문 할 경우에 대한 궁금증

0

285

2

모델에 대한 성능평가 방법

0

309

1

데이터셋을 파인튜닝 하는 것과 반대로 필요없는 데이터를 제거하는 방법도 있나요?

0

357

2

Lora 기법 질문

0

245

1

소스코드 다운받을 장소를 알려 주셔요.

0

192

1

섹션 20~23 강의자료가 없습니다.

0

186

1

학습시 API Key를 입력하라고 합니다.

0

1059

2

OpenAI Assistants tools 중 retrieval 기능

0

172

0

OpenAI Assistants API 기초 예제 중 client.beta.threads.message.list 함수

0

178

1

Fine Tuning 후 inference 하는 예시(코드) 질문

0

295

1

PEFT_P-Tuning semantic similarity 예제 실행 오류

0

362

4

강사님 Step-back 학습자료가 없습니다.

0

208

2

학습 중지 후 재학습 방법(autotrain 최신 버전)

0

312

1

Fine-tuning 데이터셋 질문

0

339

1

Llama3 response 시간

0

544

2

fine-tuning 완료된 모델 관련 질문

0

276

2