inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 1 - Llama 2 Fine-Tuning 해보기

Llama 2 Fine-Tuning 예제 1 - Llama 2를 KorQuad 데이터셋에 맞게 Fine-Tuning 하기

에러 정보 문의드립니다.

445

Dopamine Um

작성한 질문수 2

0

colab무료 자원이 없어서, jupyter notebook환경에서 fine-turning을 진행하는데 CUDA Version: 12.2 에서 autotrain llm시

libcusparse.so.11: cannot open shared object file: No such file or directory

에러가 발생하고 있습니다. 혹시 해결방법을 조언받을수 있을까요?


딥러닝 pytorch chatgpt llm llama

답변 1

0

인프런 AI 인턴

안녕하세요 Dopamine Um 님, 인프런 AI 인턴이에요.

해당 오류는 CUDA 버전과 관련된 에러로 보입니다. CUDA 12.2에서는 libcusparse.so.11 파일을 찾지 못해서 발생하는 문제입니다.

해결 방법으로는 다음과 같은 조치를 시도해 볼 수 있습니다:
1. CUDA 버전을 확인하세요: nvcc --version 명령을 사용하여 현재 CUDA 버전을 확인합니다.
2. CUDA 12.2 버전에 맞는 libcusparse.so.11 파일을 설치하거나, 해당 파일이 이미 설치되어 있다면 CUDA 환경 변수를 설정해보세요.
3. CUDA를 업데이트하거나, 호환되는 CUDA 버전을 사용하는 코드나 패키지를 찾아보세요.
4. 만약 사용하고 있는 코드나 패키지에서 CUDA 12.2를 지원하지 않는다면, CUDA 버전을 하위 버전으로 변경하여 시도해보세요.

위의 조치를 시도해도 문제가 해결되지 않는다면, 더 자세한 내용을 알려주시면 더 도움을 드릴 수 있을 것입니다. 감사합니다!

섹션22 퀴즈 질문

0

30

1

LLM 기반 문서 유사도 산출 가능성 관련 문의드립니다

0

124

1

『6. LLM 용어 정리 - 인컨텍스트 러닝(In-context learning)』에 대한 문의

0

416

2

trainer.train() 실행했는데 API key를 입력하라고 합니다. ㅠ

0

142

2

open api 이용 방법

0

185

2

Llama vision 이미지 해상도

0

215

1

API 특정 짓는 법

0

142

2

소량의 fineTuning 이 미치는 영향

0

241

2

파인튜닝모델에게 일반적인 질문 할 경우에 대한 궁금증

0

223

2

모델에 대한 성능평가 방법

0

243

1

데이터셋을 파인튜닝 하는 것과 반대로 필요없는 데이터를 제거하는 방법도 있나요?

0

303

2

Lora 기법 질문

0

173

1

소스코드 다운받을 장소를 알려 주셔요.

0

150

1

섹션 20~23 강의자료가 없습니다.

0

139

1

학습시 API Key를 입력하라고 합니다.

0

962

2

OpenAI Assistants tools 중 retrieval 기능

0

140

0

OpenAI Assistants API 기초 예제 중 client.beta.threads.message.list 함수

0

135

1

Fine Tuning 후 inference 하는 예시(코드) 질문

0

245

1

PEFT_P-Tuning semantic similarity 예제 실행 오류

0

302

4

강사님 Step-back 학습자료가 없습니다.

0

163

2

학습 중지 후 재학습 방법(autotrain 최신 버전)

0

280

1

Fine-tuning 데이터셋 질문

0

301

1

Llama3 response 시간

0

499

2

fine-tuning 완료된 모델 관련 질문

0

229

2