inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

LLM Finetuning : RunPod와 Multi-GPU 실습

Fine Tuning의 개념적 이해: Fine Tuning Concept in Detail

fine tuning에 대한 개념적 이해

70

유준모

작성한 질문수 10

0

안녕하세요 강사님

강의 잘 듣고 있습니다.

강의 내용중 좀 더 이해하고 싶은 부분이 생겨 질문드립니다.

 

#질문 1

8분53초의 화면상의 ppt 슬라이드를 보면

행렬의 shape를 (a,m ), (m *n ), (a, n) 적어주셨는데 각각의 의미가 궁금합니다.

 

(a,m) 은 무엇을 의미하는 행렬이며

이때 a,m각각은 무엇을 나타내는지,

(m*n) 행렬은 무엇을 의미하는 행렬이며

m,n은 무엇을 나타내는지

(a,n) 행렬은 무엇을 의미하는 행렬이며

a,n은 무엇을 나타내는지.

 

( 제 추측으론, m은 모델의 vocabulary 사전의 개수. 또는 토큰id의 max값 같기도하고...n은 벡터의 길이 같기도하고....)

 

#질문 2

그리고 파인 튜닝을 위해 qlora n*n 행렬이 그림상에 추가되었는데, 개념적으로 데이터가 추가되었다고는 이해되는데 실제 물리적으로는 데이터가 어떻게 추가된것인지 궁금합니다.

단순히 m*n 행렬에 n행이 추가되어

m+n, n 행렬이 되었다든지...

 

 

 

docker gpu 병렬-처리 llm openai-api fine-tuning runpod

답변 0

dotenv, langchain_community 로드가 되지 않습니다.

0

11

1

FMP API 유료

1

18

1

aws 로드 밸런서가 생성되지 않습니다.

0

13

2

민구님 설치시 또 막혀서 질문드려요

0

27

2

git clone 명령어를 어디 터미널에다 붙여넣어야 하나요?

0

32

2

html 파일을 못 불러 옵니다.

0

30

2

twitterdb 연결이 안돼요

1

26

2

실습2_GPT기반_온라인_댓글_분류_자동.ipynb 파일 오류 있습니다.

0

26

1

선생님 질문이 있어요

0

42

2

온톨로지 구축

0

26

1

강의 완료 시점 문의

0

27

1

이제 인프런에서 강의 더 안산다. 후져....

0

42

1

소스코드 어디서 다운받아요?

0

52

5

클라우드 가입 시 회사 이메일

0

43

1

엥?? 화면이 안나옵니다.

0

35

1

본 강의와는 상관없는 내용입니다만..

0

35

1

깃허브 레포지토리 확인 요청

0

45

2

Docker 환경

0

65

2

Windows localhost:30000 연결 거부 현상

0

50

2

Langchain 공식문서 학습 질문

0

56

2

나머지 강의는 언제 업로드되나요?

0

40

1

gemma 2 2b runpod 로컬 PC 사양

0

94

2

stop button 이 안보이는데요?

0

48

1

이 강의를 들으면 쇼핑몰 챗봇도 커버가 가능하나요?

0

70

1