inflearn logo
강의

講義

知識共有

LLMファインチューニング : RunPodとMulti-GPU実習

ファインチューニングの概念的理解: Fine Tuning Concept in Detail

fine tuning에 대한 개념적 이해

71

hellonewworld

投稿した質問数 10

0

안녕하세요 강사님

강의 잘 듣고 있습니다.

강의 내용중 좀 더 이해하고 싶은 부분이 생겨 질문드립니다.

 

#질문 1

8분53초의 화면상의 ppt 슬라이드를 보면

행렬의 shape를 (a,m ), (m *n ), (a, n) 적어주셨는데 각각의 의미가 궁금합니다.

 

(a,m) 은 무엇을 의미하는 행렬이며

이때 a,m각각은 무엇을 나타내는지,

(m*n) 행렬은 무엇을 의미하는 행렬이며

m,n은 무엇을 나타내는지

(a,n) 행렬은 무엇을 의미하는 행렬이며

a,n은 무엇을 나타내는지.

 

( 제 추측으론, m은 모델의 vocabulary 사전의 개수. 또는 토큰id의 max값 같기도하고...n은 벡터의 길이 같기도하고....)

 

#질문 2

그리고 파인 튜닝을 위해 qlora n*n 행렬이 그림상에 추가되었는데, 개념적으로 데이터가 추가되었다고는 이해되는데 실제 물리적으로는 데이터가 어떻게 추가된것인지 궁금합니다.

단순히 m*n 행렬에 n행이 추가되어

m+n, n 행렬이 되었다든지...

 

 

 

docker gpu 병렬-처리 llm openai-api fine-tuning runpod

回答 0

관리자 페이지 질문

0

9

1

2.3 Agentic RAG 관련 질문이 있습니다.

0

11

1

dotenv, langchain_community 로드가 되지 않습니다.

0

21

1

FMP API 유료

1

25

1

aws 로드 밸런서가 생성되지 않습니다.

0

21

2

민구님 설치시 또 막혀서 질문드려요

0

33

2

git clone 명령어를 어디 터미널에다 붙여넣어야 하나요?

0

34

2

html 파일을 못 불러 옵니다.

0

34

2

twitterdb 연결이 안돼요

1

28

2

실습2_GPT기반_온라인_댓글_분류_자동.ipynb 파일 오류 있습니다.

0

26

1

선생님 질문이 있어요

0

42

2

온톨로지 구축

0

28

1

강의 완료 시점 문의

0

28

1

이제 인프런에서 강의 더 안산다. 후져....

0

42

1

소스코드 어디서 다운받아요?

0

54

5

클라우드 가입 시 회사 이메일

0

43

1

엥?? 화면이 안나옵니다.

0

35

1

본 강의와는 상관없는 내용입니다만..

0

35

1

깃허브 레포지토리 확인 요청

0

45

2

Docker 환경

0

66

2

Windows localhost:30000 연결 거부 현상

0

52

2

gemma 2 2b runpod 로컬 PC 사양

0

94

2

stop button 이 안보이는데요?

0

48

1

이 강의를 들으면 쇼핑몰 챗봇도 커버가 가능하나요?

0

70

1