inflearn logo
강의

Khóa học

Chia sẻ kiến thức

Tinh chỉnh LLM : Thực hành RunPod và Multi-GPU

Tìm hiểu khái niệm về Fine Tuning: Khái niệm Fine Tuning chi tiết

fine tuning에 대한 개념적 이해

91

hellonewworld

11 câu hỏi đã được viết

0

안녕하세요 강사님

강의 잘 듣고 있습니다.

강의 내용중 좀 더 이해하고 싶은 부분이 생겨 질문드립니다.

 

#질문 1

8분53초의 화면상의 ppt 슬라이드를 보면

행렬의 shape를 (a,m ), (m *n ), (a, n) 적어주셨는데 각각의 의미가 궁금합니다.

 

(a,m) 은 무엇을 의미하는 행렬이며

이때 a,m각각은 무엇을 나타내는지,

(m*n) 행렬은 무엇을 의미하는 행렬이며

m,n은 무엇을 나타내는지

(a,n) 행렬은 무엇을 의미하는 행렬이며

a,n은 무엇을 나타내는지.

 

( 제 추측으론, m은 모델의 vocabulary 사전의 개수. 또는 토큰id의 max값 같기도하고...n은 벡터의 길이 같기도하고....)

 

#질문 2

그리고 파인 튜닝을 위해 qlora n*n 행렬이 그림상에 추가되었는데, 개념적으로 데이터가 추가되었다고는 이해되는데 실제 물리적으로는 데이터가 어떻게 추가된것인지 궁금합니다.

단순히 m*n 행렬에 n행이 추가되어

m+n, n 행렬이 되었다든지...

 

 

 

docker gpu 병렬-처리 llm openai-api fine-tuning runpod

Câu trả lời 0

ClusterIP 실습 시 Connection refused

0

7

1

제공된 스크립트를 어디서 받을 수 있나요?

0

14

0

강의자료 링크 열리지 않음.

0

17

2

트랜잭션 내 Redis I/O 에 대한 궁금한점

1

17

1

클로드 데스크톱 강의에서 교안찾기

0

36

2

목차랑 내용이 전혀 다른데요

0

60

2

virtualbox 설치시

1

42

1

수강인증 수료배지 링크가 만료되었습니다.

0

43

1

실행중인 컨테이너를 모두 삭제하는 방법(윈도우버전)

0

66

2

winpty docker 설정

0

58

2

vs code설치했는데도, easy docker 파일 열기에서 vs code 아이콘은 안보여요

0

43

1

4.2.2 ~ 10.3.2.1 강의 영상 안나옴

0

57

2

강의 교안 예시

0

39

1

완독 챌린지 도서 인정 방법에 대한 문의

0

64

2

response api를 사용하는것과 codex, cluade code 에이전트를 사용하는것과의 차이

0

38

1

aws 계정 생성 질문

1

66

1

verify.sh 4단계 실패 — Jenkins 컨테이너에서 127.0.0.1:6443 connection refused

0

61

2

ai 레드티밍 자료 및 강의 누락

0

52

1

스크립트 영상 미일치

0

76

3

섹션 2 - 9강. API 관련 질문

0

70

2

강의 자료 요청드립니다.

0

50

1

gemma 2 2b runpod 로컬 PC 사양

0

128

2

stop button 이 안보이는데요?

0

84

1

이 강의를 들으면 쇼핑몰 챗봇도 커버가 가능하나요?

0

97

1