fine tuning에 대한 개념적 이해
80
작성한 질문수 11
안녕하세요 강사님
강의 잘 듣고 있습니다.
강의 내용중 좀 더 이해하고 싶은 부분이 생겨 질문드립니다.
#질문 1
8분53초의 화면상의 ppt 슬라이드를 보면
행렬의 shape를 (a,m ), (m *n ), (a, n) 적어주셨는데 각각의 의미가 궁금합니다.
(a,m) 은 무엇을 의미하는 행렬이며
이때 a,m각각은 무엇을 나타내는지,
(m*n) 행렬은 무엇을 의미하는 행렬이며
m,n은 무엇을 나타내는지
(a,n) 행렬은 무엇을 의미하는 행렬이며
a,n은 무엇을 나타내는지.
( 제 추측으론, m은 모델의 vocabulary 사전의 개수. 또는 토큰id의 max값 같기도하고...n은 벡터의 길이 같기도하고....)
#질문 2
그리고 파인 튜닝을 위해 qlora n*n 행렬이 그림상에 추가되었는데, 개념적으로 데이터가 추가되었다고는 이해되는데 실제 물리적으로는 데이터가 어떻게 추가된것인지 궁금합니다.
단순히 m*n 행렬에 n행이 추가되어
m+n, n 행렬이 되었다든지...
답변 0
[13번 강의] ChatInterface에 PDF 렌더링이 안되는 이슈 공유
-1
7
1
워킹플로우 제목 생성 오류와 키워드 미생성 오류
0
10
1
채팅플로우 실행시 진전이 없고 비슷한 류의 답변만 나와요
0
16
4
kafka 이벤트 발행 실패 시 at-least-once를 보장하는 방법이 궁금합니다.
1
38
1
domain에 @Entity 와 Repository를 함께 둔 이유가 궁금합니다
1
29
1
노드
0
22
1
혹시 강의 내용하면서 실습했던 것을 개인 깃에다 올려도 될까요?
0
15
1
Jib 이미지 빌드에서 docker credential 관련으로 이슈가 있다면
1
60
1
스크립트에 대해 질문 있습니다.
1
54
1
같은 사용자가 연속된 중복 호출할 경우 어떻게 되는지 궁금합니다!
2
60
1
기초실습 BERT파인튜닝 예제 오류
0
25
1
54강 양자화의 끝판왕, 터보퀀트 (예정) 강의 업로드
0
29
1
블로그에 학습 내용 올려도 되나요?
0
32
1
이거 지금 부터 들어도 괜찮을까요 ?? 시간이 꽤지난거같은데 .. 뭐 최신하고 아에 안맞을까요 .
0
34
1
kernel crash 문의
0
45
2
자료를 다운로드후 압축을 풀때 오류납니다.
0
47
2
pod kubetm/app 에서 image를 갑자기 못가져 오는거 같습니다.
1
39
2
LLM Sampling 설정 관련
0
32
1
이지지 생성 노드를 커스텀 햇는데 워드프레스에 이미지 업로드가 안됨
0
31
2
자료 한번에 다운받기
0
30
1
3. Node Schedule 중 pod-5가 마스터 노드에 배치됩니다.
1
47
2
gemma 2 2b runpod 로컬 PC 사양
0
109
2
stop button 이 안보이는데요?
0
66
1
이 강의를 들으면 쇼핑몰 챗봇도 커버가 가능하나요?
0
79
1