inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

LLM Finetuning : RunPod와 Multi-GPU 실습

유니크한 수업 목표 제시: Multiple GPUs Training

이 강의를 들으면 쇼핑몰 챗봇도 커버가 가능하나요?

79

Jong Park

작성한 질문수 7

0

LLM 파인튜닝을 해본적이 없어서 궁금한점이 많습니다.

현재 강의의 목적이 shakepeare 스타일의 번역이라고 하셨는데, 그러면 이 강의를 들으면 번역에만 국한 되는건지, 아니면 사용자의 질문에 대답하는 챗봇 형태 등 다른 목적이나 분야도 커버가 되는건지 궁금합니다.

docker gpu 병렬-처리 llm openai-api fine-tuning runpod

답변 1

0

다니엘

안녕하세요! 강의는 Finetuning을 적용하는 일반론을 배웁니다.

번역은 하나의 실전예제로 학습하는 내용입니다.

하나 좀 더 참언하면 예시로 주신 챗봇 개발은 Finetuning보다는 RAG가 좀 더 적절한 방식으로 보입니다.

 

언제든 추가 질문 환영입니다.

다니엘 드림

[13번 강의] ChatInterface에 PDF 렌더링이 안되는 이슈 공유

-1

4

1

워킹플로우 제목 생성 오류와 키워드 미생성 오류

0

9

0

채팅플로우 실행시 진전이 없고 비슷한 류의 답변만 나와요

0

11

2

kafka 이벤트 발행 실패 시 at-least-once를 보장하는 방법이 궁금합니다.

1

32

1

domain에 @Entity 와 Repository를 함께 둔 이유가 궁금합니다

1

27

1

노드

0

19

1

혹시 강의 내용하면서 실습했던 것을 개인 깃에다 올려도 될까요?

0

14

1

Jib 이미지 빌드에서 docker credential 관련으로 이슈가 있다면

1

58

1

스크립트에 대해 질문 있습니다.

1

51

1

같은 사용자가 연속된 중복 호출할 경우 어떻게 되는지 궁금합니다!

2

55

1

기초실습 BERT파인튜닝 예제 오류

0

25

1

54강 양자화의 끝판왕, 터보퀀트 (예정) 강의 업로드

0

29

1

블로그에 학습 내용 올려도 되나요?

0

32

1

이거 지금 부터 들어도 괜찮을까요 ?? 시간이 꽤지난거같은데 .. 뭐 최신하고 아에 안맞을까요 .

0

32

1

kernel crash 문의

0

43

2

자료를 다운로드후 압축을 풀때 오류납니다.

0

46

2

pod kubetm/app 에서 image를 갑자기 못가져 오는거 같습니다.

1

38

2

LLM Sampling 설정 관련

0

32

1

이지지 생성 노드를 커스텀 햇는데 워드프레스에 이미지 업로드가 안됨

0

30

2

자료 한번에 다운받기

0

30

1

3. Node Schedule 중 pod-5가 마스터 노드에 배치됩니다.

1

46

2

fine tuning에 대한 개념적 이해

0

80

0

gemma 2 2b runpod 로컬 PC 사양

0

109

2

stop button 이 안보이는데요?

0

65

1