inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

LLM Finetuning : RunPod와 Multi-GPU 실습

유니크한 수업 목표 제시: Multiple GPUs Training

이 강의를 들으면 쇼핑몰 챗봇도 커버가 가능하나요?

58

Jong Park

작성한 질문수 7

0

LLM 파인튜닝을 해본적이 없어서 궁금한점이 많습니다.

현재 강의의 목적이 shakepeare 스타일의 번역이라고 하셨는데, 그러면 이 강의를 들으면 번역에만 국한 되는건지, 아니면 사용자의 질문에 대답하는 챗봇 형태 등 다른 목적이나 분야도 커버가 되는건지 궁금합니다.

docker gpu 병렬-처리 llm openai-api fine-tuning runpod

답변 1

0

다니엘

안녕하세요! 강의는 Finetuning을 적용하는 일반론을 배웁니다.

번역은 하나의 실전예제로 학습하는 내용입니다.

하나 좀 더 참언하면 예시로 주신 챗봇 개발은 Finetuning보다는 RAG가 좀 더 적절한 방식으로 보입니다.

 

언제든 추가 질문 환영입니다.

다니엘 드림

18강 smithery 를 이용한 mcp 실습(업데이트 요청)

0

14

1

guardrails 부분도 현재버전과 약간 다릅니다.

0

15

1

smithery ai 언제 업데이트 되나요?

0

17

1

무료할당량 사용하는데 문제가 생겼습니다.

0

21

1

섹션2-11 내용중 tool_call

0

24

2

max token을 제한하는게 왜 성능을 개선하게 되는걸까요?

0

38

2

20강에서 파인튜닝 때 사용한 데이터가 없어졌습니다. LoRA Trainer 매개변수도 라이브러리 업그레이드로 수정되었습니다.

0

20

1

JPA Repository 질문이 있습니다!

1

33

2

페이지네이션 처리를 쿼리에서 하는 방식 질문

1

36

1

디바이스 페어링 문의

0

31

2

gradio 를 통한 챗봇 인터페이스 실습이 진행되지 않습니다.

0

46

1

yml 작성하다가 에러 발생해서 문의 드립니다.

0

38

2

(강의 6분 50초 부분) Workspace 안에 index.html이 비어있음

0

32

2

섹션2. 1.5쿠버네티스_컨트롤플레인_노드와_워커_노드_그리고 kubeadm으로 쿠버네티스 직접 구성하기-v1.30 오류

0

36

2

강의순서가 바뀌어 있습니다.

0

35

1

설치수업중에 질문드립니다.

1

57

2

pc에서는 괜찮은데 탭으로 들으니 화면확대시 화면이 까맙니다

0

22

1

모든 자료 다운로드 누를때마다 똑같은 excel파일이 다운로드 받아짐. 노션 주소 공유되나요?

0

31

2

섹션 4의 14번 3개의 샘플파일

0

31

2

build.zip 퍄일이 없습니다.

0

41

1

18강 http리퀘스트 부분 오류

0

50

2

fine tuning에 대한 개념적 이해

0

63

0

gemma 2 2b runpod 로컬 PC 사양

0

75

2

stop button 이 안보이는데요?

0

44

1