inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

LLM Finetuning : RunPod와 Multi-GPU 실습

유니크한 수업 목표 제시: Multiple GPUs Training

이 강의를 들으면 쇼핑몰 챗봇도 커버가 가능하나요?

81

Jong Park

작성한 질문수 7

0

LLM 파인튜닝을 해본적이 없어서 궁금한점이 많습니다.

현재 강의의 목적이 shakepeare 스타일의 번역이라고 하셨는데, 그러면 이 강의를 들으면 번역에만 국한 되는건지, 아니면 사용자의 질문에 대답하는 챗봇 형태 등 다른 목적이나 분야도 커버가 되는건지 궁금합니다.

docker gpu 병렬-처리 llm openai-api fine-tuning runpod

답변 1

0

다니엘

안녕하세요! 강의는 Finetuning을 적용하는 일반론을 배웁니다.

번역은 하나의 실전예제로 학습하는 내용입니다.

하나 좀 더 참언하면 예시로 주신 챗봇 개발은 Finetuning보다는 RAG가 좀 더 적절한 방식으로 보입니다.

 

언제든 추가 질문 환영입니다.

다니엘 드림

3.1.강화학습 기본 알고리즘-마르코프 결정과정

0

9

2

RetrievalQA 방식 관련 문의

0

10

2

부하 테스트 시 설정 관련 질문드립니다

1

32

1

"도커 이미지 생성" 18:59부분에 텍스트 파일로 정리 된거는 어디서 볼수 있나요?

0

23

1

슬라이드 오타

0

25

0

LLM 서비스의 신뢰성

1

39

1

[13번 강의] ChatInterface에 PDF 렌더링이 안되는 이슈 공유

0

32

1

워킹플로우 제목 생성 오류와 키워드 미생성 오류

0

29

1

채팅플로우 실행시 진전이 없고 비슷한 류의 답변만 나와요

0

34

4

kafka 이벤트 발행 실패 시 at-least-once를 보장하는 방법이 궁금합니다.

1

73

1

domain에 @Entity 와 Repository를 함께 둔 이유가 궁금합니다

1

58

1

노드

0

36

1

혹시 강의 내용하면서 실습했던 것을 개인 깃에다 올려도 될까요?

0

25

1

Jib 이미지 빌드에서 docker credential 관련으로 이슈가 있다면

1

83

1

스크립트에 대해 질문 있습니다.

1

60

1

같은 사용자가 연속된 중복 호출할 경우 어떻게 되는지 궁금합니다!

2

79

1

기초실습 BERT파인튜닝 예제 오류

0

27

1

54강 양자화의 끝판왕, 터보퀀트 (예정) 강의 업로드

0

31

1

블로그에 학습 내용 올려도 되나요?

0

35

1

이거 지금 부터 들어도 괜찮을까요 ?? 시간이 꽤지난거같은데 .. 뭐 최신하고 아에 안맞을까요 .

0

41

1

kernel crash 문의

0

51

2

fine tuning에 대한 개념적 이해

0

80

0

gemma 2 2b runpod 로컬 PC 사양

0

112

2

stop button 이 안보이는데요?

0

70

1