강의

N
챌린지

멘토링

N
클립

로드맵

AI Development

/

Deep Learning & Machine Learning

LLM Finetuning : RunPod and Multi-GPU Practice

Packed with LLM Fine-Tuning Know-how, learned from Silicon Valley LLM Project Practitioners.

(4.8) 5 reviews

33 learners

  • danielyouk
multi-gpu
환경구축
ai개발
LLM
RunPod
openAI API
GPU
Parallel Processing

What you will learn!

  • LLM Fine Tuning

  • Multi GPUs

  • OpenAI API

  • Ollama

  • Hugging Face

The Core of AI Customization
Fine Tuning & Multi-GPU

No more same old AI!
Sharing practical AI customization know-how from a Silicon Valley LLM project lead .

✅ API, fine tuning, and multi-GPU all at once

This course covers the core skills required for practical LLM development, including API utilization, dataset creation, fine-tuning, and multi-GPU setup.

✅ Learn how to use RunPod quickly and easily

RunPod, the key to leveraging multi-GPUs! Efficiently build a multi-GPU environment without wasting time by selecting only the necessary sections from the official documentation.

Increasing the efficiency of AI development
GPU solution, RunPod !



RunPod is a service that allows you to rent virtual GPUs in the cloud to train and deploy AI models . It easily builds a multi-GPU environment for efficient, large-scale training and inference. With hourly billing, you can use only as much as you need, resulting in significant cost savings. Furthermore, you can immediately leverage the latest GPUs without complex infrastructure, maximizing AI performance.

Learn about these things

Multi-GPU Fine-Tuning: Creating the Optimal LLM Training Environment

Learn how to efficiently conduct LLM training without hardware limitations using multi-GPUs. This guide details how to build a multi-GPU environment using the RunPod service and connect to the Pod from your local environment via SSH.


Building Your Own LLM: Customizing AI Models with Fine-Tuning

Now, build your own AI as smart as ChatGPT! In this course, you'll learn how to fine-tune an AI model that converts Korean input into Shakespearean English .

Leveraging the OpenAI API: Building the Dataset Required for Model Training

By leveraging the OpenAI API, you can overcome data shortage issues and efficiently secure high-quality data needed for model training. 

 from openai import OpenAI
client = OpenAI()

completion = client.chat.completions.create(
    model= "gpt-4o" ,
    messages=[
        { "role" : "developer" , "content" : "You are a helpful assistant." },
        {
            "role" : "user" ,
            "content" : "Translate the following English text into a Shakespearean style."
        }
    ]
)

print (completion.choices[ 0 ].message)


AI Development Hands-on: Fine-Tuning Your LLM with the Latest Technology Stack

From generating data with the OpenAI API, downloading LLM from HuggingFace, running models with Ollama, and optimizing with RunPod GPU, you'll experience the latest AI technology stack all at once and master the practical workflow of LLM fine-tuning.


Things to note before taking the course

Practice environment

  • Operating System and Version (OS): All OS are supported, including Windows, macOS, and Linux.

  • Tools used: Visual Studio Code, Ollama, Hugging Face API, OpenAI API, llama.cpp

  • PC specifications: PC with basic specifications capable of Internet access

Learning Materials

  • Learning material formats provided: Jupyter Notebook, lecture script

  • All lecture content is provided as text files. After class, you can use the search function to quickly find the section you need.

Player Knowledge and Precautions

  • No prior knowledge is required.

  • For those who are not familiar with the usage of the hugging face API covered in the lecture, it may feel a little difficult, but it is something that can be easily solved by following the lecture content and searching for chatgpt.

  • We encourage you to utilize the bulletin board. We'll provide in-depth, detailed answers to any questions you have about class-related topics.

Recommended for
these people

Who is this course right for?

  • Developer wanting to build their own Chat model

  • Everyone who wants to learn Multi GPU model training

Need to know before starting?

  • (Optional) Problem-solving ability via Chatgpt search

Hello
This is

611

Learners

63

Reviews

73

Answers

4.8

Rating

7

Courses

  • LLM 기반 AI 기업에서 Pod Lead로 활동

  • 서울대학교 기계항공 공학부 졸업

  • 유럽 소재 대학원에서 기계항공공학 석사

  • 독일 소재 공학 연구기관에서 박사 과정 연구 수행

  • 유럽 대형 에너지 기업에서 Senior Data Scientist 경험

  • 영국 소재 에너지 컨설팅 기업에서 Senior Consultant 활동

  • Databricks 기반 데이터 엔지니어링 프로젝트 수행

  • Kaggle 주식 거래 AI 대회 Top 3% 성과

  • AI Agent 개발팀장으로 현재 활동 중

Curriculum

All

20 lectures ∙ (3hr 26min)

Course Materials:

Lecture resources
Published: 
Last updated: 

Reviews

All

5 reviews

4.8

5 reviews

  • 배소정님의 프로필 이미지
    배소정

    Reviews 3

    ∙

    Average Rating 5.0

    5

    30% enrolled

    • brand13님의 프로필 이미지
      brand13

      Reviews 9

      ∙

      Average Rating 5.0

      5

      30% enrolled

      • 류하경님의 프로필 이미지
        류하경

        Reviews 2

        ∙

        Average Rating 5.0

        5

        65% enrolled

        • handover.oh님의 프로필 이미지
          handover.oh

          Reviews 1

          ∙

          Average Rating 4.0

          4

          100% enrolled

          • hakjuknu님의 프로필 이미지
            hakjuknu

            Reviews 155

            ∙

            Average Rating 5.0

            5

            30% enrolled

            great!

            Limited time deal

            $45,370.00

            25%

            $47.30

            danielyouk's other courses

            Check out other courses by the instructor!

            실전도커: 도커로 나만의 딥러닝 클라우드 컴퓨터 만들기강의 썸네일

            실전도커: 도커로 나만의 딥러닝 클라우드 컴퓨터 만들기

            다니엘

            도커를 사용해서 클라우드에 딥러닝 분석환경을 만들 수 있습니다. 구글, MS 등이 관리하는 도커 이미지와 클라우드가 결합할 때 여러분의 컴퓨터에서 가장 최신의 딥러닝 분석 방법으로 작업을 수행하는 것이 가능해집니다.

            초급

            초급

            Docker, 가상화, Python

            실전도커: 도커로 나만의 딥러닝 클라우드 컴퓨터 만들기강의 썸네일

            실전도커: 도커로 나만의 딥러닝 클라우드 컴퓨터 만들기

            다니엘

            파이썬 알고리즘 트레이딩 파트1: 알고리즘 트레이딩을 위한 파이썬 데이터 분석강의 썸네일

            파이썬 알고리즘 트레이딩 파트1: 알고리즘 트레이딩을 위한 파이썬 데이터 분석

            다니엘

            S&P 500 페어 트레이딩의 통계적 접근법을 파이썬으로 체계적으로 학습하실 수 있습니다. 전문적인 데이터 분석을 통해 감정을 배제한 투자 전략의 기초를 마련하세요.

            초급

            초급

            Python, 객체지향, 퀀트

            파이썬 알고리즘 트레이딩 파트1: 알고리즘 트레이딩을 위한 파이썬 데이터 분석강의 썸네일

            파이썬 알고리즘 트레이딩 파트1: 알고리즘 트레이딩을 위한 파이썬 데이터 분석

            다니엘

            파이썬 알고리즘 트레이딩 파트3: 클라우드 거래 자동화강의 썸네일

            파이썬 알고리즘 트레이딩 파트3: 클라우드 거래 자동화

            다니엘

            이 강의는 알고리즘 트레이딩을 로컬 컴퓨터와 클라우드 환경에서 자동화하는 과정을 다루며 실습을 중심으로 진행됩니다.

            중급이상

            중급이상

            Python, 퀀트, github-actions

            파이썬 알고리즘 트레이딩 파트3: 클라우드 거래 자동화강의 썸네일

            파이썬 알고리즘 트레이딩 파트3: 클라우드 거래 자동화

            다니엘

            파이썬 알고리즘 트레이딩 파트2: Interactive Brokers API를 활용한 실시간 알고리즘 트레이딩강의 썸네일

            파이썬 알고리즘 트레이딩 파트2: Interactive Brokers API를 활용한 실시간 알고리즘 트레이딩

            다니엘

            Python과 글로벌 점유율 1위인 Interactive Brokers API를 활용하여 주식 거래 자동화를 체계적으로 학습하실 수 있습니다.

            중급이상

            중급이상

            Python, 객체지향, 퀀트

            파이썬 알고리즘 트레이딩 파트2: Interactive Brokers API를 활용한 실시간 알고리즘 트레이딩강의 썸네일

            파이썬 알고리즘 트레이딩 파트2: Interactive Brokers API를 활용한 실시간 알고리즘 트레이딩

            다니엘

            Similar courses

            Explore other courses in the same field!

            딥러닝 이론 + PyTorch 실무 완전 정복강의 썸네일

            딥러닝 이론 + PyTorch 실무 완전 정복

            변정현

            딥러닝 현업에 종사하기 위해 필요한 딥러닝의 “핵심 개념”을 배우고 PyTorch을 활용한 실습을 통해서 실제 딥러닝 프로젝트를 수행하는데 필요한 실무를 가르쳐주는 강의입니다.

            초급

            초급

            딥러닝, PyTorch, 컴퓨터 비전

            딥러닝 이론 + PyTorch 실무 완전 정복강의 썸네일

            딥러닝 이론 + PyTorch 실무 완전 정복

            변정현

            CUDA 프로그래밍 (1) - C/C++/GPU 병렬 컴퓨팅 - CUDA 커널 kernel강의 썸네일

            CUDA 프로그래밍 (1) - C/C++/GPU 병렬 컴퓨팅 - CUDA 커널 kernel

            드립커피+한모금더

            ✅ 전체 (1) ~ (6)의 시리즈 중, (1) CUDA 커널(kernel) 실제로 만들기 ✅ NVIDIA GPU + CUDA 프로그래밍을 기초부터 차근차근 설명합니다. ✅ C++/C 언어로 배열/행렬/이미지처리/통계처리/정렬 등을 병렬 컴퓨팅으로 매우 빠르게 처리합니다.

            중급이상

            중급이상

            CUDA, GPU, 병렬 처리

            CUDA 프로그래밍 (1) - C/C++/GPU 병렬 컴퓨팅 - CUDA 커널 kernel강의 썸네일

            CUDA 프로그래밍 (1) - C/C++/GPU 병렬 컴퓨팅 - CUDA 커널 kernel

            드립커피+한모금더

            CUDA 프로그래밍 (0) - C/C++/GPU 병렬 컴퓨팅 - 공개 샘플 강의강의 썸네일

            CUDA 프로그래밍 (0) - C/C++/GPU 병렬 컴퓨팅 - 공개 샘플 강의

            드립커피+한모금더

            ✅ 전체 (1) ~ (6)의 시리즈 강의를 소개하는 (0) 인트로 강의 입니다. ✅ NVIDIA GPU + CUDA 프로그래밍을 기초부터 차근차근 설명합니다. ✅ C++/C 언어로 배열/행렬/이미지처리/통계처리/정렬 등을 병렬 컴퓨팅으로 매우 빠르게 처리합니다.

            중급이상

            중급이상

            CUDA, GPU, 병렬 처리

            CUDA 프로그래밍 (0) - C/C++/GPU 병렬 컴퓨팅 - 공개 샘플 강의강의 썸네일

            CUDA 프로그래밍 (0) - C/C++/GPU 병렬 컴퓨팅 - 공개 샘플 강의

            드립커피+한모금더

            CUDA 프로그래밍 (2) - C/C++/GPU 병렬 컴퓨팅 - 벡터 vector 더하기강의 썸네일

            CUDA 프로그래밍 (2) - C/C++/GPU 병렬 컴퓨팅 - 벡터 vector 더하기

            드립커피+한모금더

            ✅ 전체 (1) ~ (6)의 시리즈 중, (2) 벡터(1D 배열) 병렬로 동시에 더하기 ✅ NVIDIA GPU + CUDA 프로그래밍을 기초부터 차근차근 설명합니다. ✅ C++/C 언어로 배열/행렬/이미지처리/통계처리/정렬 등을 병렬 컴퓨팅으로 매우 빠르게 처리합니다.

            중급이상

            중급이상

            CUDA, GPU, 병렬 처리

            CUDA 프로그래밍 (2) - C/C++/GPU 병렬 컴퓨팅 - 벡터 vector 더하기강의 썸네일

            CUDA 프로그래밍 (2) - C/C++/GPU 병렬 컴퓨팅 - 벡터 vector 더하기

            드립커피+한모금더

            맞춤형 LLM 만들기 : 처음 시작하는 분을 위한 RAG 기초 개념부터 멀티모달·Agent 실습까지강의 썸네일

            맞춤형 LLM 만들기 : 처음 시작하는 분을 위한 RAG 기초 개념부터 멀티모달·Agent 실습까지

            HappyAI

            RAG(Retrieval-Augmented Generation)의 이론부터 최신 멀티모달, 에이전트 기반 RAG까지! 비전공자도 이해할 수 있도록 구성된 실습 중심 강의입니다. 논문 리뷰부터 실전 코드 구현까지, RAG를 처음 접하는 사람도 쉽게 따라올 수 있도록 설계했습니다.

            입문

            입문

            Python, vector-database, LLM

            맞춤형 LLM 만들기 : 처음 시작하는 분을 위한 RAG 기초 개념부터 멀티모달·Agent 실습까지강의 썸네일

            맞춤형 LLM 만들기 : 처음 시작하는 분을 위한 RAG 기초 개념부터 멀티모달·Agent 실습까지

            HappyAI

            생성모델 튜닝 어디까지 왔나? - Langcon 2024강의 썸네일

            생성모델 튜닝 어디까지 왔나? - Langcon 2024

            Young Sook Song

            자연어처리 컨퍼런스 <Langcon 2024> 발표 세션 영상입니다

            중급이상

            중급이상

            LLM, openAI API

            생성모델 튜닝 어디까지 왔나? - Langcon 2024강의 썸네일

            생성모델 튜닝 어디까지 왔나? - Langcon 2024

            Young Sook Song

            대규모 언어 모형(LLM)의 기초 원리 이해강의 썸네일

            대규모 언어 모형(LLM)의 기초 원리 이해

            아리가람

            챗지피티(ChatGPT) 같은 대규모 언어 모형의 기초 원리를 이론 중심으로 설명합니다.

            중급이상

            중급이상

            NLP, gpt, 인공지능(AI)

            대규모 언어 모형(LLM)의 기초 원리 이해강의 썸네일

            대규모 언어 모형(LLM)의 기초 원리 이해

            아리가람