강의

멘토링

로드맵

Inflearn brand logo image
AI Development

/

Deep Learning & Machine Learning

Tinh chỉnh LLM : Thực hành RunPod và Multi-GPU

Đúc kết đầy đủ bí quyết LLM Fine-Tuning, học từ chuyên gia dự án LLM ở Silicon Valley.

(4.8) 5 đánh giá

32 học viên

  • danielyouk
multi-gpu
환경구축
ai개발
LLM
RunPod
openAI API
GPU
Parallel Processing

Dịch cái này sang tiếng Việt

  • LLM Tinh chỉnh

  • Multi GPUs

  • OpenAI API

  • Ollama

  • Hugging Face

Cốt lõi của tùy chỉnh AI
Tinh chỉnh & Đa GPU

Không còn AI cũ nữa!
Chia sẻ bí quyết tùy chỉnh AI thực tế từ trưởng dự án LLM tại Thung lũng Silicon .

API, tinh chỉnh và đa GPU cùng một lúc

Khóa học này bao gồm các kỹ năng cốt lõi cần thiết cho quá trình phát triển LLM thực tế, bao gồm sử dụng API, tạo tập dữ liệu, tinh chỉnh và thiết lập nhiều GPU.

Học cách sử dụng RunPod một cách nhanh chóng và dễ dàng

RunPod, chìa khóa để tận dụng đa GPU! Xây dựng môi trường đa GPU hiệu quả mà không tốn thời gian bằng cách chỉ chọn những phần cần thiết từ tài liệu chính thức.

Tăng hiệu quả phát triển AI
Giải pháp GPU, RunPod !



RunPod là dịch vụ cho phép bạn thuê GPU ảo trên đám mây để đào tạo và triển khai các mô hình AI . Dịch vụ này dễ dàng xây dựng một môi trường đa GPU cho việc đào tạo và suy luận hiệu quả, quy mô lớn. Với hình thức thanh toán theo giờ, bạn chỉ cần sử dụng lượng GPU cần thiết, giúp tiết kiệm đáng kể chi phí. Hơn nữa, bạn có thể tận dụng ngay các GPU mới nhất mà không cần cơ sở hạ tầng phức tạp, tối đa hóa hiệu suất AI.

Tìm hiểu về những điều này

Tinh chỉnh đa GPU: Tạo môi trường đào tạo LLM tối ưu

Tìm hiểu cách thực hiện đào tạo LLM hiệu quả mà không bị giới hạn phần cứng bằng cách sử dụng nhiều GPU. Hướng dẫn này trình bày chi tiết cách xây dựng môi trường đa GPU bằng dịch vụ RunPod và kết nối với Pod từ môi trường cục bộ của bạn qua SSH.


Xây dựng LLM của riêng bạn: Tùy chỉnh các mô hình AI bằng cách tinh chỉnh

Giờ đây, hãy tự xây dựng AI thông minh như ChatGPT! Trong khóa học này, bạn sẽ học cách tinh chỉnh mô hình AI để chuyển đổi dữ liệu đầu vào từ tiếng Hàn sang tiếng Anh Shakespeare .

Tận dụng API OpenAI: Xây dựng bộ dữ liệu cần thiết cho việc đào tạo mô hình

Bằng cách tận dụng API OpenAI, bạn có thể khắc phục vấn đề thiếu dữ liệu và bảo mật hiệu quả dữ liệu chất lượng cao cần thiết cho việc đào tạo mô hình.

từ openai nhập OpenAI khách hàng = OpenAI() hoàn thành = client.chat.completions.create( mô hình = "gpt-4o" , tin nhắn=[ { "role" : "developer" , "content" : "Bạn là một trợ lý hữu ích." }, { "vai trò" : "người dùng" , "content" : "Dịch văn bản tiếng Anh sau sang phong cách Shakespeare." } ] ) in (completion.choices[ 0 ].message)


Thực hành phát triển AI: Tinh chỉnh chương trình Thạc sĩ Luật của bạn với công nghệ mới nhất

Từ việc tạo dữ liệu bằng OpenAI API, tải xuống LLM từ HuggingFace, chạy mô hình bằng Ollama và tối ưu hóa bằng RunPod GPU, bạn sẽ được trải nghiệm công nghệ AI mới nhất cùng một lúc và nắm vững quy trình thực tế của việc tinh chỉnh LLM.


Những điều cần lưu ý trước khi tham gia khóa học

Môi trường thực hành

  • Hệ điều hành và Phiên bản (OS): Hỗ trợ tất cả các hệ điều hành, bao gồm Windows, macOS và Linux.

  • Các công cụ được sử dụng: Visual Studio Code, Ollama, Hugging Face API, OpenAI API, llama.cpp

  • Thông số kỹ thuật của PC: PC có thông số kỹ thuật cơ bản có khả năng truy cập Internet

Tài liệu học tập

  • Định dạng tài liệu học tập được cung cấp: Jupyter Notebook, kịch bản bài giảng

  • Toàn bộ nội dung bài giảng được cung cấp dưới dạng tệp văn bản. Sau giờ học, bạn có thể sử dụng chức năng tìm kiếm để nhanh chóng tìm thấy phần mình cần.

Kiến thức và biện pháp phòng ngừa của người chơi

  • Không cần có kiến thức trước.

  • Đối với những người không quen với cách sử dụng API ôm mặt được đề cập trong bài giảng, có thể sẽ thấy hơi khó khăn, nhưng bạn có thể dễ dàng giải quyết bằng cách theo dõi nội dung bài giảng và tìm kiếm chatgpt.

  • Chúng tôi khuyến khích bạn sử dụng bảng thông báo. Chúng tôi sẽ cung cấp câu trả lời chi tiết và chuyên sâu cho bất kỳ câu hỏi nào bạn có về các chủ đề liên quan đến lớp học.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Nhà phát triển muốn tự xây dựng mô hình Chat.

  • Mọi người muốn học huấn luyện mô hình Multi GPU

Cần biết trước khi bắt đầu?

  • (Optional) Khả năng giải quyết vấn đề bằng tìm kiếm Chatgpt

Xin chào
Đây là

608

Học viên

63

Đánh giá

73

Trả lời

4.8

Xếp hạng

7

Các khóa học

  • LLM 기반 AI 기업에서 Pod Lead로 활동

  • 서울대학교 기계항공 공학부 졸업

  • 유럽 소재 대학원에서 기계항공공학 석사

  • 독일 소재 공학 연구기관에서 박사 과정 연구 수행

  • 유럽 대형 에너지 기업에서 Senior Data Scientist 경험

  • 영국 소재 에너지 컨설팅 기업에서 Senior Consultant 활동

  • Databricks 기반 데이터 엔지니어링 프로젝트 수행

  • Kaggle 주식 거래 AI 대회 Top 3% 성과

  • AI Agent 개발팀장으로 현재 활동 중

Chương trình giảng dạy

Tất cả

20 bài giảng ∙ (3giờ 26phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

5 đánh giá

4.8

5 đánh giá

  • amybae04148768님의 프로필 이미지
    amybae04148768

    Đánh giá 3

    Đánh giá trung bình 5.0

    5

    30% đã tham gia

    • brand8301114405님의 프로필 이미지
      brand8301114405

      Đánh giá 9

      Đánh giá trung bình 5.0

      5

      30% đã tham gia

      • kaciaryu9603님의 프로필 이미지
        kaciaryu9603

        Đánh giá 2

        Đánh giá trung bình 5.0

        5

        65% đã tham gia

        • handover님의 프로필 이미지
          handover

          Đánh giá 1

          Đánh giá trung bình 4.0

          4

          100% đã tham gia

          • hakjuknu4522님의 프로필 이미지
            hakjuknu4522

            Đánh giá 155

            Đánh giá trung bình 5.0

            5

            30% đã tham gia

            Okay.

            1.285.451 ₫

            Khóa học khác của danielyouk

            Hãy khám phá các khóa học khác của giảng viên!

            Khóa học tương tự

            Khám phá các khóa học khác trong cùng lĩnh vực!