<밑바닥부터 만들면서 배우는 LLM> Khóa học giải thích

<밑바닥부터 만들면서 배우는 LLM>(길벗, 2025)의 깃허브 노트북과 보너스 콘텐츠를 다루는 강의입니다. 깃허브: https://github.com/rickiepark/llm-from-scratch/ <밑바닥부터 만들면서 배우는 LLM>은 세바스찬 라시카(Sebastian Raschka)가 쓴 베스트셀러 <Build a Large Langauge Model (from Scratch)>(Manning, 2024)의 번역서입니다. 이 책은 오픈AI가 만든 GPT-2 모델을 밑바닥에서부터 시작해서 완전한 모델을 만들어 보면서 대규모 언어 모델의 작동 원리를 배우고 활용하는 방법을 제공합니다.

(4.8) 22 đánh giá

528 học viên

Độ khó Cơ bản

Thời gian Không giới hạn

PyTorch
PyTorch
gpt-2
gpt-2
transformer
transformer
LLM
LLM
Fine-Tuning
Fine-Tuning
PyTorch
PyTorch
gpt-2
gpt-2
transformer
transformer
LLM
LLM
Fine-Tuning
Fine-Tuning

Đánh giá từ những học viên đầu tiên

Đánh giá từ những học viên đầu tiên

4.8

5.0

Park Ju Yeong

100% đã tham gia

Tôi đã học theo thứ tự sau: Tham gia khóa học thử thách - Đọc sách - Tham gia khóa học giải thích mã nguồn Tôi sẽ tiếp tục với khóa học "Nắm vững cốt lõi mô hình ngôn ngữ lớn một cách nhanh chóng".

5.0

김진철

14% đã tham gia

Chăm chỉ.....^^

5.0

든든한꼬마

65% đã tham gia

Cảm ơn khóa học hay!

Bạn sẽ nhận được điều này sau khi học.

  • Bắt đầu từ con số không và triển khai hoàn toàn một LLM bằng cách viết code trực tiếp.

  • Học các thành phần cốt lõi cấu thành LLM bao gồm Transformer và Attention.

  • Học cách huấn luyện trước các LLM tương tự như GPT.

  • Học cách tinh chỉnh LLM để phân loại.

  • Học cách tinh chỉnh LLM để phản hồi theo hướng dẫn của con người.

Khóa học này giải thích mã ví dụ được cung cấp cùng với <llm từ nền tảng được xây dựng và học>. Kho lưu trữ GitHub (<a rel="noopener noreferrer nofollow" href="https://github.com/rickiepark/llm-from-scratch/)에는" target="_blank">https://github.com/rickiepark/llm-from-scratch/)</a> không chỉ chứa mã ví dụ trong sách mà còn bao gồm nhiều tài liệu bổ sung khác. Khóa học cũng cung cấp giải thích về những nội dung bổ sung này.</llm>

Khóa học này có thể được nghe bởi bất kỳ ai mà không cần mua sách. Tuy nhiên, sẽ hiệu quả nhất khi nghe cùng với sách. Một số giải thích về code có thể khó hiểu nếu không xem cùng với sách. Kiến thức tiên quyết cần thiết là lập trình Python. Sẽ có ích nếu bạn đã từng sử dụng deep learning và PyTorch. Nếu bạn mới tiếp xúc với hai khái niệm này lần đầu, hãy đọc Phụ lục A trước.

Bạn có thể xem miễn phí các bài giảng về nội dung của <Build a Large Language Model (From Scratch)> trên YouTube. Vui lòng tham khảo blog của người dịch để biết thông tin về errata.

Giới thiệu sách

Theo từng dòng code một, bạn sẽ hoàn thành GPT của riêng mình!
Hướng dẫn thực hành triển khai GPT từ đầu và nắm vững nguyên lý LLM qua đầu ngón tay

Các khái niệm khó được giải thích bằng hình ảnh, và LLM được học thông qua việc tự tay xây dựng. Cuốn sách này là một hướng dẫn thực hành về LLM dành cho người mới bắt đầu, cho phép học tập thông qua việc trực tiếp triển khai cấu trúc và nguyên lý hoạt động của các mô hình ngôn ngữ lớn từ đầu đến cuối. Không chỉ dừng lại ở việc giải thích các khái niệm, cuốn sách lấy tiền xử lý văn bản và tokenization, quá trình embedding làm điểm khởi đầu, rồi từng bước xây dựng self-attention và multi-head attention, các khối transformer. Tiếp theo, tích hợp các thành phần này để hoàn thiện mô hình GPT thực tế, và trực tiếp làm việc với các yếu tố cốt lõi của thiết kế kiến trúc hiện đại như số lượng tham số của mô hình, kỹ thuật ổn định hóa huấn luyện, hàm kích hoạt và phương pháp chuẩn hóa. Ngoài ra, cuốn sách còn hướng dẫn sâu sắc về quá trình pre-training và fine-tuning. Tiến hành pre-training từ dữ liệu không có nhãn, tuning mô hình cho các tác vụ downstream như phân loại văn bản, và thực hành cả kỹ thuật học tập dựa trên chỉ dẫn đang được chú ý gần đây. Cũng bao gồm nội dung mới nhất như fine-tuning hiệu quả tham số (PEFT) dựa trên LoRA, đưa ra phương pháp kết nối LLM với dịch vụ thực tế và nghiên cứu một cách toàn diện. Tất cả các khái niệm đều được triển khai bằng mã PyTorch và được tối ưu hóa để có thể thực hành ngay cả trong môi trường laptop thông thường. Theo dõi quá trình triển khai trong cuốn sách này, bạn sẽ tự nhiên hiểu được những gì diễn ra bên trong LLM và nắm bắt được cách thức hoạt động của cơ chế mô hình ngôn ngữ lớn qua đầu ngón tay.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Những người muốn tìm hiểu chi tiết nguyên lý hoạt động của mô hình ngôn ngữ lớn (LLM)

  • Những người muốn sử dụng PyTorch và gói transformers để tiền huấn luyện và tinh chỉnh LLM

  • Những người muốn tìm hiểu về cấu trúc của mô hình GPT-2 của OpenAI

  • Người mà phải tự tay làm mọi thứ mới thấy thỏa mãn!

Cần biết trước khi bắt đầu?

  • Tôi cần kiến thức cơ bản về lập trình Python.

Xin chào
Đây là haesunpark

22,784

Học viên

395

Đánh giá

131

Trả lời

4.9

Xếp hạng

10

Các khóa học

Mặc dù tốt nghiệp chuyên ngành Kỹ thuật cơ khí, nhưng sau khi ra trường tôi luôn làm công việc đọc và viết mã nguồn. Tôi là Google AI/Cloud GDE và Microsoft AI MVP. Tôi đang vận hành blog TensorFlow (tensorflow.blog), đồng thời viết và dịch các cuốn sách về học máy và học sâu, khám phá ranh giới thú vị giữa phần mềm và khoa học.

 

ml-dl-book-roadmap.png.webp

 

Ông là tác giả của các cuốn sách 『Deep Learning tự học qua thực hành』(Hanbit Media, 2025), 『Tự học Machine Learning+Deep Learning (Bản sửa đổi)』(Hanbit Media, 2025), 『Tự học Phân tích dữ liệu với Python』(Hanbit Media, 2023), 『Kỹ thuật trò chuyện với ChatGPT』(Hanbit Media, 2023) và 『Do it! Nhập môn Deep Learning』(Easys Publishing, 2019).

 

Ông đã dịch sang tiếng Hàn hàng chục cuốn sách, bao gồm các cuốn 『Mô hình ngôn ngữ lớn, nắm bắt nhanh những điểm cốt lõi!』(Insight, 2025), 『Học máy, nắm bắt nhanh những điểm cốt lõi!』(Insight, 2025), 『Học LLM thông qua việc xây dựng từ con số 0』(Gilbut, 2025), 『Hands-On LLM』(Hanbit Media, 2025), 『Machine Learning Q & AI』(Gilbut, 2025), 『Toán học dành cho nhà phát triển』(Hanbit Media, 2024), 『Giải quyết vấn đề ML trong thực tế với Python』(Hanbit Media, 2024), 『Giáo trình Học máy: Phiên bản PyTorch』(Gilbut, 2023), 『Bài giảng về ChatGPT của Stephen Wolfram』(Hanbit Media, 2023), 『Hands-On Machine Learning Ấn bản thứ 3』(Hanbit Media, 2023), 『Học Deep Learning tạo sinh thông qua thực hành Ấn bản thứ 2』(Hanbit Media, 2023), 『Python đánh thức tư duy lập trình』(Hanbit Media, 2023), 『Xử lý ngôn ngữ tự nhiên với Transformers』(Hanbit Media, 2022), 『Học Deep Learning từ người sáng lập Keras Ấn bản thứ 2』(Gilbut, 2022), 『Học máy & Deep Learning dành cho nhà phát triển』(Hanbit Media, 2022), 『Gradient Boosting sử dụng XGBoost và Scikit-Learn』(Hanbit Media, 2022), 『Học Deep Learning từ đội ngũ Google Brain với TensorFlow.js』(Gilbut, 2022), và 『(Ấn bản sửa đổi lần 2) Học máy với các thư viện Python』(Hanbit Media, 2022).

Thêm

Chương trình giảng dạy

Tất cả

79 bài giảng ∙ (15giờ 24phút)

Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

22 đánh giá

4.8

22 đánh giá

  • redinblue6136님의 프로필 이미지
    redinblue6136

    Đánh giá 4

    Đánh giá trung bình 5.0

    5

    100% đã tham gia

    Tôi đã học theo thứ tự sau: Tham gia khóa học thử thách - Đọc sách - Tham gia khóa học giải thích mã nguồn Tôi sẽ tiếp tục với khóa học "Nắm vững cốt lõi mô hình ngôn ngữ lớn một cách nhanh chóng".

    • haesunpark
      Giảng viên

      Cảm ơn bạn. Chúc bạn thành công!

  • 7000cj님의 프로필 이미지
    7000cj

    Đánh giá 137

    Đánh giá trung bình 5.0

    5

    8% đã tham gia

    • 85artihoya님의 프로필 이미지
      85artihoya

      Đánh giá 1

      Đánh giá trung bình 5.0

      5

      30% đã tham gia

      • jchkim55님의 프로필 이미지
        jchkim55

        Đánh giá 2

        Đánh giá trung bình 5.0

        5

        14% đã tham gia

        Chăm chỉ.....^^

        • haesunpark
          Giảng viên

          Cố lên nào! :)

      • calculator님의 프로필 이미지
        calculator

        Đánh giá 143

        Đánh giá trung bình 4.8

        5

        65% đã tham gia

        Cảm ơn khóa học hay!

        • haesunpark
          Giảng viên

          Cảm ơn bạn!

      Khóa học khác của haesunpark

      Hãy khám phá các khóa học khác của giảng viên!

      Khóa học tương tự

      Khám phá các khóa học khác trong cùng lĩnh vực!

      2.085.377 ₫