inflearn logo

Bài giảng giải thích “Học LLM bằng cách tự xây dựng từ đầu”

Đây là khóa học về các notebook trên GitHub và nội dung bổ sung của cuốn <Học LLM bằng cách tự xây dựng từ con số 0> (Gilbut, 2025). GitHub: https://github.com/rickiepark/llm-from-scratch/ <Học LLM bằng cách tự xây dựng từ con số 0> là bản dịch của cuốn sách bán chạy <Build a Large Langauge Model (from Scratch)> (Manning, 2024) do Sebastian Raschka viết. Cuốn sách hướng dẫn cách tìm hiểu nguyên lý hoạt động và phương pháp ứng dụng các mô hình ngôn ngữ lớn bằng cách bắt đầu từ con số 0 để tự xây dựng một mô hình hoàn chỉnh dựa trên mô hình GPT-2 do OpenAI tạo ra.

(4.8) 26 đánh giá

572 học viên

Độ khó Cơ bản

Thời gian Không giới hạn

PyTorch
PyTorch
gpt-2
gpt-2
transformer
transformer
LLM
LLM
Fine-Tuning
Fine-Tuning
PyTorch
PyTorch
gpt-2
gpt-2
transformer
transformer
LLM
LLM
Fine-Tuning
Fine-Tuning

Đánh giá từ những học viên đầu tiên

4.8

5.0

Park Ju Yeong

100% đã tham gia

Tôi đã học theo thứ tự sau: Tham gia khóa học thử thách - Đọc sách - Tham gia khóa học giải thích mã nguồn Tôi sẽ tiếp tục với khóa học "Nắm vững cốt lõi mô hình ngôn ngữ lớn một cách nhanh chóng".

5.0

김진철

14% đã tham gia

Chăm chỉ.....^^

5.0

든든한꼬마

65% đã tham gia

Cảm ơn khóa học hay!

Bạn sẽ nhận được điều này sau khi học.

  • Bắt đầu từ con số 0, tự mình triển khai một LLM hoàn chỉnh bằng mã nguồn.

  • Tìm hiểu các thành phần cốt lõi cấu thành LLM, bao gồm Transformer và Attention.

  • Tìm hiểu cách tiền huấn luyện LLM tương tự GPT.

  • Học cách tinh chỉnh LLM để phân loại.

  • Tìm hiểu cách tinh chỉnh LLM để phản hồi theo chỉ dẫn của con người.

Tin giảm giá

<Thử thách học sâu từ nhà sáng lập Keras, phiên bản 3> (https://inf.run/DPba3)Khi đăng ký, bạn sẽ nhận được phiếu giảm giá 50% cho khóa học này!


Khóa học này giải thích mã ví dụ đi kèm với <Học LLM bằng cách xây dựng từ đầu>. Trong kho lưu trữ GitHub (https://github.com/rickiepark/llm-from-scratch/) không chỉ có mã ví dụ trong sách mà còn bao gồm nhiều tài liệu bổ sung. Khóa học cũng cung cấp phần giải thích về những nội dung bổ sung này.

Khóa học này ai cũng có thể tham gia mà không cần mua sách. Tuy nhiên, hiệu quả nhất là học cùng với sách. Một số phần giải thích về mã có thể khó hiểu nếu không đọc cùng sách. Kiến thức nền tảng cần thiết là lập trình Python. Nếu bạn đã từng sử dụng deep learning và PyTorch thì sẽ rất hữu ích. Nếu đây là lần đầu bạn làm quen với hai khái niệm này, hãy đọc Phụ lục A trước.

Nội dung bài giảng về <Học LLM bằng cách xây dựng từ đầu có thể được xem miễn phí trên YouTube. Để xem phần errata, vui lòng tham khảo blog của dịch giả.

Giới thiệu sách

Theo dõi từng dòng mã, bạn sẽ hoàn thiện GPT của riêng mình!
Hướng dẫn thực hành giúp bạn tự tay triển khai GPT từ con số 0 và nắm vững nguyên lý của LLM

Những khái niệm khó được giải thích bằng hình ảnh, còn LLM được học thông qua việc tự tay xây dựng. Cuốn sách này là giáo trình nhập môn LLM mang tính thực hành, giúp bạn học bằng cách trực tiếp triển khai từ đầu đến cuối cấu trúc và nguyên lý hoạt động của các mô hình ngôn ngữ lớn. Không chỉ dừng lại ở việc giải thích khái niệm, sách bắt đầu từ quá trình tiền xử lý văn bản, token hóa và embedding, rồi từng bước xây dựng self-attention, multi-head attention và các khối Transformer. Tiếp đó, bạn sẽ tích hợp những thành phần này để hoàn thiện một mô hình GPT thực tế, đồng thời trực tiếp tìm hiểu các yếu tố cốt lõi trong thiết kế kiến trúc hiện đại như số lượng tham số của mô hình, các kỹ thuật ổn định quá trình huấn luyện, hàm kích hoạt và phương pháp chuẩn hóa. Sách cũng hướng dẫn chuyên sâu về quá trình tiền huấn luyện và tinh chỉnh. Bạn có thể thực hành tiền huấn luyện trên dữ liệu không gắn nhãn, tinh chỉnh mô hình cho các tác vụ hạ nguồn như phân loại văn bản, cũng như học các kỹ thuật huấn luyện dựa trên chỉ dẫn đang được quan tâm gần đây. Nội dung mới nhất như tinh chỉnh hiệu quả tham số dựa trên LoRA (PEFT) cũng được đề cập, qua đó trình bày toàn diện cách kết nối LLM với các dịch vụ thực tế và nghiên cứu. Tất cả các khái niệm đều được triển khai bằng mã PyTorch và được tối ưu để có thể thực hành ngay cả trong môi trường máy tính xách tay thông thường. Khi làm theo quá trình triển khai trong cuốn sách, bạn sẽ tự nhiên hiểu được những gì đang diễn ra bên trong LLM và trực tiếp nắm bắt cơ chế vận hành của các mô hình ngôn ngữ lớn.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Dành cho những ai muốn tìm hiểu chi tiết nguyên lý hoạt động của mô hình ngôn ngữ lớn (LLM)

  • Dành cho những ai muốn tiền huấn luyện và tinh chỉnh LLM bằng cách sử dụng các gói PyTorch và transformers

  • Dành cho những ai muốn tìm hiểu về cấu trúc mô hình GPT-2 của OpenAI

  • Người luôn phải tự tay làm thử mọi thứ mới thấy thỏa mãn!

Cần biết trước khi bắt đầu?

  • Cần có kiến thức cơ bản về lập trình Python.

Xin chào
Đây là haesunpark

24,074

Học viên

485

Đánh giá

131

Trả lời

4.9

Xếp hạng

12

Các khóa học

Tôi học chuyên ngành kỹ thuật cơ khí, nhưng sau khi tốt nghiệp, tôi一直 làm công việc đọc và viết mã. Tôi là GDE về Google AI/Cloud. Tôi vận hành blog TensorFlow (tensorflow.blog), đồng thời viết và dịch sách về học máy và học sâu, qua đó khám phá đầy hứng thú ranh giới giữa phần mềm và khoa học.

book-roadmap.jpg.webp

Đã viết 『Học deep learning bằng cách tự mình xây dựng』(Hanbit Media, 2025), 『Tự học machine learning + deep learning (bản sửa đổi)』(Hanbit Media, 2025), 『Tự học phân tích dữ liệu với Python』(Hanbit Media, 2023), 『Kỹ năng trò chuyện bằng ChatGPT』(Hanbit Media, 2023) và 『Do it! Nhập môn deep learning』(Easyspublishing, 2019).

『Học máy thực hành với scikit-learn, PyTorch』(Hanbit Media, 2026),  『Học deep learning từ nhà sáng lập Keras (lần 3)』(Gilbut, 2026), 『Fine-tuning LLM, nhanh chóng nắm phần cốt lõi!』(Insight, 2026), 『Học LLM & AI với PyTorch』(Hanbit Media, 2026), 『Mô hình ngôn ngữ lớn, nhanh chóng nắm phần cốt lõi!』(Insight, 2025), 『Machine learning, nhanh chóng nắm phần cốt lõi!』(Insight, 2025), 『Học LLM bằng cách xây dựng từ đầu』(Gilbut, 2025), 『LLM thực hành』(Hanbit Media, 2025), 『Machine Learning Q & AI』(Gilbut, 2025), 『Toán học dành cho nhà phát triển』(Hanbit Media, 2024), 『Giải quyết vấn đề ML trong thực tiễn với Python』(Hanbit Media, 2024), 『Giáo trình machine learning: phiên bản PyTorch』(Gilbut, 2023), 『Bài giảng ChatGPT của Stephen Wolfram』(Hanbit Media, 2023), 『Học máy thực hành, phiên bản 3』(Hanbit Media, 2023), 『Học deep learning tạo sinh bằng cách xây dựng, phiên bản 2』(Hanbit Media, 2023), 『Đánh thức bộ não lập trình bằng Python』(Hanbit Media, 2023), 『Xử lý ngôn ngữ tự nhiên với Transformer』(Hanbit Media, 2022), 『Học deep learning từ nhà sáng lập Keras, phiên bản 2』(Gilbut, 2022), 『Machine learning & deep learning dành cho nhà phát triển』(Hanbit Media, 2022), 『Gradient boosting với XGBoost và scikit-learn』(Hanbit Media, 2022), 『Học deep learning với đội ngũ Google Brain bằng TensorFlow.js』(Gilbut, 2022), 『Machine learning với các thư viện Python (phiên bản sửa đổi lần 2)』(Hanbit Media, 2022), cùng hàng chục cuốn sách khác, đã được dịch sang tiếng Hàn.

Thêm

Chương trình giảng dạy

Tất cả

79 bài giảng ∙ (15giờ 24phút)

Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

26 đánh giá

4.8

26 đánh giá

  • jsmak6174님의 프로필 이미지
    jsmak6174

    Đánh giá 9

    ∙

    Đánh giá trung bình 5.0

    5

    100% đã tham gia

    Đây chắc chắn là cuốn sách hay nhất về AI mà tôi đã đọc gần đây. Cảm ơn anh đã giải thích bài giảng một cách dễ hiểu, giúp tôi tiếp thu kiến thức rất tốt. Cảm ơn anh.

    • haesunpark
      Giảng viên

      Thật may mắn khi biết rằng điều đó đã giúp ích cho bạn. Cảm ơn bạn! :)

  • hunter108719님의 프로필 이미지
    hunter108719

    Đánh giá 15

    ∙

    Đánh giá trung bình 4.7

    5

    30% đã tham gia

    Bài giảng được giải thích một cách Kind và dễ hiểu.

    • haesunpark
      Giảng viên

      Cảm ơn bạn đã đánh giá tích cực. Hãy mong đợi nội dung bonus nhé!

  • calculator님의 프로필 이미지
    calculator

    Đánh giá 297

    ∙

    Đánh giá trung bình 4.9

    5

    65% đã tham gia

    Cảm ơn khóa học hay!

    • haesunpark
      Giảng viên

      Cảm ơn bạn!

  • redinblue6136님의 프로필 이미지
    redinblue6136

    Đánh giá 4

    ∙

    Đánh giá trung bình 5.0

    5

    100% đã tham gia

    Tôi đã học theo thứ tự sau: Tham gia khóa học thử thách - Đọc sách - Tham gia khóa học giải thích mã nguồn Tôi sẽ tiếp tục với khóa học "Nắm vững cốt lõi mô hình ngôn ngữ lớn một cách nhanh chóng".

    • haesunpark
      Giảng viên

      Cảm ơn bạn. Chúc bạn thành công!

  • jchkim55님의 프로필 이미지
    jchkim55

    Đánh giá 2

    ∙

    Đánh giá trung bình 5.0

    5

    14% đã tham gia

    Chăm chỉ.....^^

    • haesunpark
      Giảng viên

      Cố lên nào! :)

Khóa học khác của haesunpark

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Giảm 25% cho thành viên mới

1.545.383 ₫

25%

2.060.513 ₫