inflearn logo

Bài giảng giải thích “Học LLM bằng cách tự xây dựng từ đầu”

Đây là khóa học về các notebook trên GitHub và nội dung bổ sung của cuốn <Học LLM bằng cách tự xây dựng từ con số 0> (Gilbut, 2025). GitHub: https://github.com/rickiepark/llm-from-scratch/ <Học LLM bằng cách tự xây dựng từ con số 0> là bản dịch của cuốn sách bán chạy <Build a Large Langauge Model (from Scratch)> (Manning, 2024) do Sebastian Raschka viết. Cuốn sách hướng dẫn cách tìm hiểu nguyên lý hoạt động và phương pháp ứng dụng các mô hình ngôn ngữ lớn bằng cách bắt đầu từ con số 0 để tự xây dựng một mô hình hoàn chỉnh dựa trên mô hình GPT-2 do OpenAI tạo ra.

(4.9) 27 đánh giá

581 học viên

Độ khó Cơ bản

Thời gian Không giới hạn

PyTorch
PyTorch
gpt-2
gpt-2
transformer
transformer
LLM
LLM
Fine-Tuning
Fine-Tuning
PyTorch
PyTorch
gpt-2
gpt-2
transformer
transformer
LLM
LLM
Fine-Tuning
Fine-Tuning

Đánh giá từ những học viên đầu tiên

4.9

5.0

Park Ju Yeong

100% đã tham gia

Tôi đã học theo thứ tự sau: Tham gia khóa học thử thách - Đọc sách - Tham gia khóa học giải thích mã nguồn Tôi sẽ tiếp tục với khóa học "Nắm vững cốt lõi mô hình ngôn ngữ lớn một cách nhanh chóng".

5.0

김진철

14% đã tham gia

Chăm chỉ.....^^

5.0

든든한꼬마

65% đã tham gia

Cảm ơn khóa học hay!

Bạn sẽ nhận được điều này sau khi học.

  • Bắt đầu từ con số 0, tự mình triển khai một LLM hoàn chỉnh bằng mã nguồn.

  • Tìm hiểu các thành phần cốt lõi cấu thành LLM, bao gồm Transformer và Attention.

  • Tìm hiểu cách tiền huấn luyện LLM tương tự GPT.

  • Học cách tinh chỉnh LLM để phân loại.

  • Tìm hiểu cách tinh chỉnh LLM để phản hồi theo chỉ dẫn của con người.

Tin tức giảm giá

Nếu bạn đăng ký <Học máy thực hành với scikit-learn, PyTorch> Thử thách đọc hết (https://inf.run/5SDwX), chúng tôi sẽ tặng bạn phiếu giảm giá 50% cho khóa học này!


Khóa học này giải thích các mã ví dụ đi kèm với <Học LLM bằng cách tự xây dựng từ đầu>. Trong kho lưu trữ GitHub (https://github.com/rickiepark/llm-from-scratch/) có đầy đủ các mã ví dụ trong sách cùng nhiều tài liệu bổ sung khác. Khóa học cũng cung cấp phần giải thích về những nội dung bổ sung này.

Khóa học này dành cho tất cả mọi người, ngay cả khi bạn không mua sách. Tuy nhiên, hiệu quả nhất là học cùng với sách. Một số phần giải thích mã có thể khó hiểu nếu không đọc cùng với sách. Kiến thức nền tảng cần thiết là lập trình Python. Nếu bạn đã từng sử dụng deep learning và PyTorch thì sẽ rất hữu ích. Nếu đây là lần đầu tiên bạn tiếp xúc với hai khái niệm này, hãy đọc Phụ lục A trước.

Khóa học về nội dung của <Học LLM bằng cách xây dựng từ đầu> có thể được xem miễn phí trên YouTube. Vui lòng tham khảo blog của dịch giả để biết các lỗi cần đính chính.

Giới thiệu sách

Chỉ cần làm theo từng dòng mã, bạn sẽ hoàn thiện GPT của riêng mình!
Cẩm nang thực hành giúp bạn tự tay nắm vững nguyên lý của LLM thông qua việc triển khai GPT từ con số không

Những khái niệm khó được minh họa bằng hình ảnh, còn LLM được học thông qua việc tự tay xây dựng. Cuốn sách này là giáo trình nhập môn LLM mang tính thực hành, giúp người đọc học bằng cách trực tiếp triển khai từ đầu đến cuối cấu trúc và nguyên lý hoạt động của các mô hình ngôn ngữ lớn. Không chỉ dừng lại ở việc giải thích khái niệm, sách bắt đầu từ các bước tiền xử lý văn bản, token hóa và embedding, rồi từng bước xây dựng self-attention, multi-head attention và các khối Transformer. Tiếp đó, các thành phần này được tích hợp để hoàn thiện một mô hình GPT thực tế, đồng thời trực tiếp tìm hiểu những yếu tố cốt lõi trong thiết kế kiến trúc hiện đại như số lượng tham số của mô hình, các kỹ thuật ổn định quá trình huấn luyện, hàm kích hoạt và phương pháp chuẩn hóa. Sách cũng hướng dẫn chuyên sâu về quá trình tiền huấn luyện và tinh chỉnh. Người đọc có thể thực hành từ việc tiền huấn luyện trên dữ liệu không gắn nhãn, tinh chỉnh mô hình cho các tác vụ hạ nguồn như phân loại văn bản, cho đến các kỹ thuật học dựa trên chỉ dẫn đang nhận được nhiều sự quan tâm gần đây. Nội dung mới nhất như tinh chỉnh hiệu quả tham số dựa trên LoRA (PEFT) cũng được đề cập, qua đó trình bày toàn diện cách kết nối LLM với các dịch vụ thực tế và hoạt động nghiên cứu. Mọi khái niệm đều được triển khai bằng mã PyTorch và được tối ưu để có thể thực hành ngay trên môi trường máy tính xách tay thông thường. Khi làm theo quá trình triển khai trong cuốn sách, người đọc sẽ tự nhiên hiểu được điều gì diễn ra bên trong LLM và lĩnh hội trực tiếp cách cơ chế của các mô hình ngôn ngữ lớn vận hành.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Dành cho những ai muốn tìm hiểu chi tiết nguyên lý hoạt động của mô hình ngôn ngữ lớn (LLM)

  • Dành cho những ai muốn tiền huấn luyện và tinh chỉnh LLM bằng cách sử dụng các gói PyTorch và transformers

  • Dành cho những ai muốn tìm hiểu về cấu trúc mô hình GPT-2 của OpenAI

  • Người luôn phải tự tay làm thử mọi thứ mới thấy thỏa mãn!

Cần biết trước khi bắt đầu?

  • Cần có kiến thức cơ bản về lập trình Python.

Xin chào
Đây là haesunpark

24,355

Học viên

499

Đánh giá

132

Trả lời

4.9

Xếp hạng

13

Các khóa học

Tôi theo học chuyên ngành kỹ thuật cơ khí, nhưng sau khi tốt nghiệp, tôi luôn làm công việc đọc và viết mã. Tôi là Google AI/Cloud GDE. Tôi điều hành blog TensorFlow (tensorflow.blog), đồng thời viết và dịch sách về machine learning và deep learning, khám phá một cách thú vị ranh giới giữa phần mềm và khoa học.

book-roadmap.jpg.webp

Đã viết 『Deep learning học bằng cách tự mình xây dựng』(Hanbit Media, 2025), 『Machine learning + deep learning tự học (bản sửa đổi)』(Hanbit Media, 2025), 『Phân tích dữ liệu tự học với Python』(Hanbit Media, 2023), 『Kỹ thuật trò chuyện bằng ChatGPT』(Hanbit Media, 2023), 『Do it! Nhập môn deep learning』(Easyspublishing, 2019).

『Machine Learning thực hành với scikit-learn và PyTorch』(Hanbit Media, 2026),  『Học deep learning từ người sáng lập Keras (lần 3)』(Gilbut, 2026), 『Fine-tuning LLM, nhanh chóng nắm vững những điều cốt lõi!』(Insight, 2026), 『Học LLM & AI với PyTorch』(Hanbit Media, 2026), 『Mô hình ngôn ngữ lớn, nhanh chóng nắm vững những điều cốt lõi!』(Insight, 2025), 『Machine Learning, nhanh chóng nắm vững những điều cốt lõi!』(Insight, 2025), 『Học LLM bằng cách tự xây dựng từ đầu』(Gilbut, 2025), 『Machine Learning thực hành』(Hanbit Media, 2025), 『Machine Learning Q & AI』(Gilbut, 2025), 『Toán học cho nhà phát triển』(Hanbit Media, 2024), 『Giải quyết các vấn đề ML trong thực tế với Python』(Hanbit Media, 2024), 『Giáo trình Machine Learning: phiên bản PyTorch』(Gilbut, 2023), 『Bài giảng ChatGPT của Stephen Wolfram』(Hanbit Media, 2023), 『Machine Learning thực hành lần 3』(Hanbit Media, 2023), 『Học deep learning tạo sinh qua thực hành lần 2』(Hanbit Media, 2023), 『Python đánh thức bộ não lập trình』(Hanbit Media, 2023), 『Xử lý ngôn ngữ tự nhiên bằng Transformer』(Hanbit Media, 2022), 『Học deep learning từ người sáng lập Keras lần 2』(Gilbut, 2022), 『Machine Learning&Deep Learning dành cho nhà phát triển』(Hanbit Media, 2022), 『Gradient Boosting với XGBoost và scikit-learn』(Hanbit Media, 2022), 『Học deep learning với đội ngũ Google Brain bằng TensorFlow.js』(Gilbut, 2022), 『Machine Learning sử dụng các thư viện Python (bản sửa đổi lần 2)』(Hanbit Media, 2022), cùng hàng chục cuốn sách khác, đã được dịch sang tiếng Hàn.

Thêm

Chương trình giảng dạy

Tất cả

79 bài giảng ∙ (15giờ 24phút)

Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

27 đánh giá

4.9

27 đánh giá

  • calculator님의 프로필 이미지
    calculator

    Đánh giá 297

    ∙

    Đánh giá trung bình 4.9

    5

    65% đã tham gia

    Cảm ơn khóa học hay!

    • haesunpark
      Giảng viên

      Cảm ơn bạn!

  • jchkim55님의 프로필 이미지
    jchkim55

    Đánh giá 2

    ∙

    Đánh giá trung bình 5.0

    5

    14% đã tham gia

    Chăm chỉ.....^^

    • haesunpark
      Giảng viên

      Cố lên nào! :)

  • redinblue6136님의 프로필 이미지
    redinblue6136

    Đánh giá 4

    ∙

    Đánh giá trung bình 5.0

    5

    100% đã tham gia

    Tôi đã học theo thứ tự sau: Tham gia khóa học thử thách - Đọc sách - Tham gia khóa học giải thích mã nguồn Tôi sẽ tiếp tục với khóa học "Nắm vững cốt lõi mô hình ngôn ngữ lớn một cách nhanh chóng".

    • haesunpark
      Giảng viên

      Cảm ơn bạn. Chúc bạn thành công!

  • hunter108719님의 프로필 이미지
    hunter108719

    Đánh giá 15

    ∙

    Đánh giá trung bình 4.7

    5

    30% đã tham gia

    Bài giảng được giải thích một cách Kind và dễ hiểu.

    • haesunpark
      Giảng viên

      Cảm ơn bạn đã đánh giá tích cực. Hãy mong đợi nội dung bonus nhé!

  • jsmak6174님의 프로필 이미지
    jsmak6174

    Đánh giá 9

    ∙

    Đánh giá trung bình 5.0

    5

    100% đã tham gia

    Đây chắc chắn là cuốn sách hay nhất về AI mà tôi đã đọc gần đây. Cảm ơn anh đã giải thích bài giảng một cách dễ hiểu, giúp tôi tiếp thu kiến thức rất tốt. Cảm ơn anh.

    • haesunpark
      Giảng viên

      Thật may mắn khi biết rằng điều đó đã giúp ích cho bạn. Cảm ơn bạn! :)

Khóa học khác của haesunpark

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Giảm 25% cho thành viên mới

1.539.640 ₫

25%

2.052.860 ₫