Bài giảng giải thích “Học LLM bằng cách tự xây dựng từ đầu”
Đây là khóa học về các notebook trên GitHub và nội dung bổ sung của cuốn <Học LLM bằng cách tự xây dựng từ con số 0> (Gilbut, 2025). GitHub: https://github.com/rickiepark/llm-from-scratch/
<Học LLM bằng cách tự xây dựng từ con số 0> là bản dịch của cuốn sách bán chạy <Build a Large Langauge Model (from Scratch)> (Manning, 2024) do Sebastian Raschka viết. Cuốn sách hướng dẫn cách tìm hiểu nguyên lý hoạt động và phương pháp ứng dụng các mô hình ngôn ngữ lớn bằng cách bắt đầu từ con số 0 để tự xây dựng một mô hình hoàn chỉnh dựa trên mô hình GPT-2 do OpenAI tạo ra.
Tôi đã học theo thứ tự sau:
Tham gia khóa học thử thách - Đọc sách - Tham gia khóa học giải thích mã nguồn
Tôi sẽ tiếp tục với khóa học "Nắm vững cốt lõi mô hình ngôn ngữ lớn một cách nhanh chóng".
5.0
김진철
14% đã tham gia
Chăm chỉ.....^^
5.0
든든한꼬마
65% đã tham gia
Cảm ơn khóa học hay!
Bạn sẽ nhận được điều này sau khi học.
Bắt đầu từ con số 0, tự mình triển khai một LLM hoàn chỉnh bằng mã nguồn.
Tìm hiểu các thành phần cốt lõi cấu thành LLM, bao gồm Transformer và Attention.
Tìm hiểu cách tiền huấn luyện LLM tương tự GPT.
Học cách tinh chỉnh LLM để phân loại.
Tìm hiểu cách tinh chỉnh LLM để phản hồi theo chỉ dẫn của con người.
Tin giảm giá
<Thử thách học sâu từ nhà sáng lập Keras, phiên bản 3> (https://inf.run/DPba3)Khi đăng ký, bạn sẽ nhận được phiếu giảm giá 50% cho khóa học này!
Khóa học này giải thích mã ví dụ đi kèm với <Học LLM bằng cách xây dựng từ đầu>. Trong kho lưu trữ GitHub (https://github.com/rickiepark/llm-from-scratch/) không chỉ có mã ví dụ trong sách mà còn bao gồm nhiều tài liệu bổ sung. Khóa học cũng cung cấp phần giải thích về những nội dung bổ sung này.
Khóa học này ai cũng có thể tham gia mà không cần mua sách. Tuy nhiên, hiệu quả nhất là học cùng với sách. Một số phần giải thích về mã có thể khó hiểu nếu không đọc cùng sách. Kiến thức nền tảng cần thiết là lập trình Python. Nếu bạn đã từng sử dụng deep learning và PyTorch thì sẽ rất hữu ích. Nếu đây là lần đầu bạn làm quen với hai khái niệm này, hãy đọc Phụ lục A trước.
Theo dõi từng dòng mã, bạn sẽ hoàn thiện GPT của riêng mình! Hướng dẫn thực hành giúp bạn tự tay triển khai GPT từ con số 0 và nắm vững nguyên lý của LLM
Những khái niệm khó được giải thích bằng hình ảnh, còn LLM được học thông qua việc tự tay xây dựng. Cuốn sách này là giáo trình nhập môn LLM mang tính thực hành, giúp bạn học bằng cách trực tiếp triển khai từ đầu đến cuối cấu trúc và nguyên lý hoạt động của các mô hình ngôn ngữ lớn. Không chỉ dừng lại ở việc giải thích khái niệm, sách bắt đầu từ quá trình tiền xử lý văn bản, token hóa và embedding, rồi từng bước xây dựng self-attention, multi-head attention và các khối Transformer. Tiếp đó, bạn sẽ tích hợp những thành phần này để hoàn thiện một mô hình GPT thực tế, đồng thời trực tiếp tìm hiểu các yếu tố cốt lõi trong thiết kế kiến trúc hiện đại như số lượng tham số của mô hình, các kỹ thuật ổn định quá trình huấn luyện, hàm kích hoạt và phương pháp chuẩn hóa. Sách cũng hướng dẫn chuyên sâu về quá trình tiền huấn luyện và tinh chỉnh. Bạn có thể thực hành tiền huấn luyện trên dữ liệu không gắn nhãn, tinh chỉnh mô hình cho các tác vụ hạ nguồn như phân loại văn bản, cũng như học các kỹ thuật huấn luyện dựa trên chỉ dẫn đang được quan tâm gần đây. Nội dung mới nhất như tinh chỉnh hiệu quả tham số dựa trên LoRA (PEFT) cũng được đề cập, qua đó trình bày toàn diện cách kết nối LLM với các dịch vụ thực tế và nghiên cứu. Tất cả các khái niệm đều được triển khai bằng mã PyTorch và được tối ưu để có thể thực hành ngay cả trong môi trường máy tính xách tay thông thường. Khi làm theo quá trình triển khai trong cuốn sách, bạn sẽ tự nhiên hiểu được những gì đang diễn ra bên trong LLM và trực tiếp nắm bắt cơ chế vận hành của các mô hình ngôn ngữ lớn.
Khuyến nghị cho những người này
Khóa học này dành cho ai?
Dành cho những ai muốn tìm hiểu chi tiết nguyên lý hoạt động của mô hình ngôn ngữ lớn (LLM)
Dành cho những ai muốn tiền huấn luyện và tinh chỉnh LLM bằng cách sử dụng các gói PyTorch và transformers
Dành cho những ai muốn tìm hiểu về cấu trúc mô hình GPT-2 của OpenAI
Người luôn phải tự tay làm thử mọi thứ mới thấy thỏa mãn!
Tôi học chuyên ngành kỹ thuật cơ khí, nhưng sau khi tốt nghiệp, tôi一直 làm công việc đọc và viết mã. Tôi là GDE về Google AI/Cloud. Tôi vận hành blog TensorFlow (tensorflow.blog), đồng thời viết và dịch sách về học máy và học sâu, qua đó khám phá đầy hứng thú ranh giới giữa phần mềm và khoa học.
Đã viết 『Học deep learning bằng cách tự mình xây dựng』(Hanbit Media, 2025), 『Tự học machine learning + deep learning (bản sửa đổi)』(Hanbit Media, 2025), 『Tự học phân tích dữ liệu với Python』(Hanbit Media, 2023), 『Kỹ năng trò chuyện bằng ChatGPT』(Hanbit Media, 2023) và 『Do it! Nhập môn deep learning』(Easyspublishing, 2019).
『Học máy thực hành với scikit-learn, PyTorch』(Hanbit Media, 2026), 『Học deep learning từ nhà sáng lập Keras (lần 3)』(Gilbut, 2026),『Fine-tuning LLM, nhanh chóng nắm phần cốt lõi!』(Insight, 2026), 『Học LLM & AI với PyTorch』(Hanbit Media, 2026), 『Mô hình ngôn ngữ lớn, nhanh chóng nắm phần cốt lõi!』(Insight, 2025), 『Machine learning, nhanh chóng nắm phần cốt lõi!』(Insight, 2025), 『Học LLM bằng cách xây dựng từ đầu』(Gilbut, 2025), 『LLM thực hành』(Hanbit Media, 2025), 『Machine Learning Q & AI』(Gilbut, 2025), 『Toán học dành cho nhà phát triển』(Hanbit Media, 2024), 『Giải quyết vấn đề ML trong thực tiễn với Python』(Hanbit Media, 2024), 『Giáo trình machine learning: phiên bản PyTorch』(Gilbut, 2023), 『Bài giảng ChatGPT của Stephen Wolfram』(Hanbit Media, 2023), 『Học máy thực hành, phiên bản 3』(Hanbit Media, 2023), 『Học deep learning tạo sinh bằng cách xây dựng, phiên bản 2』(Hanbit Media, 2023), 『Đánh thức bộ não lập trình bằng Python』(Hanbit Media, 2023), 『Xử lý ngôn ngữ tự nhiên với Transformer』(Hanbit Media, 2022), 『Học deep learning từ nhà sáng lập Keras, phiên bản 2』(Gilbut, 2022), 『Machine learning & deep learning dành cho nhà phát triển』(Hanbit Media, 2022), 『Gradient boosting với XGBoost và scikit-learn』(Hanbit Media, 2022), 『Học deep learning với đội ngũ Google Brain bằng TensorFlow.js』(Gilbut, 2022), 『Machine learning với các thư viện Python (phiên bản sửa đổi lần 2)』(Hanbit Media, 2022), cùng hàng chục cuốn sách khác, đã được dịch sang tiếng Hàn.
Đây chắc chắn là cuốn sách hay nhất về AI mà tôi đã đọc gần đây. Cảm ơn anh đã giải thích bài giảng một cách dễ hiểu, giúp tôi tiếp thu kiến thức rất tốt. Cảm ơn anh.
Tôi đã học theo thứ tự sau:
Tham gia khóa học thử thách - Đọc sách - Tham gia khóa học giải thích mã nguồn
Tôi sẽ tiếp tục với khóa học "Nắm vững cốt lõi mô hình ngôn ngữ lớn một cách nhanh chóng".