<밑바닥부터 만들면서 배우는 LLM> Khóa học giải thích

<밑바닥부터 만들면서 배우는 LLM>(길벗, 2025)의 깃허브 노트북과 보너스 콘텐츠를 다루는 강의입니다. 깃허브: https://github.com/rickiepark/llm-from-scratch/ <밑바닥부터 만들면서 배우는 LLM>은 세바스찬 라시카(Sebastian Raschka)가 쓴 베스트셀러 <Build a Large Langauge Model (from Scratch)>(Manning, 2024)의 번역서입니다. 이 책은 오픈AI가 만든 GPT-2 모델을 밑바닥에서부터 시작해서 완전한 모델을 만들어 보면서 대규모 언어 모델의 작동 원리를 배우고 활용하는 방법을 제공합니다.

(4.8) 24 đánh giá

538 học viên

Độ khó Cơ bản

Thời gian Không giới hạn

PyTorch
PyTorch
gpt-2
gpt-2
transformer
transformer
LLM
LLM
Fine-Tuning
Fine-Tuning
PyTorch
PyTorch
gpt-2
gpt-2
transformer
transformer
LLM
LLM
Fine-Tuning
Fine-Tuning

Đánh giá từ những học viên đầu tiên

4.8

5.0

Park Ju Yeong

100% đã tham gia

Tôi đã học theo thứ tự sau: Tham gia khóa học thử thách - Đọc sách - Tham gia khóa học giải thích mã nguồn Tôi sẽ tiếp tục với khóa học "Nắm vững cốt lõi mô hình ngôn ngữ lớn một cách nhanh chóng".

5.0

김진철

14% đã tham gia

Chăm chỉ.....^^

5.0

든든한꼬마

65% đã tham gia

Cảm ơn khóa học hay!

Bạn sẽ nhận được điều này sau khi học.

  • Bắt đầu từ con số không và triển khai hoàn toàn một LLM bằng cách viết code trực tiếp.

  • Học các thành phần cốt lõi cấu thành LLM bao gồm Transformer và Attention.

  • Học cách huấn luyện trước các LLM tương tự như GPT.

  • Học cách tinh chỉnh LLM để phân loại.

  • Học cách tinh chỉnh LLM để phản hồi theo hướng dẫn của con người.

Khóa học này giải thích mã ví dụ được cung cấp cùng với <llm từ nền tảng được xây dựng và học>. Kho lưu trữ GitHub (<a rel="noopener noreferrer nofollow" href="https://github.com/rickiepark/llm-from-scratch/)에는" target="_blank">https://github.com/rickiepark/llm-from-scratch/)</a> không chỉ chứa mã ví dụ trong sách mà còn bao gồm nhiều tài liệu bổ sung khác. Khóa học cũng cung cấp giải thích về những nội dung bổ sung này.</llm>

Khóa học này có thể được nghe bởi bất kỳ ai mà không cần mua sách. Tuy nhiên, sẽ hiệu quả nhất khi nghe cùng với sách. Một số giải thích về code có thể khó hiểu nếu không xem cùng với sách. Kiến thức tiên quyết cần thiết là lập trình Python. Sẽ có ích nếu bạn đã từng sử dụng deep learning và PyTorch. Nếu bạn mới tiếp xúc với hai khái niệm này lần đầu, hãy đọc Phụ lục A trước.

Bạn có thể xem miễn phí các bài giảng về nội dung của <Build a Large Language Model (From Scratch)> trên YouTube. Vui lòng tham khảo blog của người dịch để biết thông tin về errata.

Giới thiệu sách

Theo từng dòng code một, bạn sẽ hoàn thành GPT của riêng mình!
Hướng dẫn thực hành triển khai GPT từ đầu và nắm vững nguyên lý LLM qua đầu ngón tay

Các khái niệm khó được giải thích bằng hình ảnh, và LLM được học thông qua việc tự tay xây dựng. Cuốn sách này là một hướng dẫn thực hành về LLM dành cho người mới bắt đầu, cho phép học tập thông qua việc trực tiếp triển khai cấu trúc và nguyên lý hoạt động của các mô hình ngôn ngữ lớn từ đầu đến cuối. Không chỉ dừng lại ở việc giải thích các khái niệm, cuốn sách lấy tiền xử lý văn bản và tokenization, quá trình embedding làm điểm khởi đầu, rồi từng bước xây dựng self-attention và multi-head attention, các khối transformer. Tiếp theo, tích hợp các thành phần này để hoàn thiện mô hình GPT thực tế, và trực tiếp làm việc với các yếu tố cốt lõi của thiết kế kiến trúc hiện đại như số lượng tham số của mô hình, kỹ thuật ổn định hóa huấn luyện, hàm kích hoạt và phương pháp chuẩn hóa. Ngoài ra, cuốn sách còn hướng dẫn sâu sắc về quá trình pre-training và fine-tuning. Tiến hành pre-training từ dữ liệu không có nhãn, tuning mô hình cho các tác vụ downstream như phân loại văn bản, và thực hành cả kỹ thuật học tập dựa trên chỉ dẫn đang được chú ý gần đây. Cũng bao gồm nội dung mới nhất như fine-tuning hiệu quả tham số (PEFT) dựa trên LoRA, đưa ra phương pháp kết nối LLM với dịch vụ thực tế và nghiên cứu một cách toàn diện. Tất cả các khái niệm đều được triển khai bằng mã PyTorch và được tối ưu hóa để có thể thực hành ngay cả trong môi trường laptop thông thường. Theo dõi quá trình triển khai trong cuốn sách này, bạn sẽ tự nhiên hiểu được những gì diễn ra bên trong LLM và nắm bắt được cách thức hoạt động của cơ chế mô hình ngôn ngữ lớn qua đầu ngón tay.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Những người muốn tìm hiểu chi tiết nguyên lý hoạt động của mô hình ngôn ngữ lớn (LLM)

  • Những người muốn sử dụng PyTorch và gói transformers để tiền huấn luyện và tinh chỉnh LLM

  • Những người muốn tìm hiểu về cấu trúc của mô hình GPT-2 của OpenAI

  • Người mà phải tự tay làm mọi thứ mới thấy thỏa mãn!

Cần biết trước khi bắt đầu?

  • Tôi cần kiến thức cơ bản về lập trình Python.

Xin chào
Đây là haesunpark

23,051

Học viên

416

Đánh giá

131

Trả lời

4.9

Xếp hạng

11

Các khóa học

Mặc dù chuyên ngành chính là kỹ thuật cơ khí, nhưng sau khi tốt nghiệp, tôi đã luôn làm công việc đọc và viết mã nguồn. Tôi là Google AI/Cloud GDE và Microsoft AI MVP. Tôi đang vận hành blog TensorFlow (tensorflow.blog), đồng thời viết và dịch các cuốn sách về học máy và học sâu, khám phá ranh giới giữa phần mềm và khoa học một cách đầy thú vị.

ml-dl-roadmap.png.webp

 Tôi đã viết các cuốn sách 『Deep Learning tự học qua thực hành』(Hanbit Media, 2025), 『Học máy + Deep Learning tự học (Bản sửa đổi)』(Hanbit Media, 2025), 『Phân tích dữ liệu tự học với Python』(Hanbit Media, 2023), 『Kỹ thuật trò chuyện với ChatGPT』(Hanbit Media, 2023) và 『Do it! Nhập môn Deep Learning』(Easys Publishing, 2019).

Ông đã dịch hàng chục cuốn sách sang tiếng Hàn, bao gồm các cuốn 『Tinh chỉnh LLM, Nhanh chóng nắm bắt cốt lõi!』 (Insight, 2026), 『Học LLM & AI bằng PyTorch』 (Hanbit Media, 2026), 『Mô hình ngôn ngữ lớn, Nhanh chóng nắm bắt cốt lõi!』 (Insight, 2025), 『Máy học, Nhanh chóng nắm bắt cốt lõi!』 (Insight, 2025), 『Học LLM thông qua việc xây dựng từ con số 0』 (Gilbut, 2025), 『Hands-On LLM』 (Hanbit Media, 2025), 『Machine Learning Q & AI』 (Gilbut, 2025), 『Toán học dành cho nhà phát triển』 (Hanbit Media, 2024), 『Giải quyết vấn đề ML trong thực tế với Python』 (Hanbit Media, 2024), 『Sách giáo khoa Máy học: Phần PyTorch』 (Gilbut, 2023), 『Bài giảng ChatGPT của Stephen Wolfram』 (Hanbit Media, 2023), 『Hands-On Machine Learning Ấn bản thứ 3』 (Hanbit Media, 2023), 『Học Deep Learning tạo sinh thông qua việc xây dựng Ấn bản thứ 2』 (Hanbit Media, 2023), 『Python đánh thức tư duy lập trình』 (Hanbit Media, 2023), 『Xử lý ngôn ngữ tự nhiên với Transformers』 (Hanbit Media, 2022), 『Học Deep Learning từ người sáng tạo Keras Ấn bản thứ 2』 (Gilbut, 2022), 『Máy học & Deep Learning dành cho nhà phát triển』 (Hanbit Media, 2022), 『Gradient Boosting sử dụng XGBoost và Scikit-Learn』 (Hanbit Media, 2022), 『Học Deep Learning từ đội ngũ Google Brain với TensorFlow.js』 (Gilbut, 2022), và 『(Ấn bản sửa đổi thứ 2) Máy học sử dụng thư viện Python』 (Hanbit Media, 2022).

Thêm

Chương trình giảng dạy

Tất cả

79 bài giảng ∙ (15giờ 24phút)

Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

24 đánh giá

4.8

24 đánh giá

  • jsmak6174님의 프로필 이미지
    jsmak6174

    Đánh giá 8

    Đánh giá trung bình 5.0

    5

    100% đã tham gia

    Đây chắc chắn là cuốn sách hay nhất về AI mà tôi đã đọc gần đây. Cảm ơn anh đã giải thích bài giảng một cách dễ hiểu, giúp tôi tiếp thu kiến thức rất tốt. Cảm ơn anh.

    • haesunpark
      Giảng viên

      Thật may mắn khi biết rằng điều đó đã giúp ích cho bạn. Cảm ơn bạn! :)

  • jchkim55님의 프로필 이미지
    jchkim55

    Đánh giá 2

    Đánh giá trung bình 5.0

    5

    14% đã tham gia

    Chăm chỉ.....^^

    • haesunpark
      Giảng viên

      Cố lên nào! :)

  • calculator님의 프로필 이미지
    calculator

    Đánh giá 147

    Đánh giá trung bình 4.9

    5

    65% đã tham gia

    Cảm ơn khóa học hay!

    • haesunpark
      Giảng viên

      Cảm ơn bạn!

  • hunter108719님의 프로필 이미지
    hunter108719

    Đánh giá 15

    Đánh giá trung bình 4.7

    5

    30% đã tham gia

    Bài giảng được giải thích một cách Kind và dễ hiểu.

    • haesunpark
      Giảng viên

      Cảm ơn bạn đã đánh giá tích cực. Hãy mong đợi nội dung bonus nhé!

  • redinblue6136님의 프로필 이미지
    redinblue6136

    Đánh giá 4

    Đánh giá trung bình 5.0

    5

    100% đã tham gia

    Tôi đã học theo thứ tự sau: Tham gia khóa học thử thách - Đọc sách - Tham gia khóa học giải thích mã nguồn Tôi sẽ tiếp tục với khóa học "Nắm vững cốt lõi mô hình ngôn ngữ lớn một cách nhanh chóng".

    • haesunpark
      Giảng viên

      Cảm ơn bạn. Chúc bạn thành công!

Khóa học khác của haesunpark

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!