inflearn logo

Lý thuyết thiết yếu cho thiết kế chip AI — Từ Neuron đến LLM

Để trực tiếp thiết kế các loại chip bán dẫn AI như NPU, bộ tăng tốc Transformer hay mini LLM, bạn cần phải hiểu rõ lý thuyết về lý do tại sao các phép toán bên trong lại diễn ra. Khóa học này được nén thành ba phần, chắt lọc những tinh túy lý thuyết thiết yếu nhất cho việc thiết kế phần cứng, từ một nơ-ron đơn lẻ cho đến CNN, Transformer và LLM. Thay vì học thuộc lòng các công thức, giáo sư đương nhiệm với 30 năm kinh nghiệm trong ngành bán dẫn sẽ kết nối lý thuyết phần mềm và triển khai phần cứng thành một thông qua trực giác về việc "tại sao nó lại như vậy".

1 học viên đang tham gia khóa học này

Độ khó Nhập môn

Thời gian Không giới hạn

Deep Learning(DL)
Deep Learning(DL)
Machine Learning(ML)
Machine Learning(ML)
CNN
CNN
transformer
transformer
LLM
LLM
Deep Learning(DL)
Deep Learning(DL)
Machine Learning(ML)
Machine Learning(ML)
CNN
CNN
transformer
transformer
LLM
LLM

Bạn sẽ nhận được điều này sau khi học.

  • Khả năng hiểu bằng trực giác nguyên lý hoạt động của nơ-ron, mạng thần kinh, CNN, Transformer và LLM

  • Nền tảng lý thuyết cốt lõi cần thiết cho thiết kế phần cứng AI như học máy, hạ cực trị (gradient descent) và lượng tử hóa.

  • Hiểu ở cấp độ nguyên lý về cách ChatGPT, GPT và BERT được tạo ra

  • Bức tranh toàn cảnh về cách lý thuyết AI được hiện thực hóa thành các mạch bán dẫn thực tế (NPU·Bộ tăng tốc)

  • Nền tảng lý thuyết để có thể hiểu và theo kịp các bài thực hành thiết kế bộ tăng tốc AI và NPU sau này

■ Tại sao khóa học này lại cần thiết

NPU, bộ tăng tốc Transformer, mini LLM — để trực tiếp thiết kế các loại chip bán dẫn AI này, bạn cần phải hiểu rõ về mặt lý thuyết những phép toán nào đang diễn ra bên trong và tại sao. Nếu chỉ vẽ theo mạch điện, bạn sẽ sớm gặp phải giới hạn. Khóa học này là bản tóm tắt cô đọng nhất những nền tảng lý thuyết cốt lõi bắt buộc phải có để thiết kế phần cứng AI trong tương lai, được nén lại trong ba phần.

Bắt đầu từ phép nhân của một nơ-ron cho đến CNN, Attention, Transformer, LLM — trong số vô vàn lý thuyết AI đồ sộ, chúng tôi chỉ chọn lọc những nội dung 'thực sự cần thiết cho thiết kế phần cứng'. Đây không phải là lý thuyết phục vụ cho chiều sâu học thuật, mà là lý thuyết để bạn có thể trực tiếp chế tạo.

■ Lý do bài giảng này khác biệt

Các khóa học lý thuyết AI trên thị trường hiện nay chỉ dừng lại ở góc độ phần mềm và toán học. Khóa học này ngay từ đầu đã hướng tới 'lý thuyết để chế tạo phần cứng'. Các phép tính nhân và cộng của nơ-ron trở thành điện năng như thế nào trên chip, tại sao các phép toán ma trận của Transformer lại cần đến bộ tăng tốc chuyên dụng (NPU), tại sao bán dẫn AI công suất thấp lại là tương lai — tất cả lý thuyết AI sẽ được giải mã dưới góc nhìn của một nhà thiết kế bán dẫn. Một giáo sư đương nhiệm với 30 năm kinh nghiệm trong ngành bán dẫn sẽ kết nối lý thuyết phần mềm và việc triển khai phần cứng thành một thể thống nhất.

■ Bài giảng này là điểm bắt đầu

Khóa học này là điểm khởi đầu về mặt lý thuyết cho các bài giảng thiết kế phần cứng tiếp theo.

· Khóa học này (Lý thuyết) → Thiết kế NPU → Bộ tăng tốc Transformer → mini LLM SoC

Chỉ khi nắm vững lý thuyết tại đây, bạn mới có thể hiểu và theo kịp "tại sao mạch điện này lại được thiết kế như vậy" trong các bài giảng tiếp theo. Ngược lại, nếu chỉ nhìn vào mạch điện mà không có lý thuyết, bạn sẽ chỉ đang học vẹt và không thể ứng dụng được.

■ Cấu trúc 3 phần

· Phần 1 Từ Neuron đến CNN — Nguyên lý học tập (Gradient Descent), Perceptron và rào cản XOR, Mạng thần kinh sâu (DNN), Mạng thần kinh tích chập (CNN)

· Phần 2 Từ RNN đến Transformer — Dữ liệu tuần tự và RNN, Word Embedding, Cơ chế Attention, Transformer

· Phần 3: Từ Transformer đến LLM — Tiền huấn luyện (Pre-training)·Học chuyển tiếp (Transfer Learning), BERT và GPT, ChatGPT và RLHF, và hướng tới bán dẫn công suất thấp

Ba phần này là một câu chuyện nối tiếp nhau. Nếu bạn học theo đúng thứ tự, bức tranh toàn cảnh từ nơ-ron đến LLM sẽ được hoàn thiện.

■ Khuyên dùng cho những đối tượng sau

· Những người có ý định trực tiếp thiết kế NPU, bộ tăng tốc AI, AI SoC trong tương lai (dựa trên nền tảng lý thuyết đó)

· Những người muốn nắm vững các lý thuyết nền tảng một cách súc tích trước khi tham gia khóa học thiết kế phần cứng AI

· Những người muốn hiểu AI từ nguyên lý nhưng chú trọng vào 'cốt lõi để chế tạo' hơn là chiều sâu học thuật

· Những người đã từng nghe qua các thuật ngữ (CNN·Attention·Transformer·LLM) nhưng chưa nắm vững nguyên lý hoạt động

■ Đây là nội dung bài giảng này

· Chỉ tuyển chọn những lý thuyết cần thiết cho thiết kế phần cứng — Tinh túy của kho tàng lý thuyết AI đồ sộ

· Không phải học thuộc lòng công thức mà tập trung vào trực giác — Giải thích "tại sao lại như vậy" thông qua hình ảnh và ẩn dụ

· Từ một nơ-ron đến LLM, một câu chuyện được kết nối liền mạch

· Quan điểm hiếm hoi kết nối giữa lý thuyết AI và phần cứng bán dẫn

· Có thể hoàn thành khóa học chỉ qua video mà không cần thực hành, bảng mạch hay cài đặt riêng biệt

■ Tham khảo

· Đây là phần lý thuyết. Việc thực hành tự tay tạo bộ tăng tốc AI bằng FPGA sẽ được đề cập trong một khóa học riêng biệt. Lý thuyết của khóa học này sẽ là nền tảng cho các khóa học thực hành đó.

· Tất cả nội dung trong bài giảng này đều do giảng viên biên soạn, và phần thuyết minh (giọng nói) được thực hiện bằng công nghệ TTS.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Những người dự định trực tiếp thiết kế NPU, bộ tăng tốc AI, AI SoC trong tương lai nhưng chưa có nền tảng lý thuyết.

  • Muốn nắm vững những lý thuyết nền tảng cốt lõi trước khi tham gia khóa học thiết kế phần cứng AI.

  • Những người biết các thuật ngữ CNN, Attention, Transformer, LLM nhưng chưa nắm vững nguyên lý hoạt động của chúng

  • Dành cho những ai muốn hiểu AI từ nguyên lý cơ bản, nhưng chú trọng vào 'cốt lõi để chế tạo' hơn là chiều sâu học thuật.

Cần biết trước khi bắt đầu?

  • Giải thích tập trung vào trực quan để người không có kiến thức chuyên môn vẫn có thể hiểu được.

  • Sẽ dễ dàng hơn nếu bạn biết toán học cấp trung học phổ thông (hàm số·đồ thị)

  • Không cần lập trình hay thực hành (Phần lý thuyết)

Xin chào
Đây là EdgeChipLab

Tôi có 30 năm kinh nghiệm trong ngành bán dẫn (Samsung Electronics) và hiện đang là giáo sư đại học.

Tôi từng là nghiên cứu viên mảng bán dẫn hệ thống tại bộ phận DS của Samsung Electronics, Giám đốc tại chi nhánh Anh và Đức, Trưởng nhóm Tiếp thị và Kinh doanh System LSI, và hiện đang giảng dạy về thiết kế bán dẫn thế hệ mới tại trường đại học.

Từ bóng bán dẫn (transistor) đến CPU·NPU·AI SoC, tôi hướng dẫn quá trình các mạch điện tự thiết kế hoạt động trên FPGA thực tế. Đặc biệt, những bài giảng này không phải là sự tập hợp các kiến thức rời rạc trên internet, mà là kết quả của việc hiện thực hóa các nghiên cứu học thuật và thiết kế đã được kiểm chứng của chính giảng viên lên phần cứng FPGA thực tế và được xác minh bằng Bit-True. Tất cả mã nguồn, bao gồm cả CPU RISC-V tự phát triển, đều được công khai trên GitHub, giúp bất kỳ ai cũng có thể tự tái hiện và kiểm chứng chỉ với một bo mạch FPGA phổ thông (Arty S7-25) và công cụ miễn phí (Vivado).

Tất cả các bài giảng được kết nối thành một lộ trình học tập duy nhất. Bắt đầu từ lý thuyết AI, tiếp nối đến xử lý hình ảnh, thiết kế và kiểm chứng bộ tăng tốc AI (NPU), và sẽ mở rộng sang các khóa học cao cấp và chuyên sâu bao gồm CPU RISC-V, NPU nâng cao, AI SoC và mini LLM. (Nội dung sẽ được cập nhật liên tục.)

[Lịch sử có thể kiểm chứng]

- Tự phát triển RISC-V CPU — Vượt qua bài kiểm tra tuân thủ chính thức (ACT) của RISC-V International Foundation, công khai mã nguồn

- 4 bài báo khoa học với tư cách là tác giả duy nhất (Đăng trên tạp chí học thuật uy tín KCI IJIBC)

- Xuất bản 2 cuốn sách trên Amazon (bao gồm AI NPU System Design with Python and Verilog, từng đứng hạng #3 Best Seller)

- Kiểm chứng hoạt động của RV32I CPU·NPU·Vision·AURA-Edge SoC trên Arty S7

YouTube @EdgeChipLab · GitHub github.com/estlit

Thêm

Chương trình giảng dạy

Tất cả

3 bài giảng ∙ (1giờ 40phút)

Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học khác của EdgeChipLab

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Ưu đãi có thời hạn

5.940 ₫

40%

208.692 ₫