inflearn logo

Nhập môn bán dẫn AI gói gọn trong một tệp Excel mà không cần công cụ EDA

Bạn đã từng bỏ cuộc khi học Verilog và các công cụ EDA? Một giáo sư khoa bán dẫn, người trực tiếp thiết kế NPU, sẽ hướng dẫn bạn cách hiểu từ CPU đến NPU thông qua việc tính toán với 9 tệp Excel.

1 học viên đang tham gia khóa học này

Độ khó Nhập môn

Thời gian Không giới hạn

AI
AI
Excel
Excel
Computer Architecture
Computer Architecture
GPU
GPU
Machine Learning(ML)
Machine Learning(ML)
AI
AI
Excel
Excel
Computer Architecture
Computer Architecture
GPU
GPU
Machine Learning(ML)
Machine Learning(ML)

Bạn sẽ nhận được điều này sau khi học.

  • Khả năng giải thích ý nghĩa của thuật ngữ "nghẽn cổ chai" (bottleneck) và "băng thông" (bandwidth) trong các bài báo về bán dẫn AI.

  • Khả năng giải thích sự khác biệt giữa CPU, GPU và NPU dựa trên các lý do về cấu trúc.

  • Khả năng trả lời trôi chảy, không bị vấp khi gặp câu hỏi "Hãy giải thích sự khác biệt giữa GPU và NPU" trong buổi phỏng vấn.

  • Hiểu sự khác biệt giữa DRAM và SRAM thông qua thực hành

  • 9 loại file Excel thực hành bán dẫn AI

  • Khả năng trực tiếp tính toán và tìm ra điểm mà hiệu suất dừng lại ngay cả khi tăng thêm bộ toán tử.

  • Khả năng giải thích lý do tại sao SRAM nhanh gấp 40 lần nhưng vẫn không được dùng làm bộ nhớ chính (RAM)

■ Không cần trình mô phỏng bán dẫn, chỉ với Excel

Những nỗ lực để thấu hiểu về bán dẫn trí tuệ nhân tạo thường dừng lại trước các rào cản gia nhập. Bạn phải học ngôn ngữ mô tả phần cứng, cài đặt các công cụ EDA, xin cấp phép bản quyền và học cách giải mã các dạng sóng. Chỉ riêng quá trình này đã tiêu tốn hàng tháng trời, và bạn sẽ phải dành phần lớn thời gian để học cách sử dụng công cụ trước khi kịp nắm bắt được cảm giác về toàn bộ cấu trúc.

Khóa học này đưa ra một lộ trình khác. Chúng tôi thiết kế mô hình tính toán hoạt động của bán dẫn ngay trên bảng tính, cho phép học viên trực tiếp điều chỉnh các giá trị đầu vào và quan sát sự thay đổi của kết quả.

Chỉ cần mở tệp Excel và thay đổi các con số trong ô màu vàng là được.

■ Lý do Excel có thể thay thế các công cụ EDA

Bản chất của mô phỏng bán dẫn là kiểm tra xem kết quả thay đổi như thế nào khi các điều kiện thay đổi. Các tệp thực hành của bài giảng này thực hiện chức năng đó ngay trên bảng tính.

· 설치가 필요 없습니다

Chỉ cần Excel hoặc các chương trình bảng tính tương thích là đủ.

Không cần môi trường phát triển, giấy phép hay quy trình thiết lập riêng biệt nào cả.

· Mọi quá trình tính toán đều được hiển thị rõ ràng

Công cụ EDA xuất kết quả dưới dạng dạng sóng. Các quá trình trung gian đều bị ẩn đi.

Trong bảng tính, tất cả các giá trị trung gian đều được hiển thị nguyên vẹn trong các ô.

Bạn có thể trực tiếp kiểm tra xem giá trị đó được tạo ra từ công thức nào.

· Tức thì phản hồi

Nếu bạn thay đổi giá trị trong ô nhập liệu, các bảng và biểu đồ liên quan sẽ được cập nhật ngay tại chỗ.

Không cần biên dịch, cũng không cần chờ thực thi.

· 수강 이후에도 남습니다

Sau khi bài giảng kết thúc, bạn vẫn có thể tiếp tục sử dụng các tệp tin này.

Bạn có thể tự mình tiếp tục thử nghiệm bằng cách đưa vào các điều kiện mới.

■ Không phải là biểu đồ tĩnh

Tài liệu thực hành của bài giảng này không phải là bảng biểu chỉ hiển thị các kết quả đã được tính toán sẵn. Quá trình thực thi của bán dẫn được triển khai bằng các công thức toán học, và khi đầu vào thay đổi, toàn bộ kết quả sẽ được tính toán lại theo chuỗi.

· CPU triển khai quá trình thực thi lệnh thành 27 bước và

Theo dõi từng dòng để biết giá trị nào được đọc và tích lũy ở mỗi bước.

· Điểm mà tỷ lệ vận hành bộ toán tử của GPU chạm đến giới hạn băng thông

Tính toán bằng công thức và xác nhận thông qua biểu đồ.

· Năm giai đoạn phục hồi điện tích mỗi khi DRAM đọc dữ liệu

So sánh với SRAM qua từng bước một.

· Systolic array에서 계산이 활성화되는 위치가

Theo dõi quá trình di chuyển theo đường chéo theo thời gian dựa trên đơn vị ô (cell).

· Trong khi mảng bộ tính toán 13×10 của NPU xử lý 52 tile

tính toán số lần truy cập bộ nhớ phát sinh theo từng bước.

Những tài liệu học tập dưới dạng này rất khó tìm thấy trên thị trường. Chúng tôi thực hiện nhằm lấp đầy khoảng trống giữa các sách nhập môn vốn chỉ dừng lại ở sơ đồ khái niệm và ví dụ so sánh, với các sách chuyên ngành đòi hỏi kiến thức về ngôn ngữ kỹ thuật phần cứng.

■ Tám chủ đề được kết nối thành một vấn đề duy nhất

Bài giảng này không phải là sự liệt kê các chủ đề độc lập. Nó được thiết kế theo cấu trúc bắt đầu từ một câu hỏi và đi sâu dần vào các câu hỏi tiếp theo.

Trí tuệ nhân tạo tính toán cái gì

Nếu thực hiện phép tính đó bằng bộ xử lý đa năng thì sẽ phát sinh những gánh nặng nào?

Cấu trúc song song giảm bớt gánh nặng đó như thế nào và đâu là giới hạn của nó?

Nếu bộ nhớ là hạn chế, chẳng phải chỉ cần dùng bộ nhớ nhanh hơn là được sao?

Lý do tại sao không thể áp dụng toàn diện bộ nhớ tốc độ cao là gì?

Việc tái sử dụng dữ liệu sẽ thay đổi điều gì?

Nếu hiện thực hóa điều này bằng mạch điện thì sẽ phát sinh những lợi điểm và chi phí (đánh đổi) nào?

Câu hỏi còn lại ở cuối mỗi chương sẽ trở thành điểm khởi đầu cho chương tiếp theo. Cuối cùng, bạn sẽ đạt đến quan điểm thiết kế hệ thống, nơi xem xét tổng hòa các yếu tố hiệu suất, điện năng, diện tích, giá thành và sự di chuyển của dữ liệu.

■ Cách thức học tập

Mỗi chương đều bao gồm quá trình thay đổi các giá trị đầu vào. Trình tự được khuyến nghị như sau:

Trước tiên hãy dự đoán kết quả và

sau khi thay đổi giá trị

quan sát kết quả thực tế và

hãy thử giải thích lý do đó

Việc nhập giá trị bản thân nó không phải là mục đích. Mục đích là nắm bắt mối quan hệ nhân quả xem đầu vào nào ảnh hưởng đến kết quả nào. Khi dự đoán và thực tế khác nhau, sự hiểu biết sẽ trở nên sâu sắc hơn trong quá trình tìm kiếm lý do tại sao.

■ Tài liệu cung cấp

Cung cấp tất cả 9 loại tệp Excel được sử dụng trong bài giảng.

01_Line_Classifier.xlsx Quá trình phán đoán của bộ phân loại tuyến tính

02_MNIST_Learning.xlsx Nguyên lý học trọng số

03_Training_and_Inference.xlsx So sánh khối lượng tính toán giữa huấn luyện và suy luận

04_CPU_Operation.xlsx Thực thi lệnh và đường ống (pipeline)

05_CPU_GPU_Comparison.xlsx Cấu trúc song song và nút thắt cổ chai bộ nhớ

06_DRAM_SRAM.xlsx Nguyên lý hình thành phân cấp bộ nhớ

07_Systolic_Array.xlsx Tái sử dụng dữ liệu và lịch trình thực thi

08_NPU.xlsx Đặc điểm cấu trúc của bộ tăng tốc chuyên dụng

Mỗi tệp bao gồm các trang: hướng dẫn, nội dung chính, điều kiện, bảng biểu và tổng kết. Các ô nhập liệu được phân biệt bằng màu vàng, và các khu vực khác đã được thiết lập bảo vệ. Bạn có thể tự do thử nghiệm mà không lo làm hỏng các công thức.

■ Đối tượng học tập

· Những người thường xuyên tiếp cận với các tài liệu liên quan đến bán dẫn trí tuệ nhân tạo nhưng

Những người muốn hệ thống hóa lại nền tảng kỹ thuật một cách bài bản

· Đang chuẩn bị xin việc trong ngành bán dẫn và

Những người muốn hệ thống lại khái niệm về cấu trúc máy tính và bộ tăng tốc

· Với tư cách là người không chuyên, có thể đánh giá được các xu hướng công nghệ

Những người muốn trang bị kiến thức cơ bản

· Trước khi học ngôn ngữ mô tả phần cứng

Những người muốn nắm bắt cấu trúc tổng thể trước tiên

· Những người cần giải thích về chip bán dẫn trí tuệ nhân tạo tại các cơ sở giáo dục

■ Kiến thức tiên quyết

Chỉ cần bạn có khả năng nhập số vào bảng tính là đủ. Không yêu cầu kinh nghiệm lập trình, kiến thức chuyên ngành bán dẫn hay môi trường phát triển riêng biệt.

■ Phạm vi của mô hình bài giảng

Mô hình tính toán được sử dụng trong bài giảng này đã được đơn giản hóa cho mục đích giáo dục và không nhằm dự đoán các chỉ số hiệu suất của sản phẩm thực tế.

Trong mỗi màn hình thực hành đều có ghi rõ các điều kiện tiên quyết của mô hình tương ứng, và những phần có sự khác biệt so với thiết kế thực tế sẽ được giải thích riêng trong bài giảng. Mục tiêu không phải là ghi nhớ bản thân các con số, mà là để hiểu lý do cấu trúc dẫn đến việc đưa ra các con số đó.

■ Cấu trúc bài giảng

Tổng cộng 9 phần · 9 bài giảng · Tổng cộng 3 giờ 34 phút

Miễn phí công khai Phần 1 và Phần 2

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Sinh viên đang chuẩn bị xin việc trong ngành bán dẫn, muốn nắm vững cấu trúc tổng thể trước khi học Verilog và các công cụ EDA.

  • Nhà phát triển AI muốn hiểu mối quan hệ giữa hiệu suất mô hình và phần cứng thông qua các con số

  • Sinh viên chuyên ngành Kỹ thuật điện tử muốn xác nhận các khái niệm đã học trong kiến trúc máy tính bằng những con số thực tế.

  • Giáo viên cần tài liệu thực hành để giải thích về chip bán dẫn AI

  • Nhà hoạch định trong ngành bán dẫn muốn tự mình đánh giá các cuộc họp kỹ thuật và tài liệu.

Cần biết trước khi bắt đầu?

  • Chỉ cần có thể nhập số vào bảng tính là đủ rồi.

  • Không yêu cầu kinh nghiệm lập trình hay kiến thức chuyên ngành về bán dẫn.

  • Bạn không cần phải tự mình viết công thức. Bạn chỉ cần thay đổi các giá trị trong các ô trống của Excel là được.

Xin chào
Đây là EdgeChipLab

Xác minh sự nghiệp

Trực tiếp thiết kế và triển khai chip bán dẫn AI bằng FPGA

Với tư cách là giáo sư đại học đương nhiệm, tôi đã đúc kết 30 năm kinh nghiệm trong ngành bán dẫn hệ thống cùng bí quyết nghiên cứu và đào tạo về chip AI vào chương trình này.

Đây là chương trình đào tạo thực tiễn được thiết kế và kiểm chứng trực tiếp trên FPGA bởi giáo sư hiện đang giảng dạy kỹ thuật bán dẫn, người từng bắt đầu với vai trò nghiên cứu viên hệ thống bán dẫn tại bộ phận DS của Samsung Electronics, sau đó đảm nhiệm vị trí Giám đốc tại chi nhánh Anh và Đức, và Trưởng nhóm Tiếp thị - Kinh doanh System LSI.

Đây không đơn thuần là khóa học hướng dẫn cách sử dụng FPGA.
Khóa học hướng tới quy trình hiểu thuật toán AI → trực tiếp thiết kế NPU và CPU bằng RTL → triển khai trên FPGA → kiểm chứng trên phần cứng thực tế → và cuối cùng là mở rộng đến AI SoC.

AI Algorithm → RTL Design → FPGA Implementation → Bit-True Verification → AI SoC

 

Vượt xa lý thuyết, hướng tới hiện thực hóa phần cứng AI thực tế

Chỉ với những kiến thức rời rạc và manh mún, thật khó để đạt được năng lực thiết kế chip bán dẫn AI ở cấp độ hệ thống.

Học viên không chỉ dừng lại ở việc sử dụng các IP hộp đen đã hoàn thiện. Mục tiêu là giúp học viên từng bước trang bị năng lực thiết kế hệ thống để có thể trực tiếp thiết kế AI NPU và RISC-V CPU, tích hợp bộ nhớ và các thiết bị ngoại vi, và cuối cùng là xây dựng nên AI SoC của riêng mình.

Bắt đầu từ những kiến thức cơ bản về bóng bán dẫn và mạch kỹ thuật số, đi qua FPGA, CPU, NPU và kết nối đến tận phần cứng tăng tốc Transformer và LLM.

 

Kiểm chứng kết quả nghiên cứu bằng phần cứng FPGA thực tế.

Đây không phải là bài giảng chỉ xem bằng mắt. Không dừng lại ở lý thuyết hay mô phỏng đơn thuần, bạn sẽ trực tiếp vận hành mạch bán dẫn AI do chính mình thiết kế trên FPGA thực tế và thực hiện kiểm chứng Bit-True để kết quả RTL khớp với mô hình Python đến từng bit.

Kết quả nghiên cứu của giảng viên, bao gồm 4 bài báo đăng trên tạp chí KCI liên quan đến bán dẫn AI, FPGA và RISC-V, cũng được kết nối với nội dung đào tạo, giúp đưa các công nghệ đã được kiểm chứng trong nghiên cứu vào thiết kế thực tế và triển khai trên FPGA.

Chúng tôi công khai các mã nguồn cần thiết cho thực hành, bao gồm CPU RISC-V tự phát triển cũng như mã Python để học hình ảnh và Verilog RTL.

Nội dung được xây dựng xoay quanh bo mạch FPGA Arty S7-25 phổ thông và công cụ thiết kế Vivado miễn phí, giúp người học có thể tái hiện lại toàn bộ quá trình từ trực tiếp thiết kế, triển khai cho đến kiểm chứng.

 

Lộ trình Full-stack không gián đoạn: Từ cơ bản đến bộ tăng tốc mini LLM

Tất cả các bài giảng không phải là những mảnh ghép rời rạc, mà là một hành trình để hoàn thiện một hệ thống khổng lồ duy nhất.

  • Step 1: Lý thuyết AI và Cơ bản về xử lý hình ảnh (Bao gồm Machine Learning)

  • Step 2: Thiết kế và kiểm chứng bộ tăng tốc AI (NPU) (Bao gồm Machine Learning)

  • Step 3: Thiết kế CPU RISC-V và tích hợp hệ thống

  • Step 4: Triển khai AI SoC cao cấp và mở rộng sang nền tảng tăng tốc mini LLM (Cập nhật nội dung liên tục)

     

 

Chỉ số kiểm chứng khách quan

Tất cả các kết quả thiết kế trong khóa học này đã trải qua quá trình kiểm chứng nghiêm ngặt từ các tiêu chuẩn toàn cầu và giới học thuật.

  • Xác minh kiến trúc RISC-V: CPU RISC-V tự phát triển, vượt qua bài kiểm tra tuân thủ chính thức (ACT) của tổ chức quốc tế và công khai mã nguồn (GitHub)

  • Uy tín học thuật: 4 bài báo khoa học tác giả đơn nhiệm (Đăng trên IJIBC, tạp chí học thuật uy tín hạng A của KCI)

  • Công nhận toàn cầu: Xuất bản 2 cuốn sách kỹ thuật trên Amazon toàn cầu (đạt hạng 3 danh sách bán chạy nhất)

  • Đã xác minh hoạt động thực tế: Các IP cốt lõi như RV32I CPU, NPU, hệ thống Vision, GPS, Transformer, AURA-Edge SoC hoạt động hoàn hảo trên môi trường Arty S7

Hãy thử thách bản thân. Khi quá trình tự mình nạp code lên board và kiểm tra kết quả này kết thúc, bạn sẽ được nâng cấp thành một kỹ sư phần cứng với tầm nhìn hoàn toàn khác biệt so với trước đây.

Thêm

Chương trình giảng dạy

Tất cả

9 bài giảng ∙ (3giờ 33phút)

Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học khác của EdgeChipLab

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Ưu đãi có thời hạn

77.440 ₫

20%

2.016.627 ₫