Xây dựng NPU MNIST với FPGA — Từ RTL đến kiểm chứng Bit-True

Khi quyết định chế tạo CPU, thông thường người ta sẽ tìm sơ đồ mạch điện trước. Thế nhưng, ngay khi mở bản vẽ ra, một câu hỏi không lời giải đáp sẽ xuất hiện: Tại sao khối này lại phải nằm ở đây? Tại sao cổng đọc thanh ghi lại có hai cái? Mọi câu trả lời đều nằm ở tập lệnh. Khi biết tập lệnh yêu cầu điều gì, chúng ta sẽ xác định được cần những mạch điện nào. Quy trình ngược lại là không thể. Đã có rất nhiều bài giảng về RISC-V. Tuy nhiên, hầu hết chỉ hiển thị các giá trị trên slide rồi nói rằng "nó hoạt động như thế này" và lướt qua. Học viên không có cách nào để xác nhận xem giá trị đó có đúng hay không. Khóa học này cung cấp cho bạn một trình mô phỏng thực thi lệnh bằng Python. Khi bạn gõ `run ADD`, mã máy sẽ được lắp ráp ngay tại chỗ, 32 bit sẽ được trải rộng theo từng trường, và cách các thanh ghi thay đổi sẽ hiển thị trên màn hình. Mọi con số trong giáo trình đều là kết quả thực thi của công cụ này, và chúng sẽ được tái hiện y hệt trên màn hình của bạn. Các trình gỡ lỗi thương mại yêu cầu giấy phép, còn các trình mô phỏng thì việc cài đặt là một rào cản. Với công cụ này, bạn chỉ cần có Python. Không cần bo mạch, không cần giấy phép, cũng không cần cài đặt phức tạp. Đây là quá trình bạn sẽ trực tiếp thực thi không sót một lệnh nào trong số 40 lệnh RV32I, để từ đó tự mình tìm ra mạch điện cần phải làm những gì.

Khi học học máy, ta được dạy cách nâng cao độ chính xác. Nhưng đến lúc đưa mô hình lên chip thực tế, lại nảy sinh những câu hỏi mà chẳng ai chỉ bảo. Mô hình này thực hiện bao nhiêu phép nhân? Nó cần lưu trữ những gì và dung lượng bao nhiêu? Thông số kỹ thuật của con chip mục tiêu hiện tại có thể đáp ứng nổi những yêu cầu đó chăng? Giáo trình học máy thì bàn về độ chính xác, còn giáo trình bán dẫn lại nói về mạch điện, nhưng tài liệu kết nối hai lĩnh vực này lại vô cùng khan hiếm. Tôi đã nhiều lần đối mặt với khoảng trống này khi triển khai CPU RISC-V và NPU trên FPGA. Đó là tình cảnh mô hình có độ chính xác cao nhất lại chẳng thể nào nhét vừa vào board mạch. Khóa học này sẽ hướng dẫn bạn tự tay xây dựng sáu thuật toán bằng Python, đồng thời đo lường số phép nhân, phép so sánh, dung lượng bộ nhớ và độ chính xác ở mỗi thuật toán. Sau đó, quy đổi các giá trị này sang tài nguyên thực tế trên board FPGA. Bởi lẽ, nói "bao nhiêu phép nhân" thì khó mà hình dung được quy mô, nhưng nếu nói "chiếm bao nhiêu phần trăm tài nguyên board" thì ta dễ dàng đánh giá được. Trải qua 9 bài Lab và gom sáu mô hình vào chung một bảng, ta sẽ thấy một bức tranh hoàn toàn khác với dự đoán. Đã dành tới 9 bài chỉ để đếm số phép nhân, nhưng thứ thực sự gây trở ngại lại không phải là phép nhân. Tiếp theo, ta sẽ chuyển đổi số thực thành số nguyên, quản lý độ rộng bit, và xây dựng cả bộ tiêu chí để đánh giá mạch. Bạn không cần phải có board FPGA. Khóa học chỉ sử dụng Python, còn board mạch chỉ đóng vai trò làm hệ quy chiếu để quy đổi các giá trị đo lường.

Để trực tiếp thiết kế các loại chip bán dẫn AI như NPU, bộ tăng tốc Transformer hay mini LLM, bạn cần phải hiểu rõ lý thuyết về lý do tại sao các phép toán bên trong lại diễn ra. Khóa học này được nén thành ba phần, chắt lọc những tinh túy lý thuyết thiết yếu nhất cho việc thiết kế phần cứng, từ một nơ-ron đơn lẻ cho đến CNN, Transformer và LLM. Thay vì học thuộc lòng các công thức, giáo sư đương nhiệm với 30 năm kinh nghiệm trong ngành bán dẫn sẽ kết nối lý thuyết phần mềm và triển khai phần cứng thành một thông qua trực giác về việc "tại sao nó lại như vậy".

Đây là khóa học dành cho những ai đã học cú pháp Verilog nhưng vẫn còn lúng túng với câu hỏi "Vậy thì nên tạo ra cái gì?". Chỉ với một bo mạch FPGA, bạn sẽ trực tiếp thiết kế bốn loại phần cứng: đồng hồ kỹ thuật số, cảm biến khoảng cách siêu âm, màn hình OLED và cả hình ảnh camera thời gian thực. Độ khó sẽ tăng dần từ đầu ra đến đầu vào·điều khiển, hiển thị và hình ảnh, giúp bạn nắm vững thiết kế kỹ thuật số thông qua việc tạo ra các sản phẩm thực tế có thể nhìn thấy được. Một giáo sư đương nhiệm với 30 năm kinh nghiệm trong ngành bán dẫn sẽ trực tiếp giảng dạy những nội dung đã được kiểm chứng trên FPGA thực tế.

Nhiều người đã học về FPGA và Verilog nhưng lại gặp khó khăn ở câu hỏi "Vậy làm thế nào để trực tiếp tạo ra một bộ tăng tốc AI?". Khóa học này sẽ giải đáp thắc mắc đó. Chỉ với một tấm FPGA phổ thông và các công cụ miễn phí, bạn sẽ bắt đầu từ việc tự tay thiết kế kernel 3×3, trực tiếp huấn luyện CNN, lượng tử hóa các trọng số đã học sang INT8 để đưa vào phần cứng, và cuối cùng là kiểm chứng xem nó có khớp hoàn toàn (Bit-True) với mô hình Python đến từng bit hay không. Với 30 năm kinh nghiệm trong ngành bán dẫn và tư cách là giáo sư đương nhiệm, tôi chỉ dạy những nội dung đã được kiểm chứng trên FPGA thực tế dưới dạng các 'mạch điện hoạt động được'. Thay vì lý thuyết suông, bạn sẽ có được trải nghiệm tự tay thiết kế và chứng minh, từ đó trang bị năng lực thực chiến đáp ứng yêu cầu trong lĩnh vực thiết kế Fabless và chip bán dẫn AI.

Nhiều người đã học về FPGA và Verilog nhưng lại gặp khó khăn ở câu hỏi "Vậy làm thế nào để trực tiếp tạo ra một bộ tăng tốc AI?". Khóa học này sẽ giải đáp thắc mắc đó. Chỉ với một tấm FPGA phổ thông và các công cụ miễn phí, bạn sẽ bắt đầu từ việc tự tay thiết kế kernel 3×3, trực tiếp huấn luyện CNN, lượng tử hóa các trọng số đã học sang INT8 để đưa vào phần cứng, và cuối cùng là kiểm chứng xem nó có khớp hoàn toàn (Bit-True) với mô hình Python đến từng bit hay không. Với 30 năm kinh nghiệm trong ngành bán dẫn và tư cách là giáo sư đương nhiệm, tôi chỉ dạy những nội dung đã được kiểm chứng trên FPGA thực tế dưới dạng các 'mạch điện hoạt động được'. Thay vì lý thuyết suông, bạn sẽ có được trải nghiệm tự tay thiết kế và chứng minh, từ đó trang bị năng lực thực chiến đáp ứng yêu cầu trong lĩnh vực thiết kế Fabless và chip bán dẫn AI.

Bạn đang cảm thấy bế tắc trong việc áp dụng vào thực tế và chuẩn bị phỏng vấn đúng không? Bằng cách đúc kết những kinh nghiệm thực tiễn của mình, tôi sẽ giúp bạn nắm vững kiến thức từ CNN đến DETR một cách chắc chắn thông qua việc tập trung vào mã nguồn (code).

Để trực tiếp thiết kế các loại chip bán dẫn AI như NPU, bộ tăng tốc Transformer hay mini LLM, bạn cần phải hiểu rõ lý thuyết về lý do tại sao các phép toán bên trong lại diễn ra. Khóa học này được nén thành ba phần, chắt lọc những tinh túy lý thuyết thiết yếu nhất cho việc thiết kế phần cứng, từ một nơ-ron đơn lẻ cho đến CNN, Transformer và LLM. Thay vì học thuộc lòng các công thức, giáo sư đương nhiệm với 30 năm kinh nghiệm trong ngành bán dẫn sẽ kết nối lý thuyết phần mềm và triển khai phần cứng thành một thông qua trực giác về việc "tại sao nó lại như vậy".

Đây là khóa học dành cho những ai đã học cú pháp Verilog nhưng vẫn còn lúng túng với câu hỏi "Vậy thì nên tạo ra cái gì?". Chỉ với một bo mạch FPGA, bạn sẽ trực tiếp thiết kế bốn loại phần cứng: đồng hồ kỹ thuật số, cảm biến khoảng cách siêu âm, màn hình OLED và cả hình ảnh camera thời gian thực. Độ khó sẽ tăng dần từ đầu ra đến đầu vào·điều khiển, hiển thị và hình ảnh, giúp bạn nắm vững thiết kế kỹ thuật số thông qua việc tạo ra các sản phẩm thực tế có thể nhìn thấy được. Một giáo sư đương nhiệm với 30 năm kinh nghiệm trong ngành bán dẫn sẽ trực tiếp giảng dạy những nội dung đã được kiểm chứng trên FPGA thực tế.

Chúng tôi sẽ tổng hợp các khái niệm lý thuyết về MNIST, bộ dữ liệu cơ bản nhất trong thị giác máy tính, đồng thời học cách triển khai thông qua API của Torchvision và cách tự xây dựng một custom dataset class.

Nếu như Phần 1 là để kiểm tra năng lực và củng cố kiến thức cơ bản, thì Phần 2 là khóa huấn luyện thực chiến cô đọng chỉ dành riêng cho việc 'trúng tuyển và chuyển việc'. Vượt qua những kiến thức ngữ pháp đơn thuần hay cấp độ cổng logic (gate level), bạn sẽ được trực tiếp thiết kế các mô-đun có độ khó cao nhất thường xuất hiện trong các bài kiểm tra lập trình và môi trường làm việc thực tế tại các tập đoàn lớn/công ty nước ngoài (như CDC, FIFO đồng bộ/bất đồng bộ, AMBA APB, SPI, I2C, bộ lọc FIR, v.v.). Bạn có cần một năng lực thiết kế vững chắc để không bị lung lay trước những câu hỏi dồn dập từ người phỏng vấn? Tôi đã gói gọn tất cả bí quyết thực chiến của ETA - người đã chuyển việc thành công từ một trường đại học địa phương sang công ty bán dẫn nước ngoài - cùng những bài toán kiểm tra lập trình khó nhất vào khóa học này. Mùa cuối cùng, hãy hoàn thiện tấm vé thông hành cho việc chuyển việc của bạn.

Khi quyết định chế tạo CPU, thông thường người ta sẽ tìm sơ đồ mạch điện trước. Thế nhưng, ngay khi mở bản vẽ ra, một câu hỏi không lời giải đáp sẽ xuất hiện: Tại sao khối này lại phải nằm ở đây? Tại sao cổng đọc thanh ghi lại có hai cái? Mọi câu trả lời đều nằm ở tập lệnh. Khi biết tập lệnh yêu cầu điều gì, chúng ta sẽ xác định được cần những mạch điện nào. Quy trình ngược lại là không thể. Đã có rất nhiều bài giảng về RISC-V. Tuy nhiên, hầu hết chỉ hiển thị các giá trị trên slide rồi nói rằng "nó hoạt động như thế này" và lướt qua. Học viên không có cách nào để xác nhận xem giá trị đó có đúng hay không. Khóa học này cung cấp cho bạn một trình mô phỏng thực thi lệnh bằng Python. Khi bạn gõ `run ADD`, mã máy sẽ được lắp ráp ngay tại chỗ, 32 bit sẽ được trải rộng theo từng trường, và cách các thanh ghi thay đổi sẽ hiển thị trên màn hình. Mọi con số trong giáo trình đều là kết quả thực thi của công cụ này, và chúng sẽ được tái hiện y hệt trên màn hình của bạn. Các trình gỡ lỗi thương mại yêu cầu giấy phép, còn các trình mô phỏng thì việc cài đặt là một rào cản. Với công cụ này, bạn chỉ cần có Python. Không cần bo mạch, không cần giấy phép, cũng không cần cài đặt phức tạp. Đây là quá trình bạn sẽ trực tiếp thực thi không sót một lệnh nào trong số 40 lệnh RV32I, để từ đó tự mình tìm ra mạch điện cần phải làm những gì.

Khóa học này nói về việc nghiên cứu Vision Transformer, một trong những công nghệ học sâu mới nhất và thực hiện luận án bằng Pytorch. Hãy cùng tôi trải nghiệm tương lai mới của lĩnh vực tầm nhìn!

Đây là khóa học dự án máy học toàn diện, nơi bạn học nhiều dự án hồi quy và phân loại máy học hữu ích khác nhau cùng với lý thuyết sử dụng Python và TensorFlow 2 dựa trên dữ liệu lớn của Boston Marathon.

Khi học học máy, ta được dạy cách nâng cao độ chính xác. Nhưng đến lúc đưa mô hình lên chip thực tế, lại nảy sinh những câu hỏi mà chẳng ai chỉ bảo. Mô hình này thực hiện bao nhiêu phép nhân? Nó cần lưu trữ những gì và dung lượng bao nhiêu? Thông số kỹ thuật của con chip mục tiêu hiện tại có thể đáp ứng nổi những yêu cầu đó chăng? Giáo trình học máy thì bàn về độ chính xác, còn giáo trình bán dẫn lại nói về mạch điện, nhưng tài liệu kết nối hai lĩnh vực này lại vô cùng khan hiếm. Tôi đã nhiều lần đối mặt với khoảng trống này khi triển khai CPU RISC-V và NPU trên FPGA. Đó là tình cảnh mô hình có độ chính xác cao nhất lại chẳng thể nào nhét vừa vào board mạch. Khóa học này sẽ hướng dẫn bạn tự tay xây dựng sáu thuật toán bằng Python, đồng thời đo lường số phép nhân, phép so sánh, dung lượng bộ nhớ và độ chính xác ở mỗi thuật toán. Sau đó, quy đổi các giá trị này sang tài nguyên thực tế trên board FPGA. Bởi lẽ, nói "bao nhiêu phép nhân" thì khó mà hình dung được quy mô, nhưng nếu nói "chiếm bao nhiêu phần trăm tài nguyên board" thì ta dễ dàng đánh giá được. Trải qua 9 bài Lab và gom sáu mô hình vào chung một bảng, ta sẽ thấy một bức tranh hoàn toàn khác với dự đoán. Đã dành tới 9 bài chỉ để đếm số phép nhân, nhưng thứ thực sự gây trở ngại lại không phải là phép nhân. Tiếp theo, ta sẽ chuyển đổi số thực thành số nguyên, quản lý độ rộng bit, và xây dựng cả bộ tiêu chí để đánh giá mạch. Bạn không cần phải có board FPGA. Khóa học chỉ sử dụng Python, còn board mạch chỉ đóng vai trò làm hệ quy chiếu để quy đổi các giá trị đo lường.

Từ lý thuyết cốt lõi về Deep Learning và CNN đến các phương pháp triển khai mô hình CNN đa dạng, bí quyết phát triển Deep Learning thực tế thông qua các bài toán thực tế, Nếu bạn muốn trở thành chuyên gia về công nghệ CNN Deep Learning dựa trên Pytorch, hãy tham gia khóa học này :)

AI Rõ ràng trí tuệ nhân tạo đang là một xu hướng. Nhưng bạn có thể sử dụng gì sau khi học machine learning và deep learning? Bây giờ, hãy cùng tìm hiểu về các dự án IoT Computer Vision hữu ích được sử dụng trong cuộc sống hàng ngày.

Bài giảng này thực hiện triển khai DDR Memory Arbiter.

Khi bạn tải hình ảnh lên, Opencv sẽ xử lý hình ảnh đó để tạo một ứng dụng web phát hiện khuôn mặt.

UART là một phương thức giao tiếp nối tiếp cơ bản và được sử dụng rộng rãi, là một chủ đề học tập rất phù hợp cho người mới bắt đầu tiếp cận thiết kế FPGA. Trong khóa học này, chúng ta sẽ tìm hiểu chi tiết về nguyên lý giao tiếp và cấu trúc khung của UART, sau đó tiến hành quá trình tự triển khai logic truyền nhận thông qua thiết kế RTL (Register Transfer Level) dựa trên hiểu biết đó. Bằng cách triển khai UART trên FPGA, bạn có thể phát triển một cách có hệ thống năng lực thiết kế mạch kỹ thuật số và tích lũy kinh nghiệm kiểm tra hoạt động ở cấp độ phần cứng thực tế thông qua mô phỏng và kiểm định. Ngoài ra, bạn cũng sẽ học cách sử dụng Soft Processor như MicroBlaze và Xilinx UART IP, từ đó hiểu rộng hơn về quy trình thiết kế hệ thống dựa trên bộ xử lý và cấu hình giao diện. Qua đó, bạn có thể trang bị năng lực phát triển toàn diện, bao gồm cả thiết kế logic và thiết kế bộ xử lý.

Bài giảng này sẽ triển khai DDR Memory Arbiter.

Bạn muốn học AI nhưng lần nào cũng bị khựng lại trước các công thức đại số tuyến tính? Thay vì bắt bạn học thuộc lòng các công thức, khóa học này sẽ giúp bạn tận mắt chứng kiến các vectơ và ma trận thực sự chuyển động như thế nào trong không gian. Sau khi hoàn thành khóa học, bạn có thể tự mình đọc hiểu toán học đằng sau mạng thần kinh, PCA và SVD.

AI Rõ ràng trí tuệ nhân tạo và di động đang là xu hướng. Nhưng làm thế nào để bạn học máy học và học sâu và sử dụng chúng trên thiết bị di động? Bây giờ, hãy cùng tìm hiểu các dự án Thị giác máy tính di động hữu ích được sử dụng trong cuộc sống hàng ngày.

Công nghệ OCR thực sự dùng trong thực tế, nếu muốn học đúng cách thì chỉ cần một khóa học này là đủ! Đạt mục tiêu chính xác trên 98% ngay cả với tài liệu phi cấu trúc và bố cục phức tạp, dựa trên các mô hình SOTA mới nhất cùng kinh nghiệm thực chiến, chúng tôi sẽ cùng bạn xây dựng dự án OCR cấp doanh nghiệp.

<Mô hình Ngôn ngữ Lớn, chỉ những điều cốt lõi một cách nhanh chóng!>(Insight, 2025)를 바탕으로 LLM의 이론과 실전 예제를 다루는 강의입니다.