Lý thuyết thiết yếu cho thiết kế chất bán dẫn AI — từ nơ-ron đến LLM

Khi học về CPU và RISC-V, bạn có thể hiểu được chức năng của các lệnh nhưng lại gặp khó khăn ở những câu hỏi như: “Các lệnh này được thực thi như thế nào trên phần cứng thực tế?” và “Làm thế nào để xác nhận CPU do chính mình thiết kế thực sự hoạt động đúng?”. Nhiều tài liệu trên thị trường chỉ dừng ở việc giải thích ISA hoặc các ví dụ CPU đơn giản; trong nhiều trường hợp, người học cũng chỉ sử dụng các IP hoàn thiện. Vì vậy, không dễ để trải nghiệm toàn bộ quá trình tự thiết kế, xác minh CPU và chạy chương trình trên FPGA thực tế. Tôi đã có nhiều năm kinh nghiệm nghiên cứu, phát triển và kinh doanh trong lĩnh vực bán dẫn hệ thống, đồng thời hiện đang giảng dạy về thiết kế bán dẫn và FPGA tại trường đại học. Qua đó, tôi nhận thấy rõ khoảng cách trong quá trình học tập này. Vì vậy, khóa học được xây dựng không theo phương pháp cung cấp một CPU hoàn thiện rồi chỉ kiểm tra hoạt động, mà bắt đầu từ câu hỏi “Cần có những phần cứng nào để thực thi các lệnh RV32I?”, từ đó trực tiếp thiết kế cấu trúc CPU theo phương pháp White Box. Trong Volume 3, dựa trên TinyRV32I của Volume 2, chúng ta mở rộng thành CPU 32-bit Full-Version sử dụng 40 lệnh RV32I. Data path, Decoder, Branch·Jump và Byte/Halfword Memory Access được mở rộng; đồng thời triển khai Forwarding và Load-Use Interlock để Pipeline 5 tầng có thể tự xử lý các phụ thuộc dữ liệu. Tiếp đó, bằng cách tích hợp CSR, Exception, Interrupt, Trap và MRET, chúng ta hoàn thiện một CPU có khả năng xử lý không chỉ việc thực thi chương trình thông thường mà cả các ngoại lệ và sự kiện bên ngoài. Quá trình thiết kế không kết thúc ở RTL Simulation. Chúng ta sẽ thực thi chương trình thực tế trên CPU, so sánh kết quả với Spike Reference Model, đồng thời học về mục đích cũng như quy trình thực hiện và đánh giá của RISC-V Architecture Compatibility Test thông qua các trường hợp xác minh thực tế. Cuối cùng, CPU đã được xác minh sẽ được triển khai trên FPGA Arty S7-25, nhận đầu vào từ Switch và Button, thực thi chương trình và kiểm tra kết quả được xuất ra LED. Vấn đề mà khóa học này hướng tới không đơn giản chỉ là biết thêm nhiều lệnh RISC-V. Mục tiêu là kết nối các bước từ lệnh → kiến trúc CPU → Verilog RTL → điều khiển Pipeline → thực thi chương trình → xác minh dựa trên tiêu chuẩn → hoạt động thực tế trên FPGA thành một quy trình thống nhất, giúp học viên hiểu một cách căn bản cấu trúc bên trong CPU và hình thành năng lực kỹ thuật để tự thiết kế, xác minh CPU.

Bắt đầu từ nguyên lý hoạt động của các lệnh RISC-V, đây là khóa học thực hành thiết kế CPU 32-bit với cấu trúc pipeline 5 tầng, hoàn thiện từ việc triển khai Verilog RTL, kiểm chứng bằng mô phỏng cho đến chạy thực tế trên FPGA. Trong số 40 lệnh của RV32I, khóa học lựa chọn 14 lệnh cần thiết để tìm hiểu cấu trúc cốt lõi của CPU và từng bước xây dựng TinyRV32I. Bạn sẽ trực tiếp thiết kế và kiểm chứng các cấu trúc cốt lõi tạo nên một CPU thực tế, bao gồm datapath, thanh ghi pipeline, ALU và mạch điều khiển, Branch, Hazard, Stall·Flush, Memory-Mapped I/O, v.v. Khóa học cung cấp Verilog RTL, Testbench, chương trình Assembly, Memory Image và tệp ràng buộc FPGA được sử dụng trong bài giảng. Cuối cùng, bạn sẽ chạy chương trình thực tế trên FPGA Arty S7-25 bằng chính CPU do mình thiết kế. Khóa học không kết thúc tại đây. Sau khi hoàn thiện cấu trúc cốt lõi của CPU thông qua TinyRV32I, bạn sẽ tiếp tục với lộ trình thiết kế CPU theo từng giai đoạn, mở rộng thành Full RV32I CPU hỗ trợ toàn bộ 40 lệnh RV32I trong các khóa học tiếp theo.

Khi quyết định tự xây dựng một CPU, phần lớn mọi người thường bắt đầu bằng việc tìm sơ đồ mạch. Nhưng ngay khi mở bản vẽ ra, những câu hỏi không thể trả lời xuất hiện. Tại sao khối này phải nằm ở đây? Tại sao cổng đọc thanh ghi lại có hai cái? Tất cả câu trả lời đều nằm trong tập lệnh. Khi biết tập lệnh yêu cầu điều gì, ta sẽ xác định được cần những mạch nào. Làm theo thứ tự ngược lại thì không được. Đã có khá nhiều khóa học về RISC-V. Nhưng phần lớn chỉ hiển thị một giá trị trên slide, nói “nó hoạt động như thế này” rồi chuyển sang phần tiếp theo. Người học không có cách nào kiểm chứng giá trị đó có đúng hay không. Khóa học này đi kèm một trình mô phỏng thực thi lệnh bằng Python. Khi nhập run ADD, mã máy sẽ được lắp ráp ngay tại chỗ, 32 bit sẽ được phân tách theo từng trường, và sự thay đổi của các thanh ghi sẽ hiển thị trên màn hình. Mọi con số trong giáo trình đều là kết quả chạy từ công cụ này và sẽ được tái hiện y hệt trên màn hình của bạn. Trình gỡ lỗi thương mại cần giấy phép, còn trình mô phỏng thì vướng ở khâu cài đặt. Công cụ này chỉ cần có Python là đủ. Không cần bo mạch, giấy phép hay cài đặt. Đây là quá trình trực tiếp thực thi toàn bộ 40 lệnh RV32I, không bỏ sót một lệnh nào, để tự mình khám phá xem mạch cần phải làm gì.

Bạn đã từng bỏ cuộc khi học Verilog và các công cụ EDA? Một giáo sư khoa bán dẫn, người trực tiếp thiết kế NPU, sẽ hướng dẫn bạn cách hiểu từ CPU đến NPU thông qua việc tính toán với 9 tệp Excel.

Khi học máy học, bạn học cách nâng cao độ chính xác. Nhưng ngay khoảnh khắc muốn đưa mô hình đó lên một con chip thực tế, vẫn còn những câu hỏi mà không ai nói cho bạn biết. Mô hình này thực hiện bao nhiêu phép nhân? Nó cần ghi nhớ bao nhiêu và những gì? Thông số của con chip đang nhắm tới có đáp ứng được các yêu cầu đó không? Giáo trình máy học nói về độ chính xác, còn giáo trình bán dẫn nói về mạch điện, nhưng tài liệu kết nối hai lĩnh vực này lại rất hiếm. Khi triển khai CPU RISC-V và NPU trên FPGA, tôi đã nhiều lần đối mặt với khoảng cách đó. Đó là tình huống mô hình có độ chính xác cao nhất lại không thể chạy trên bo mạch. Trong khóa học này, bạn sẽ trực tiếp xây dựng sáu thuật toán bằng Python, đồng thời đo số phép nhân, phép so sánh, bộ nhớ và độ chính xác ở mỗi bước. Sau đó, các giá trị này được quy đổi thành tài nguyên trên một bo mạch FPGA thực tế. Chỉ nói “bao nhiêu phép nhân” thì không đủ để hình dung quy mô, nhưng nếu nói “chiếm bao nhiêu phần trăm tài nguyên của bo mạch” thì bạn có thể đưa ra quyết định. Sau khi hoàn thành chín Lab và đưa sáu mô hình vào cùng một bảng, bạn sẽ thấy một bức tranh khác với dự đoán. Chúng ta đã dành chín bài để đếm số phép nhân, nhưng thứ thực sự trở thành nút thắt lại không phải là phép nhân. Sau đó, chúng ta sẽ hạ độ chính xác xuống dạng số nguyên, quản lý số chữ số và xây dựng cả tiêu chí để đánh giá mạch. Bạn không cần có bo mạch FPGA. Khóa học được thực hiện hoàn toàn bằng Python, còn bo mạch chỉ được sử dụng làm 기준 để quy đổi các giá trị đo được.

Đưa mạng thần kinh lên FPGA — cụm từ này nghe có vẻ quen thuộc, nhưng số người thực sự làm được điều đó lại rất hiếm. Nếu bạn muốn đi trước một bước trong các đồ án tốt nghiệp (Capstone), các cuộc thi hay tác phẩm tốt nghiệp, bạn cần phải vượt xa việc chỉ huấn luyện mô hình; bạn phải có khả năng tự mình tạo ra và chứng minh cách các phép toán đó vận hành bên trong một con chip thực thụ. Khóa học này sẽ giúp bạn lấp đầy khoảng cách đó — khoảng cách giữa lý thuyết và phần cứng thực tế. Bạn sẽ tự tay hoàn thiện từ đầu đến cuối một bộ tăng tốc mạng thần kinh (NPU) nhận dạng chữ số MNIST, từ việc đọc thông số kỹ thuật đến xây dựng mô hình Golden Model bằng Python, thiết kế Verilog RTL và kiểm chứng trên FPGA. Từ lớp Conv được tạo bởi Line Buffer và MAC song song, qua ReLU, MaxPool, Flatten cho đến lớp Fully Connected và Argmax — bạn sẽ tích hợp chín khối chức năng vào một con chip duy nhất và tự mình chứng minh rằng "kết quả từ Python và đầu ra phần cứng không khác nhau dù chỉ một bit (Bit-True)". Khóa học cũng bao gồm cách vượt qua những khoảnh khắc gây ức chế khi mô phỏng chạy bình thường nhưng kết quả lại khác biệt một cách tinh vi. Tôi sẽ chỉ ra từng bí quyết thực tế mà các giáo trình học sâu thông thường không đề cập đến, chẳng hạn như lượng tử hóa số nguyên, chuyển đổi thứ tự trục mảng, hay ngăn chặn tràn bộ tích lũy. Tôi đã đúc kết những kinh nghiệm xương máu từ quá trình thiết kế CPU RISC-V và kiểm chứng Bit-True trên FPGA trong thời gian dài vào khóa học này, để các bạn không phải lặp lại những sai lầm đó. Sau khi kết thúc khóa học, bạn sẽ nắm trong tay một dự án phần cứng hoàn chỉnh mà bạn có thể tự tin nói rằng mình đã "tự tay thiết kế và chứng minh".

Đây là khóa học dành cho những ai đã học cú pháp Verilog nhưng vẫn còn lúng túng với câu hỏi "Vậy thì nên tạo ra cái gì?". Chỉ với một bo mạch FPGA, bạn sẽ trực tiếp thiết kế bốn loại phần cứng: đồng hồ kỹ thuật số, cảm biến khoảng cách siêu âm, màn hình OLED và cả hình ảnh camera thời gian thực. Độ khó sẽ tăng dần từ đầu ra đến đầu vào·điều khiển, hiển thị và hình ảnh, giúp bạn nắm vững thiết kế kỹ thuật số thông qua việc tạo ra các sản phẩm thực tế có thể nhìn thấy được. Một giáo sư đương nhiệm với 30 năm kinh nghiệm trong ngành bán dẫn sẽ trực tiếp giảng dạy những nội dung đã được kiểm chứng trên FPGA thực tế.

Nhiều người đã học về FPGA và Verilog nhưng lại gặp khó khăn ở câu hỏi "Vậy làm thế nào để trực tiếp tạo ra một bộ tăng tốc AI?". Khóa học này sẽ giải đáp thắc mắc đó. Chỉ với một tấm FPGA phổ thông và các công cụ miễn phí, bạn sẽ bắt đầu từ việc tự tay thiết kế kernel 3×3, trực tiếp huấn luyện CNN, lượng tử hóa các trọng số đã học sang INT8 để đưa vào phần cứng, và cuối cùng là kiểm chứng xem nó có khớp hoàn toàn (Bit-True) với mô hình Python đến từng bit hay không. Với 30 năm kinh nghiệm trong ngành bán dẫn và tư cách là giáo sư đương nhiệm, tôi chỉ dạy những nội dung đã được kiểm chứng trên FPGA thực tế dưới dạng các 'mạch điện hoạt động được'. Thay vì lý thuyết suông, bạn sẽ có được trải nghiệm tự tay thiết kế và chứng minh, từ đó trang bị năng lực thực chiến đáp ứng yêu cầu trong lĩnh vực thiết kế Fabless và chip bán dẫn AI.

Nhiều người đã học về FPGA và Verilog nhưng lại gặp khó khăn ở câu hỏi "Vậy làm thế nào để trực tiếp tạo ra một bộ tăng tốc AI?". Khóa học này sẽ giải đáp thắc mắc đó. Chỉ với một tấm FPGA phổ thông và các công cụ miễn phí, bạn sẽ bắt đầu từ việc tự tay thiết kế kernel 3×3, trực tiếp huấn luyện CNN, lượng tử hóa các trọng số đã học sang INT8 để đưa vào phần cứng, và cuối cùng là kiểm chứng xem nó có khớp hoàn toàn (Bit-True) với mô hình Python đến từng bit hay không. Với 30 năm kinh nghiệm trong ngành bán dẫn và tư cách là giáo sư đương nhiệm, tôi chỉ dạy những nội dung đã được kiểm chứng trên FPGA thực tế dưới dạng các 'mạch điện hoạt động được'. Thay vì lý thuyết suông, bạn sẽ có được trải nghiệm tự tay thiết kế và chứng minh, từ đó trang bị năng lực thực chiến đáp ứng yêu cầu trong lĩnh vực thiết kế Fabless và chip bán dẫn AI.

Khi nghiên cứu AI hoặc thực hiện một dự án sử dụng nó, việc thực hiện một luận điểm cơ bản là điều cần thiết. Thông qua bài giảng này, hãy nâng cao kỹ năng thực hành của bạn bằng cách triển khai một luận văn thực tế!

Ngành công nghiệp điện tử và bán dẫn là lĩnh vực đặc biệt quan trọng trong việc quản lý và đổi mới dựa trên dữ liệu do quy trình siêu chính xác và chuỗi cung ứng phức tạp. Khóa học này đề cập đến các chiến lược thực tiễn có thể áp dụng ngay trong sản xuất điện tử và bán dẫn như phát hiện lỗi, tối ưu hóa quy trình, bảo trì dự đoán, quản lý chuỗi cung ứng bằng cách sử dụng công nghệ AI. Cùng với các trường hợp thực tế của các công ty toàn cầu, khóa học cũng đưa ra phương pháp triển khai AI chi phí thấp và hiệu quả cao mà các doanh nghiệp vừa và nhỏ có thể áp dụng một cách thực tế. Thông qua đó, học viên sẽ có thể hiểu và áp dụng chiến lược sản xuất dựa trên AI không chỉ để nâng cao năng suất và giảm chi phí mà còn để trang bị khả năng cạnh tranh trong tương lai.

Bạn đang cảm thấy bế tắc trong việc áp dụng vào thực tế và chuẩn bị phỏng vấn đúng không? Bằng cách đúc kết những kinh nghiệm thực tiễn của mình, tôi sẽ giúp bạn nắm vững kiến thức từ CNN đến DETR một cách chắc chắn thông qua việc tập trung vào mã nguồn (code).

Đây là bài giảng dành cho các bạn sinh viên đang chuẩn bị ứng tuyển vào bộ phận DS của Samsung Electronics (Đánh giá và Phân tích Memory·S.LSI·Foundry·TSP·AVP) và SK hynix (PE·AE·Solution PE) nhưng còn gặp khó khăn trong việc phân biệt giữa các bộ phận kinh doanh và chức năng công việc. Dựa trên quy trình làm việc thực tế của vị trí Đánh giá sản phẩm, khóa học sẽ hệ thống lại tên gọi các vị trí công việc theo từng công ty, đồng thời hướng dẫn cách chuyển đổi kinh nghiệm chuyên ngành của bản thân sang ngôn ngữ chuyên môn để sử dụng trong bản tự giới thiệu và phỏng vấn. Bạn có thể xây dựng chiến lược ứng tuyển bằng cách kết nối các kinh nghiệm như Thiết kế mạch Analog, Verilog/FPGA, thí nghiệm quy trình, phân tích dữ liệu với các từ khóa trọng tâm như Hiệu suất (Yield), Wafer Map, Shmoo Plot và Phân tích lỗi.

Khóa học này nói về việc nghiên cứu Vision Transformer, một trong những công nghệ học sâu mới nhất và thực hiện luận án bằng Pytorch. Hãy cùng tôi trải nghiệm tương lai mới của lĩnh vực tầm nhìn!

Với lộ trình học tập bài bản gồm 40 bài giảng, bạn sẽ được học từ lý thuyết cơ bản về AI đến các kỹ thuật AI ứng dụng của từng thuật toán. Thông qua việc học và thực hành thuật toán bằng ngôn ngữ R cùng tư duy toán học trực quan, bạn sẽ trang bị được năng lực phát triển mô hình AI có thể áp dụng ngay vào thực tế, từ việc xây dựng và lựa chọn sử dụng các mô hình thuật toán cho phân tích dữ liệu, học máy (machine learning) và các công cụ ứng dụng liên quan.

Nghiên cứu kiến ​​thức cơ bản về phần cứng AI với Matbi. Là một chuyên gia thiết kế không phải bộ nhớ, nó chứa đựng những kiến ​​thức cần thiết để thiết kế AI HW tốt.

Đây là khóa học dự án máy học toàn diện, nơi bạn học nhiều dự án hồi quy và phân loại máy học hữu ích khác nhau cùng với lý thuyết sử dụng Python và TensorFlow 2 dựa trên dữ liệu lớn của Boston Marathon.

Đã học CNN rồi mà bạn vẫn chưa rõ sao? Tôi sẽ tóm tắt nguyên lý hoạt động cơ bản của CNN, chỉ những điểm chính.

Thông qua khóa học này, học viên sẽ có thể nhận biết lĩnh vực Hiểu video về thị giác máy tính của trí tuệ nhân tạo và đào tạo, đánh giá và kiểm tra các mô hình trong lĩnh vực Phát hiện sự kiện. Và bằng cách cải thiện cấu trúc mạng hiện có, bạn có thể cải thiện hiệu suất của mô hình và tận hưởng 'nghiên cứu trí tuệ nhân tạo';

Ngành sản xuất ô tô và linh kiện là lĩnh vực mà sự đổi mới là điều thiết yếu trong bối cảnh cạnh tranh toàn cầu khốc liệt và chuỗi cung ứng phức tạp. Khóa học này tập trung vào cách áp dụng công nghệ AI vào thực tế, giải thích thông qua các trường hợp thực tế như nâng cao hiệu quả sản xuất, tự động hóa kiểm tra chất lượng, bảo trì dự báo thiết bị, tối ưu hóa chuỗi cung ứng. Từ hiểu biết cơ bản cần thiết để triển khai AI, đến chiến lược và quản lý rủi ro cần xem xét khi áp dụng thực tế, khóa học được xây dựng theo từng bước để cung cấp kiến thức và hiểu biết sâu sắc mà nhân viên thực thi và quản lý có thể áp dụng ngay lập tức.

Sử dụng ChatGPT, nhưng bạn có thấy khó khăn khi giải thích tại sao nó lại đưa ra câu trả lời như vậy không? “RAG, Agent, Fine-tuning… Biết thuật ngữ nhưng khó giải thích chính xác.” “Cứ nghe đến các thuật ngữ liên quan đến LLM là cứng họng.” “Trong các cuộc họp về AI, việc giải thích khái niệm luôn mơ hồ.” Khóa học này được tạo ra dành riêng cho những người như vậy. Đây là khóa học lý thuyết giúp bạn hiểu LLM không chỉ như một ‘công cụ’ mà là một ‘cấu trúc’. Khóa học không dạy cách sử dụng ChatGPT hay Gemini, mà giúp bạn xây dựng nền tảng để có thể giải thích tại sao chúng lại hoạt động như thế.

Bạn muốn học AI nhưng lần nào cũng bị khựng lại trước các công thức đại số tuyến tính? Thay vì bắt bạn học thuộc lòng các công thức, khóa học này sẽ giúp bạn tận mắt chứng kiến các vectơ và ma trận thực sự chuyển động như thế nào trong không gian. Sau khi hoàn thành khóa học, bạn có thể tự mình đọc hiểu toán học đằng sau mạng thần kinh, PCA và SVD.

Khóa học này là một khóa nhập môn được thiết kế để người học lần đầu tiếp xúc với công nghệ AI cũng có thể dễ dàng hiểu và thực hành theo. Thông qua các bài giảng, bạn sẽ nắm vững các khái niệm cơ bản và cách sử dụng nền tảng AI, đồng thời tiến hành thực hành tạo ra hình ảnh trực tiếp bằng cách sử dụng các công cụ AI đa dạng. Sau khi hoàn thành khóa học này, bạn sẽ trở nên gần gũi hơn với AI và có thể trang bị năng lực tạo hình ảnh AI để hiện thực hóa các ý tưởng sáng tạo một cách trực quan.

Khóa học này bao gồm từ kiến thức cơ bản đến thực hành về nền tảng AI, là một khóa học giúp bạn có thể nắm vững công nghệ tạo hình ảnh AI. Người học có thể hiểu được các khái niệm cơ bản về AI và phát triển khả năng tạo ra hình ảnh AI bằng cách sử dụng các công cụ và kỹ thuật đa dạng. Thông qua khóa học này, bạn có thể nâng cao hiểu biết về lĩnh vực AI và học cách tạo ra hình ảnh AI trực tiếp trong thực tế.

Chứng chỉ thiết yếu trong thời đại AI, MS AI-900! 🚀 Bạn có biết không? ChatGPT chỉ hoạt động trên Microsoft Azure! Nếu bạn muốn tận dụng đúng cách Microsoft Azure OpenAI - nền tảng độc quyền cung cấp các mô hình GPT mới nhất, thì đây chính là cơ hội. Hãy phát triển thành chuyên gia dịch vụ Azure AI thông qua khóa học AI-900, và làm chủ các giải pháp AI cấp doanh nghiệp mà các công ty tin tưởng. Hãy nâng cao khả năng cạnh tranh của bạn với tư cách là một chuyên gia AI thực thụ bằng cách đạt được chứng nhận công nhận toàn cầu!

Giải quyết ngay điểm nghẽn khiến 80% thất bại tại Makerthon. Hoàn thành trong 4 tuần: Raspberry Pi · Computer Vision · LLM · Thiết kế 3D! Đạt thứ hạng cao tại Makerthon với PoC gương thông minh có thể trình diễn!

Hãy triển khai khung deep learning trực tiếp trong Excel! Hãy cùng giải quyết việc học có giám sát/học không giám sát/học tăng cường bằng cách sử dụng khung đã triển khai!

Nắm bắt các khái niệm cơ bản và xu hướng mới nhất của big data, thông qua hiểu biết kỹ thuật về các phương pháp phân tích big data để trích xuất các mẫu dữ liệu và đề xuất cách thức ứng dụng vào kinh doanh. Thông qua big data có thể tạo ra các mô hình kinh doanh mới và phát triển khả năng thông thái về môi trường kinh doanh trong tương lai.