Hiểu nguyên lý cơ bản của mô hình ngôn ngữ lớn (LLM)

7. [Thực hành] Bài học 3-2. Thực hành tóm tắt văn bản (Sử dụng Pegasus, T5)

8. [Thực hành] Bài học 3-3. Trải nghiệm tạo hình ảnh đơn giản (Phiên bản mini Stable Diffusion)

10. [Cơ bản] Bài học 4-2. Các loại mô hình ngôn ngữ

11. [Cơ bản] Bài học 4-3. Chi tiết về mô hình ngôn ngữ dựa trên thống kê

12. [Cơ bản] Bài học 4-4. Khái niệm mô hình ngôn ngữ dựa trên mạng nơ-ron

14. [Thực hành] Bài học 5-2. Triển khai bộ sinh câu dựa trên chuỗi Markov

15. [Thực hành] Bài học 5-3. Phân tích tần suất token của Corpus và trực quan hóa

17. [Cơ bản] Bài học 6-2. RNN và LSTM – Cốt lõi của Mô hình Tự hồi quy (Auto-Regressive Model)

18. [Cơ bản] Bài học 6-3. Transformer – Sự đổi mới của Mô hình Tự chú ý (Self-Attention Model)

19. [Cơ bản] Bài học 6-4. So sánh cấu trúc và độ phức tạp tính toán

20. [Cơ bản] Bài học 6-5. Ưu nhược điểm và các trường hợp áp dụng

21. [Cơ bản] Bài học 6-6. Kết luận và thảo luận

23. [Nâng cao] Bài học 7-2. Cấu trúc và hạn chế của RNN – Tại sao không thể nhìn sâu hơn?

24. [Nâng cao] Bài học 7-3. LSTM – Cấu trúc nâng cao khả năng ghi nhớ của RNN

25. [Nâng cao] Bài học 7-4. Sự xuất hiện của Transformer – Tại sao bỏ qua thứ tự mà vẫn làm tốt hơn?

26. [Nâng cao] Bài học 7-5. Tự hồi quy vs. Tự chú ý – Mô hình nào phù hợp với vấn đề nào?

27. (Dự kiến) [Thực hành] Bài học 8-1. Thực hành đầu ra RNN

28. (Dự kiến) [Thực hành] Bài học 8-2. Thực hành so sánh LSTM và GRU

29. (Dự kiến) [Thực hành] Bài học 8-3. Trải nghiệm mã hóa câu dựa trên Transformer

31. [Nâng cao] Bài học 9-2. Kiến trúc Transformer

32. [Nâng cao] Bài học 9-3. Cơ chế Attention

33. [Nâng cao] Bài học 9-4. So sánh cấu trúc BERT, GPT, T5

34. [Nâng cao] Bài học 9-5. Kết luận và triển vọng tương lai

35. (Dự kiến) [Thực hành] Bài học 10-1. [Đầu vào và Biểu diễn] Tokenization và Embedding

36. (Dự kiến) [Thực hành] Bài học 10-2. [Đầu vào và Biểu diễn] Triển khai và trực quan hóa mã hóa vị trí

37. (Dự kiến) [Thực hành] Bài học 10-3. [Hiểu và triển khai Attention] Triển khai Scaled Dot-Product Attention

38. (Dự kiến) [Thực hành] Bài học 10-4. [Hiểu và triển khai Attention] Triển khai Multi-Head Attention

39. (Dự kiến) [Thực hành] Bài học 10-5. [Hiểu và triển khai Attention] Trực quan hóa trọng số Attention

40. (Dự kiến) [Thực hành] Bài học 10-6. [Thành phần khối Transformer] Triển khai Add & Norm

41. (Dự kiến) [Thực hành] Bài học 10-7. [Các thành phần khối Transformer] Triển khai Position-wise Feed Forward Network (FFN)

42. (Dự kiến) [Thực hành] Bài học 10-8. [Thành phần khối Transformer] Lắp ráp tầng Encoder và tầng Decoder

43. (Dự kiến) [Thực hành] Bài học 10-9. [Kiến trúc tổng thể Transformer] Triển khai và kiểm tra hoạt động của ngăn xếp Encoder

44. (Dự kiến) [Thực hành] Bài học 10-10. [Kiến trúc tổng thể Transformer] Triển khai stack Decoder và xác nhận hoạt động

45. (Dự kiến) [Thực hành] Bài học 10-11. [Kiến trúc Transformer toàn diện] Triển khai huấn luyện mô hình dịch thuật đơn giản với Seq2Seq Transformer

46. (Dự kiến) [Thực hành] Bài học 10-12. [Mô hình học trước và ứng dụng] Triển khai BERT với Transformer chúng ta đã tạo

47. (Dự kiến) [Thực hành] Bài học 10-13. [Mô hình học trước và ứng dụng] Triển khai GPT với Transformer chúng ta đã tạo

48. (Dự kiến) [Thực hành] Bài học 10-14. [Mô hình học trước và ứng dụng] Triển khai T5 với Transformer do chúng ta tạo ra

50. [Nâng cao] Bài học 11-2. Đặc điểm và ưu nhược điểm của Open-Source LLM

51. [Nâng cao] Bài học 11-3. Đặc điểm và ưu nhược điểm của Closed-Source LLM

52. [Nâng cao] Bài học 11-4. Các mô hình LLM Open-Source tiêu biểu

53. [Nâng cao] Bài học 11-5. Các LLM Closed-Source tiêu biểu

55. (Dự kiến) [Thực hành] Bài học 12-1. Chạy Open-Source LLM (GPT-Neo)

56. (Dự kiến) [Thực hành] Bài học 12-2. Gọi API của Closed-Source LLM (ví dụ: OpenAI API)

57. (Dự kiến) [Thực hành] Bài học 12-3. So sánh·phân tích kết quả đầu ra của Open-Source LLM và Closed-Source LLM

59. [Cơ bản] Bài học 13-2. Đặc điểm dữ liệu huấn luyện LLM và phương pháp thu thập

60. [Cơ bản] Bài học 13-3. Khái niệm Pre-training, Transfer Learning, Fine-tuning

61. [Nâng cao] Bài học 14-1. Các vấn đề đạo đức chính phát sinh khi huấn luyện LLM

62. [Nâng cao] Bài học 14-2. Công nghệ thu thập dữ liệu và công nghệ làm sạch dữ liệu mới nhất

63. [Nâng cao] Bài học 14-3. Kỹ thuật giảm chi phí và tối ưu hóa huấn luyện mô hình

64. (Dự kiến) [Thực hành] Bài học 15-1. Tiền xử lý văn bản và token hóa

65. (Dự kiến) [Thực hành] Bài học 15-2. Sử dụng tập dữ liệu nhỏ để tokenize theo phương pháp WordPiece/BPE

66. (Dự kiến) [Thực hành] Bài học 15-3. Phân tích và trực quan hóa phân bố token

68. [Cơ bản] Bài học 16-2. Thu thập dữ liệu nguồn

69. [Cơ bản] Bài học 16-3. Xây dựng pipeline làm sạch dữ liệu

70. [Cơ bản] Bài học 16-4. Xây dựng và quản lý tập dữ liệu

71. [Cơ bản] Bài học 16-5. Thiết kế và chuẩn bị Tokenizer

73. (Dự kiến) [Cơ bản] Bài học 16-7. Tinh chỉnh (Fine-tuning)

74. (Dự kiến) [Cơ bản] Bài học 16-8. Phản ánh phản hồi từ con người (RLHF) và phản hồi từ AI (RLAIF)

75. (Dự kiến) [Cơ bản] Bài học 16-9. Đánh giá hiệu suất mô hình

76. (Dự kiến) [Cơ bản] Bài học 16-10. Kiểm tra tính an toàn và thiên vị

77. (Dự kiến) [Cơ bản] Bài học 16-11. Triển khai và vận hành mô hình

78. (Dự kiến) [Cơ bản] Bài học 16-12. Cải tiến và bảo trì trong quá trình vận hành

79. (Dự kiến) [Nâng cao] Bài học 17-1. [Lập kế hoạch dự án] Ước tính quy mô và tài nguyên dự án LLM

80. (Dự kiến) [Nâng cao] Bài học 17-2. [Lập kế hoạch dự án] Tổng quan về GPU/TPU và framework học phân tán

81. (Dự kiến) [Nâng cao] Bài học 17-3. [Thu thập dữ liệu] Chiến lược thu thập dữ liệu và cân nhắc về giấy phép

82. (Dự kiến) [Nâng cao] Bài học 17-4. [Thu thập dữ liệu] Hiệu quả của bộ dữ liệu đa ngôn ngữ·đa lĩnh vực

83. (Dự kiến) [Nâng cao] Bài học 17-5. [Làm sạch dữ liệu] Kỹ thuật loại bỏ trùng lặp và lọc chất lượng

84. (Dự kiến) [Nâng cao] Bài học 17-6. [Làm sạch dữ liệu] Các trường hợp bộ dữ liệu công khai (C4, PILE, Wikipedia, v.v.)

85. (Dự kiến) [Nâng cao] Bài học 17-7. [Quản lý tập dữ liệu] Công cụ quản lý tập dữ liệu (DVC, HF Datasets)

86. (Dự kiến) [Nâng cao] Bài học 17-8. [Quản lý Dataset] Chiến lược phân tách dữ liệu huấn luyện·xác thực·kiểm tra

87. (Dự kiến) [Nâng cao] Bài học 17-9. [Tokenizer] Khái niệm cơ bản về Tokenizer (Word-level, BPE, Unigram)

88. (Dự kiến) [Nâng cao] Bài học 17-10. [Tokenizer] Ảnh hưởng của việc lựa chọn tokenizer đến hiệu quả học tập

89. (Dự kiến) [Nâng cao] Bài học 17-11. [Tiền huấn luyện] Hiểu cấu trúc bên trong Transformer (Attention, FFN)

90. (Dự kiến) [Nâng cao] Bài học 17-12. [Tiền huấn luyện] Kỹ thuật ổn định hóa học습 (LR Scheduler, Gradient Clipping, v.v.)

91. (Dự kiến) [Nâng cao] Bài học 17-13. [Tinh chỉnh] Full Fine-tuning và hạn chế

92. (Dự kiến) [Nâng cao] Bài học 17-14. [Tinh chỉnh] Parameter-efficient Tuning (LoRA, Adapter, Prefix Tuning)

93. (Dự kiến) [Nâng cao] Bài học 17-15. [RLHF/RLAIF] Cấu trúc RLHF (Reward Model, PPO)

94. (Dự kiến) [Nâng cao] Bài học 17-16. [RLHF/RLAIF] Xu hướng mới nhất và các trường hợp sử dụng RLAIF

95. (Dự kiến) [Nâng cao] Bài học 17-17. [Đánh giá] Đánh giá định lượng (Perplexity, BLEU, MMLU)

96. (Dự kiến) [Nâng cao] Bài học 17-18. [Đánh giá] Đánh giá định tính và phương pháp heuristic

97. (Dự kiến) [Nâng cao] Bài học 17-19. [An toàn] Các trường hợp thiên vị và kỹ thuật Red-teaming

98. (Dự kiến) [Nâng cao] Bài học 17-20. [Triển khai] Kiến trúc phục vụ mô hình (TensorRT, vLLM, v.v.)

99. (Dự kiến) [Nâng cao] Bài học 17-21. [Triển khai] Giám sát và quản lý chi phí vận hành

100. (Dự kiến) [Nâng cao] Bài học 17-22. [Vận hành] Chiến lược cập nhật mô hình và luồng dữ liệu

101. (Dự kiến) [Thực hành] Bài học 18-0. Tổng hợp quy trình thực hành

102. (Dự kiến) [Thực hành] Bài học 18-1. [Chuẩn bị môi trường] Kiểm tra GPU Colab và cài đặt PyTorch

103. (Dự kiến) [Thực hành] Bài học 18-2. [Chuẩn bị môi trường] Sử dụng cơ bản thư viện Hugging Face

104. (Dự kiến) [Thực hành] Bài học 18-3. [Chuẩn bị dữ liệu] Xây dựng tập dữ liệu văn bản nhỏ

105. (Dự kiến) [Thực hành] Bài học 18-4. [Chuẩn bị dữ liệu] Làm sạch và tiền xử lý dữ liệu

106. (Dự kiến) [Thực hành] Bài học 18-5. [Tokenizer] Tự triển khai tokenizer cấp độ từ

107. (Dự kiến) [Thực hành] Bài học 18-6. [Tokenizer] Triển khai và so sánh BPE tokenizer

108. (Dự kiến) [Thực hành] Bài học 18-7. [Tokenizer] Sử dụng Hugging Face Tokenizers

109. (Dự kiến) [Thực hành] Bài học 18-8. [Triển khai mô hình] Triển khai lớp embedding

110. (Dự kiến) [Thực hành] Bài học 18-9. [Triển khai mô hình] Triển khai mô-đun Self-Attention

111. (Dự kiến) [Thực hành] Bài học 18-10. [Triển khai mô hình] Triển khai Multi-Head Attention và FFN

112. (Dự kiến) [Thực hành] Bài học 18-11. [Triển khai mô hình] Xây dựng khối Transformer

113. (Dự kiến) [Thực hành] Bài học 18-12. [Huấn luyện] Định nghĩa mô hình GPT-like nhỏ

114. (Dự kiến) [Thực hành] Bài học 18-13. [Huấn luyện] Tiến hành tiền huấn luyện với Cross Entropy Loss

115. (Dự kiến) [Thực hành] Bài học 18-14. [Tinh chỉnh] Fine-tuning phân loại cảm xúc đánh giá phim

116. (Dự kiến) [Thực hành] Bài học 18-15. [Tinh chỉnh] Ví dụ áp dụng LoRA

117. (Dự kiến) [Thực hành] Bài học 18-16. [Suy luận] Triển khai Greedy / Top-k / Nucleus Sampling

118. (Dự kiến) [Thực hành] Bài học 18-17. [Suy luận] Trải nghiệm tạo câu

119. (Dự kiến) [Thực hành] Bài học 18-18. [Đánh giá] Thực hành tính toán Perplexity

120. (Dự kiến) [Thực hành] Bài học 18-19. [Đánh giá] Đánh giá chất lượng đầu ra thông qua nhập liệu trực tiếp

121. (Dự kiến) [Thực hành] Bài học 18-20. [An toàn] Xử lý hậu kỳ đầu ra – Triển khai bộ lọc từ cấm

122. (Dự kiến) [Thực hành] Bài học 18-21. [Triển khai] Triển khai chatbot đơn giản với Gradio UI

123. (Dự kiến) [Thực hành] Bài học 18-22. [Triển khai] Khởi chạy API server trên Colab

125. [Cơ bản] Bài học 19-2. Xây dựng Mô hình Nền tảng (Foundation Model)

126. [Cơ bản] Bài học 19-3. Xây dựng mô hình ban đầu (Initial Model)

127. [Cơ bản] Bài học 19-4. Xây dựng mô hình chuyên biệt cho tác vụ (Task Specific Model)

130. (Dự kiến) [Nâng cao] Bài học 20-1. Chiến lược điều chỉnh và tối ưu hóa siêu tham số

131. (Dự kiến) [Nâng cao] Bài học 20-2. Học liên tục (Continual Learning) và Mô hình thích ứng

132. (Dự kiến) [Nâng cao] Bài học 20-3. Học tăng cường sử dụng phản hồi từ trí tuệ nhân tạo (RLAIF)

133. (Dự kiến) [Thực hành] Bài học 21-1. Thiết kế hàm thưởng đơn giản (Nếm thử RLHF)

134. (Dự kiến) [Thực hành] Bài học 21-2. Tích lũy phần thưởng trong môi trường học tăng cường (ví dụ đơn giản)

135. (Dự kiến) [Thực hành] Bài học 21-3. Mini tutorial RLHF (Dựa trên mã mẫu)

137. [Cơ bản] Bài học 22-2. Giới thiệu các chỉ số đánh giá LLM

138. [Cơ bản] Bài học 22-3. Giới thiệu các chỉ số đánh giá hiệu suất giải quyết nhiệm vụ

139. [Cơ bản] Bài học 22-4. Giới thiệu về sự cần thiết của việc đánh giá sử dụng tập dữ liệu thực tế

140. (Dự kiến) [Nâng cao] Bài học 23-1. Phương pháp Đánh giá Con người (Human Evaluation)

141. (Dự kiến) [Nâng cao] Bài học 23-2. Xu hướng benchmark LLM mới nhất

142. (Dự kiến) [Nâng cao] Bài học 23-3. Áp dụng các chỉ số đánh giá trong các trường hợp ứng dụng thực tế

143. (Dự kiến) [Thực hành] Bài học 24-1. Tính toán điểm số BLEU

144. (Dự kiến) [Thực hành] Bài học 24-2. Tính toán điểm ROUGE

145. (Dự kiến) [Thực hành] Bài học 24-3. Đo lường độ phức tạp ngôn ngữ (Perplexity)

147. [Cơ bản] Bài học 25-2. Thu nhỏ mô hình

148. [Cơ bản] Bài học 25-3. Nâng cao hiệu quả tham số

149. [Cơ bản] Bài học 25-4. Phân tách và tái cấu trúc mô hình

150. [Cơ bản] Bài học 25-5. Tối ưu hóa kiến trúc

151. (Dự kiến) [Nâng cao] Bài học 26-1. Lượng tử hóa và chưng cất tri thức

152. (Dự kiến) [Nâng cao] Bài học 26-2. Tối ưu hóa dựa trên bộ gia tốc phần cứng

153. (Dự kiến) [Nâng cao] Bài học 26-3. Hiệu quả năng lượng và tính bền vững của LLM

154. (Dự kiến) [Thực hành] Bài học 27-1. Chạy DistilBERT (Trải nghiệm mô hình nhẹ)

155. (Dự kiến) [Thực hành] Bài học 27-2. Cắt tỉa tham số (PyTorch)

156. (Dự kiến) [Thực hành] Bài học 27-3. So sánh hiệu suất lượng tử hóa mô hình (Quantization)

157. (Dự kiến) [Thực hành] Bài học 27-4. Chưng cất tri thức

159. (Dự kiến) [Nâng cao] Bài học 28-2. Quy định về AI tạo sinh và các cân nhắc pháp lý

160. (Dự kiến) [Nâng cao] Bài học 28-3. Hướng dẫn phát triển trí tuệ nhân tạo có trách nhiệm

161. (Dự kiến) [Thực hành] Bài học 29-1. Workshop chẩn đoán độ lệch dữ liệu

162. (Dự kiến) [Thực hành] Bài học 29-2. Kiểm tra hành vi (phản hồi) của mô hình — Thực hành Red-teaming

163. (Dự kiến) [Thực hành] Bài học 29-3. Tạo danh sách kiểm tra AI có trách nhiệm & Mô phỏng chính sách

165. (Dự kiến) [Nâng cao] Bài học 30-2. Chiến lược triển khai LLM sử dụng API

166. (Dự kiến) [Nâng cao] Bài học 30-3. Triển khai on-premise vs. Triển khai cloud

167. (Dự kiến) [Thực hành] Bài học 31-1. Tạo dịch vụ LLM đơn giản (Flask + Hugging Face)

168. (Dự kiến) [Thực hành] Bài học 31-2. Thực hành chiến lược triển khai dựa trên API — Đo lường Rate Limit / Caching / Cost

169. (Dự kiến) [Thực hành] Bài học 31-3. Viết kế hoạch thực hành triển khai On-premise vs Cloud

170. [Nâng cao] Bài học 32-1. Mixture of Experts (MoE)

171. [Nâng cao] Bài học 32-2. Các trường hợp ứng dụng MoE và cải thiện hiệu suất

172. [Nâng cao] Bài học 32-3. Sự cần thiết và khái niệm của LLM Long-context (xử lý văn bản dài)

173. [Nâng cao] Bài học 32-4. Công nghệ triển khai và thách thức của Long-context LLM

174. (Dự kiến) [Thực hành] Bài học 33-1. Triển khai lớp PyTorch MoE đơn giản

175. (Dự kiến) [Thực hành] Bài học 33-2. Triển khai LLM Long-context đơn giản

176. (Dự kiến) [Thực hành] Bài học 33-3. Triển khai Long-context LLM và thí nghiệm tóm tắt tài liệu dài

178. (Dự kiến) [Nâng cao] Bài học 34-2. LLM thế hệ tiếp theo (LLM siêu lớn có tham số từ 5T trở lên)

179. (Dự kiến) [Nâng cao] Bài học 34-3. Nghiên cứu về Căn chỉnh Trí tuệ Nhân tạo (AI Alignment) và An toàn

180. (Dự kiến) [Nâng cao] Bài học 34-4. Prompt Engineering và Cải thiện Khả năng Thích ứng của Mô hình

181. (Dự kiến) [Thực hành] Bài học 35-1. Dự án mini tái hiện bài báo khoa học

182. (Dự kiến) [Thực hành] Bài học 35-2. Thực hành khái niệm LLM siêu lớn (5T+): Mô phỏng chi phí·hạ tầng

183. (Dự kiến) [Thực hành] Bài học 35-3. Thí nghiệm AI Alignment(căn chỉnh) — Kiểm tra tính ổn định của mô hình Reward

184. (Dự kiến) [Thực hành] Bài học 35-4. Phòng thí nghiệm Kỹ thuật Prompt — Kiểm tra khả năng thích ứng/độ bền vững

186. (Dự kiến) [Nâng cao] Bài học 36-2. Chiến lược triển khai trí tuệ nhân tạo theo quy mô doanh nghiệp

187. (Dự kiến) [Nâng cao] Bài học 36-3. Các tranh chấp pháp lý và tranh chấp đạo đức của trí tuệ nhân tạo sinh tạo

188. (Dự kiến) [Thực hành] Bài học 37-1. Workshop Trường hợp Kinh doanh: Sản xuất LLM PoC

189. (Dự kiến) [Thực hành] Bài học 37-2. Thực hành lập lộ trình triển khai theo quy mô doanh nghiệp

190. (Dự kiến) [Thực hành] Bài học 37-3. Mô phỏng các vấn đề pháp lý·đạo đức

192. (Dự kiến) [Nâng cao] Bài học 38-2. Hướng dẫn thực hành phương pháp sử dụng API và phương pháp fine-tuning thông qua việc tạo và triển khai chatbot

193. (Dự kiến) [Nâng cao] Bài học 38-3. Hướng dẫn dự án tạo dịch vụ sử dụng LangChain và OpenAI API

194. (Dự kiến) [Thực hành] Bài học 39-1. Hướng dẫn & thực hành huấn luyện trực tiếp SLM(Small Language Model)

195. (Dự kiến) [Thực hành] Bài học 39-2. Tạo chatbot·Fine-tuning·Triển khai(quy mô nhỏ)

196. (Dự kiến) [Thực hành] Bài học 39-3. Hướng dẫn dự án tạo dịch vụ sử dụng LangChain + OpenAI API (Template dự án)