Khóa học này gồm 47 bài, kéo dài khoảng 39 giờ, hướng dẫn xây dựng deep learning từ đầu với PyTorch.
Có rất nhiều khóa học deep learning, nhưng phần lớn được chia thành hai kiểu. Một là chỉ lướt qua cách sử dụng thư viện, khiến người học không hiểu tại sao mã nguồn lại được viết như vậy; hai là bắt đầu ngay từ các công thức, khiến người học bỏ cuộc giữa chừng. Khóa học này chọn một trình tự khác. Trước tiên, bạn sẽ tạo ra kết quả, sau đó đào sâu để tìm hiểu bên trong đã xảy ra những gì.
Khóa học bắt đầu với các mô hình được huấn luyện trước. Bạn sẽ chạy thử bài toán phân loại ảnh, thực hành inpainting bằng Stable Diffusion và thậm chí tạo chú thích cho ảnh bằng BLIP. Vì có thể tạo ra sản phẩm ngay từ buổi đầu tiên, bạn sẽ có thêm động lực để học phần lý thuyết về sau.
Tiếp theo là nội dung cốt lõi của khóa học. Tensor được tìm hiểu trong suốt bảy bài học. Không chỉ có indexing và broadcasting, khóa học còn đi sâu vào cấu trúc bộ nhớ như storage và stride, quản lý tính liên tục của bộ nhớ, phép tính trên GPU cũng như việc chuyển đổi qua lại với NumPy. Rất hiếm có khóa học tiếng Hàn nào đi sâu về tensor đến mức này. Khi hiểu được phần này, bạn sẽ đọc mọi đoạn mã về sau theo một cách hoàn toàn khác.
Sau đó, khóa học đề cập đến việc tiền xử lý để chuyển dữ liệu thực tế thành tensor. Bạn sẽ lần lượt tìm hiểu các loại dữ liệu khác nhau, từ các kênh màu của ảnh, dữ liệu dạng bảng và one-hot encoding, đến chuỗi thời gian và embedding văn bản. Tiếp theo, khóa học chuyển sang nguyên lý huấn luyện: trước hết tự triển khai hàm mất mát và gradient descent bằng vi phân số, rồi kiểm tra cách Autograd tự động hóa những việc đó. Chỉ những ai từng tự mình xây dựng mới thực sự hiểu được sự tiện lợi của auto differentiation.
Nửa sau của khóa học tập trung vào cấu trúc mạng nơ-ron. Bạn sẽ xây dựng mạng nơ-ron sâu bằng nn.Module và thực hiện phân loại CIFAR-10, từ đó đối mặt với giới hạn của mạng nơ-ron fully connected và tự nhiên đi đến lý do CNN là cần thiết. Cuối cùng, khóa học chuyển sang sinh văn bản, lần lượt tìm hiểu từ mô hình bigram, embedding, mô hình sinh dựa trên MLP cho đến nguyên lý Query·Key·Value của Attention.
Nếu bạn biết sử dụng Python và muốn hiểu deep learning một cách bài bản, sau khi hoàn thành khóa học này, thứ còn lại không chỉ là những đoạn mã ví dụ, mà là khả năng nhìn ra cấu trúc của bất kỳ mô hình nào.