Từ Embedding đến Transformer: Toán học của hệ thống đề xuất được hiểu qua tích vô hướng

Thông qua một bài toán duy nhất là dự đoán điểm đánh giá phim, chúng ta kết nối PCA, SVD, phân rã ma trận và attention dưới góc nhìn của tích vô hướng. Những người trước đây chỉ quen gọi thư viện sẽ có thể tự mình giải thích ý nghĩa của các con số trong embedding và nguyên lý tính toán của Transformer. Đây là hành trình thấu hiểu bằng một công thức duy nhất toàn bộ quá trình lấp đầy các ô trống trong hệ thống đề xuất.