aboutexo046263

Từ Multi Head Attention đến mô hình Original Transformer, BERT, mô hình dịch thuật MarianMT dựa trên Encoder-Decoder, cho đến Vision Transformer, bạn sẽ học hiểu sâu sắc về Transformer thông qua việc tự tay triển khai code.

dooleyz3525

Học Transformer thông qua việc triển khai

이론과 실습 한 번에

이론 실습 모두

transformer

바닥부터구현

입문

초급

중급이상

Deep Learning(DL)

파이토치

PyTorch

encoder-decoder

bert

Giới thiệu khóa học và thiết lập môi trường thực hành

Kiến thức cơ bản cho Transformer - Hiểu về nền tảng NLP và RNN

Tổng quan về Transformer và triển khai Multi Head Self Attention (Cơ chế chú ý bản thân đa đầu)

Triển khai Transformer Encoder

Triển khai Transformer Decoder

Xử lý Hugging Face Dataset

Xử lý Hugging Face Tokenizer và DataCollator

Triển khai và huấn luyện mô hình BERT cùng với Inference

Triển khai mô hình dịch thuật Encoder-Decoder MarianMT

Triển khai huấn luyện và Inference mô hình MarianMT

Triển khai Vision Transformer(ViT)