[PyTorch] Học NLP dễ dàng và nhanh chóng

Chúng tôi sẽ giải thích những điều cơ bản về xử lý ngôn ngữ tự nhiên theo từng bước.

Tôi đã tổ chức các bài giảng tại Inflearn và xuất bản một cuốn sách có tựa đề 'Python Deep Learning PyTorch'.

Cảm ơn bạn đã quan tâm : )

(Các bài giảng của Inflearn đã được cập nhật tính đến ngày 06/10/2020. Chúng tôi sẽ tiếp tục cập nhật các bài giảng.)

http://m.yes24.com/Goods/Detail/93376077?ozsrank=10

http://mbook.interpark.com/shop/product/detail?prdNo=339742291&is1=book&is2=product

👨‍🎓 Giới thiệu bài giảng

[PyTorch] Tôi đã học được những kiến ​​thức cơ bản về học sâu thông qua khóa học học sâu dễ dàng và nhanh chóng .
Trong bài giảng này, bạn sẽ được học những kiến ​​thức cơ bản cần thiết cho xử lý ngôn ngữ tự nhiên trong một khoảng thời gian tương đối ngắn và tìm hiểu các kỹ thuật phân tích dữ liệu ngôn ngữ tự nhiên bằng công nghệ học sâu.

Nếu bạn quan tâm đến xử lý ngôn ngữ tự nhiên, bạn có thể đã nghe nói đến mô hình Transformer và BERT.
Tuy nhiên, tôi cho rằng bạn có thể không dễ dàng hiểu được nguyên lý hoạt động của mô hình Transformer và BERT.
Nguyên nhân là do thiếu kiến ​​thức cơ bản về xử lý ngôn ngữ tự nhiên .

Vì vậy, trong bài giảng này, chúng ta sẽ tìm hiểu những nội dung có thể xây dựng kiến ​​thức cơ bản về xử lý ngôn ngữ tự nhiên .

📜 Cấu trúc bài giảng

🎞 Nhúng

Chúng tôi trình bày những hạn chế của phương pháp hiện tại thể hiện ngôn ngữ tự nhiên dưới dạng biến phân loại.
Chúng tôi mô tả một phương pháp biểu đạt ngôn ngữ tự nhiên có thể khắc phục vấn đề này.
Chúng tôi sẽ trình bày nội dung cốt lõi của phương pháp luận và giải thích cách áp dụng phương pháp này trong thực tế thông qua thực hành .

🌀 Mạng nơ-ron hồi quy

Tìm hiểu về mô hình học sâu Mạng nơ-ron hồi quy (RNN), có thể phản ánh tốt các đặc điểm của ngôn ngữ tự nhiên.

Chúng ta sẽ tìm hiểu quá trình cung cấp dữ liệu cho mô hình RNN theo phương pháp toán học, đồng thời giải thích quá trình cung cấp dữ liệu cho mô hình Bộ nhớ ngắn hạn dài hạn (LSTM) và Mô hình đơn vị hồi quy có cổng (GRU) theo phương pháp toán học.

🔍 Nhiệm vụ

Có nhiều nhiệm vụ trong lĩnh vực xử lý ngôn ngữ tự nhiên.
Trong số đó, chúng ta sẽ tìm hiểu những nhiệm vụ nào mang tính đại diện nhất: Đánh dấu và Dịch máy thần kinh .

Chúng tôi trình bày cấu trúc mô hình học sâu tiêu biểu cho các phương pháp phân tích cùng với các ví dụ cụ thể cho từng nhiệm vụ.
Mô tả quá trình nạp dữ liệu theo trọng số.

🎤 Chú ý

Trình bày những hạn chế của mô hình RNN và phương pháp cải thiện những hạn chế này.
Chúng tôi giới thiệu Attention, một cơ chế mới nổi trong lĩnh vực xử lý ngôn ngữ tự nhiên .

Dịch máy thần kinh sử dụng cơ chế chú ý,
Chúng tôi sẽ giải thích cách áp dụng từng phương pháp gắn thẻ sử dụng Cơ chế chú ý.

🗓 Xu hướng

Theo quan điểm của người chia sẻ kiến ​​thức, tôi sẽ giới thiệu các lĩnh vực nghiên cứu chính hiện đang được tiến hành trong lĩnh vực xử lý ngôn ngữ tự nhiên .
Sau khi học xong khóa học này, tôi sẽ gợi ý hướng đi để học xử lý ngôn ngữ tự nhiên.

👨‍👩‍👧‍👦 Khán giả của bài giảng

• Bất kỳ ai quan tâm đến xử lý ngôn ngữ tự nhiên và có kiến ​​thức cơ bản về học sâu
• Bất kỳ ai quen thuộc với ngôn ngữ lập trình Python

🙋🏼‍♀️ Những câu hỏi dự kiến ​​liên quan đến bài giảng

H. Bạn có thể giải thích về mô hình Transformer và BERT trong bài giảng này không?
→ Bài giảng này là bài giảng cơ bản về xử lý ngôn ngữ tự nhiên. Mục tiêu của bài giảng này là chuẩn bị kiến ​​thức cơ bản cần thiết để nghiên cứu mô hình Transformer và BERT. Vì vậy, tôi sẽ giới thiệu ngắn gọn về mô hình Transformer và BERT, nhưng sẽ không đi sâu vào chi tiết.

H. Tôi cần có bao nhiêu kiến ​​thức trước khi tham gia khóa học?
→ [PyTorch] Tôi khuyên bạn nên tham gia khóa học học sâu dễ dàng và nhanh chóng . Ngoài ra, nếu bạn có kiến ​​thức cơ bản về thuật toán học sâu, bạn có thể dễ dàng tham gia khóa học.

H. Các lớp thực hành được tiến hành như thế nào?
→ Chúng tôi biên soạn code thực hành liên quan đến nội dung lý thuyết và cung cấp bài giảng. Tôi khuyên bạn nên chia sẻ mã của mình nhưng hãy xem xét từng dòng một. (Mã thực hành: [ https://github.com/Justin-A/ ]( https://github.com/Justin-A/torch_nlp_basic)torch_nlp_basic )

✔️ Bài giảng tham khảo

[PyTorch] Học Deep Learning một cách nhanh chóng và dễ dàng
Học nhanh các khái niệm và kiến ​​thức liên quan về học sâu.

👨‍💻 Giới thiệu người chia sẻ kiến ​​thức

Justin

• Chương trình Thạc sĩ Kỹ thuật Công nghiệp, Đại học Yonsei
• Nghiên cứu đang tiến hành về Khoa học dữ liệu và Học sâu