Các khái niệm nâng cao cho học sâu

Các khái niệm nâng cao về học sâu

"Tôi đã đọc báo cáo của SOTA, vậy bây giờ tôi phải làm gì?"

"Bạn đã thử Tensorflow chưa? Ngay cả cô con gái 16 tuổi của tôi cũng có thể xây dựng mô hình học máy bằng Tensorflow."

"Anh muốn tôi nghe một bài thuyết trình tại hội nghị quốc tế à? Làm sao anh có thể làm được điều đó?"

Sự khác biệt chính là “khả năng theo dõi nghiên cứu học sâu”.

Bất kể nghiên cứu học sâu tiến triển nhanh đến đâu, nghiên cứu mới nhất vẫn dựa trên các vấn đề đã được xác định trước đó. Nếu bạn hiểu rõ những vấn đề này theo từng chủ đề, bạn có thể nắm bắt ngay được giá trị và ý nghĩa của nghiên cứu mới nhất. Do đó, thông qua bài giảng này, tôi muốn truyền đạt một cách trực quan những gì là cốt lõi của tiến bộ đột phá gần đây trong học sâu và những thách thức mà ngành/học viện học sâu đang phải đối mặt.

Cấu trúc chương trình giảng dạy của khóa học

Học biểu diễn

• Bối cảnh của sự xuất hiện của học tập biểu diễn

• Các yếu tố để phát triển hiệu quả các kỹ thuật học tập

• Hiểu các khái niệm trừu tượng và khó như Khả năng chuyển giao và Tính đồng nhất

Mô hình sinh sản

• Các giai đoạn phát triển của mô hình sinh sản và quá trình phát triển của diễn ngôn

• Bối cảnh của sự xuất hiện của Mô hình ngôn ngữ lớn

Kiến thức trong các mô hình sâu

• Sự phân biệt giữa Khả năng diễn giải và Kiến thức, hai tiêu chí vẫn tiếp tục được yêu cầu đối với LLM

• Mối quan hệ giữa kiến ​​thức và trí nhớ

Học tập đối nghịch

• Đặc điểm của gradient đối nghịch

• Gradient, Biểu diễn, Mô hình Tương tác đối nghịch giữa mỗi phần tử

Người tạo ra khóa học này: Ji Seung-hyun

• Chúng tôi đã có nhiều trải nghiệm hội thảo nhằm truyền đạt các khái niệm trực quan và chính xác, với mục đích chia sẻ kiến ​​thức thông qua các hoạt động như hoạt động viện nghiên cứu giả.

• Ông có nhiều kinh nghiệm nghiên cứu và thực tiễn, bao gồm vai trò là Ủy ban chương trình hội thảo SIGUL 2024, người đánh giá khẩn cấp ACL 2023, người đánh giá được mời EMNLP 2023 và lịch sử xuất bản trên Tạp chí của Hiệp hội Khoa học Thông tin Hàn Quốc.

• Để biết thông tin chi tiết hơn, vui lòng tham khảo sơ yếu lý lịch .