inflearn logo

Thực hành bảo mật thực chiến dựa trên AI: Từ dò tìm lỗ hổng đến bẻ khóa LLM

Khi AI nhanh chóng len lỏi vào đời sống hàng ngày và toàn bộ các ngành công nghiệp, các kỹ thuật tấn công nhắm vào chúng cũng đang đồng thời tiến hóa. Khóa học này là một chương trình tập trung vào thực hành, giúp người học hiểu rõ các mối đe dọa bảo mật mới nhất xoay quanh AI tạo sinh và LLM, tự động hóa các tác vụ bảo mật bằng cách tận dụng AI, đồng thời trải nghiệm thực tế từ các cuộc tấn công bẻ khóa (jailbreak) LLM cho đến các phương pháp phòng thủ.

10 học viên đang tham gia khóa học này

Độ khó Trung cấp trở lên

Thời gian Không giới hạn

prompt engineering
prompt engineering
LLM
LLM
security training
security training
AI Agent
AI Agent
prompt engineering
prompt engineering
LLM
LLM
security training
security training
AI Agent
AI Agent

Bạn sẽ nhận được điều này sau khi học.

  • Có thể tự động phát hiện các lỗ hổng web bằng AI.

  • Có thể tự động hóa Recon & Google Dorking bằng AI Agent.

  • Có thể hiểu được các kỹ thuật tấn công jailbreak LLM và chiến lược phòng thủ.

  • Có thể phân tích các mối đe dọa bảo mật AI tạo sinh từ góc độ thực tiễn.

Bảo mật thực chiến học cùng AI: Từ dò tìm lỗ hổng đến Jailbreak LLM

Khi AI tạo sinh và LLM đang được áp dụng nhanh chóng trong toàn bộ các ngành công nghiệp, trọng tâm của các mối đe dọa bảo mật hiện cũng đang chuyển dịch sang chính hệ thống AI. Các kỹ thuật tấn công như Prompt Injection, rò rỉ thông tin nhạy cảm, lộ System Prompt và bẻ khóa LLM (Jailbreak) không còn là lý thuyết nữa mà đã trở thành vấn đề bảo mật thực tế.

Khóa học này không chỉ dừng lại ở việc giải thích các khái niệm đơn thuần, mà là một khóa đào tạo bảo mật tập trung vào thực hành nhằm hiểu rõ các mối đe dọa bảo mật LLM, thiết kế chiến lược tấn công và phòng thủ bằng kỹ thuật Prompt Engineering, và tự động hóa các tác vụ bảo mật bằng cách sử dụng AI Agent.

Học viên sẽ được trực tiếp trải nghiệm toàn bộ quy trình bảo mật thực tế sử dụng AI, từ phát hiện lỗ hổng web, Reconnaissance, tự động hóa Google Dorking, cho đến các chiến lược tấn công và phòng thủ bẻ khóa (jailbreak) LLM.

Bạn sẽ được học những nội dung này

Mối đe dọa bảo mật LLM & Kỹ thuật Prompt (Prompt Engineering)

  • Học hỏi thông qua các ví dụ thực tế về cách AI tạo sinh và LLM bị lợi dụng như thế nào.

  • Hiểu một cách có hệ thống về các mối đe dọa bảo mật LLM điển hình như
    tấn công chèn mã nhắc (Prompt Injection), rò rỉ thông tin nhạy cảm và lộ hệ thống mã nhắc (System Prompt).

  • Học cách thiết kế các câu lệnh tấn công và câu lệnh phòng thủ bằng cách sử dụng kỹ thuật Prompt Engineering.

  • Học tập khái niệm về bẻ khóa (Jailbreak) LLM cùng các chiến lược tấn công và phòng thủ.


Thực hành tự động hóa bảo mật dựa trên AI Agent

  • Tổng hợp các khái niệm cơ bản về lỗ hổng bảo mật web.

  • Học cách sử dụng AI Agent để tự động phát hiện các lỗ hổng web.

  • Thực hành tự động hóa Google Dorking và Reconnaissance (trinh sát) bằng AI Agent.

Lưu ý trước khi học tập

Tài liệu học tập và lưu ý

  • Tài liệu bài giảng phục vụ cho việc thực hành sẽ được cung cấp.

  • Nghiêm cấm mọi hành vi phân phối và chia sẻ trái phép tài liệu bài giảng cũng như tất cả video và văn bản.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Dành cho những ai quan tâm đến các trường hợp đe dọa bảo mật của AI tạo sinh và LLM.

  • Những người quan tâm đến việc phát hiện lỗ hổng web bằng AI.

  • Những ai muốn tự động hóa công việc bảo mật bằng AI Agent.

  • Những ai muốn thực hành tự động hóa Google Dorking và Recon

  • Dành cho những ai muốn tìm hiểu về tấn công bẻ khóa và phòng thủ LLM

  • Những ai muốn trải nghiệm cả Security for AI và AI for Security

Cần biết trước khi bắt đầu?

  • Sẽ rất tốt nếu bạn biết các khái niệm cơ bản về bảo mật web.

  • Nếu hiểu rõ cú pháp cơ bản của Python, việc thực hành sẽ dễ dàng hơn.

  • Sẽ rất hữu ích nếu bạn có kinh nghiệm sử dụng AI tạo sinh (ChatGPT, Claude, v.v.).

Xin chào
Đây là SecurityGround

87

Học viên

6

Đánh giá

1

Trả lời

4.7

Xếp hạng

10

Các khóa học

SecurityGround là thương hiệu đào tạo bảo mật của NSHC.

Chương trình giảng dạy

Tất cả

28 bài giảng ∙ (7giờ 38phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học khác của SecurityGround

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

11.231.245 ₫