Dành cho các chuyên gia bảo mật mới làm quen với bảo mật LLM, bạn sẽ tự triển khai backend thực hành lên tài khoản AWS của mình, trực tiếp chứng kiến mô hình thực tế bị khai thác và đặt nền tảng cho việc bắt đầu red teaming AI. Không cần cài đặt, chi phí thực hành không quá 1 đô la.
3 học viên đang tham gia khóa học này
Độ khó Nhập môn
Thời gian Không giới hạn
Có thể giải thích lý do AI không được kiểm tra bằng các phương thức bảo mật web truyền thống thông qua cấu trúc của 3 sự cố thực tế.
Phân biệt công việc của hacker, chuyên viên kiểm thử xâm nhập, đội đỏ và người tham gia chương trình bug bounty.
Tôi biết khi nào và nên viện dẫn tiêu chuẩn nào trong bốn tiêu chuẩn: OWASP LLM Top 10, OWASP Agentic Top 10, Luật Cơ bản về AI và ISMS-P.
Triển khai và xóa backend thực hành API Gateway + Lambda + Amazon Bedrock trên tài khoản AWS của bạn chỉ bằng một dòng lệnh.
Mở ba tệp HTML trong trình duyệt, gửi truy vấn ngôn ngữ tự nhiên đầu tiên đến mô hình thực tế và chụp lại phản hồi.
Thiết lập cảnh báo chi phí và kiểm tra mức sử dụng để duy trì chi phí thực hành dưới 1 đô la.
Trợ lý AI nội bộ đã đọc một email rồi gửi tài liệu công ty ra bên ngoài, tác nhân lập trình đã xóa cơ sở dữ liệu vận hành, và liên kết chia sẻ cuộc trò chuyện của chatbot đã bị các công cụ tìm kiếm lập chỉ mục. Đây đều là những sự việc thực tế xảy ra vào năm 2025, và cả ba vụ tai nạn đều không phải do mô hình trả lời sai.
Tuy nhiên, khi được giao nhiệm vụ kiểm tra những hệ thống như vậy, bạn thường sẽ mắc kẹt ở những điểm tương tự. Các công cụ chẩn đoán web không phù hợp với LLM, dù có rất nhiều bài nghiên cứu và tin tức nhưng bạn không biết nên bắt đầu từ đâu, còn việc chuẩn bị môi trường thực hành thì khiến bạn mệt mỏi.
Khóa học này bắt đầu từ ba điểm đó. Chúng tôi chỉ đề cập đến các khái niệm ở mức cần thiết cho việc đánh giá, còn thời gian còn lại, bạn sẽ triển khai backend thực hành lên tài khoản AWS của mình chỉ bằng một dòng lệnh, đặt câu hỏi cho mô hình thực tế và trực tiếp chứng kiến cùng một câu hỏi có lúc bị chặn, có lúc lại lọt qua.
Có thể giải thích lý do AI không được kiểm tra bằng các phương thức bảo mật web truyền thống thông qua cấu trúc của 3 sự cố thực tế.
Phân biệt công việc của hacker, chuyên viên kiểm thử xâm nhập, đội đỏ và người tham gia chương trình bug bounty.
Bạn sẽ biết khi nào và tiêu chuẩn nào trong bốn tiêu chuẩn: OWASP LLM Top 10 · OWASP Agentic Top 10 · Luật Cơ bản về AI · ISMS-P, cần được áp dụng.
Dựng backend thực hành API Gateway + Lambda + Amazon Bedrock trên tài khoản AWS của chính bạn bằng một dòng lệnh, thiết lập cảnh báo chi phí rồi xóa đi.
Gửi truy vấn ngôn ngữ tự nhiên đầu tiên đến mô hình thực tế từ trình duyệt, chụp lại phản hồi và nộp Mission 0.
Các nhà phát triển, nhân viên phụ trách bảo mật và sinh viên lần đầu nghe về bảo mật AI
Chuyên viên bảo mật đã từng chẩn đoán lỗ hổng web nhưng không biết bắt đầu chẩn đoán LLM từ đâu
Các nhà hoạch định và PM chưa hình dung được điều gì là rủi ro khi xây dựng hoặc áp dụng dịch vụ AI
Ứng viên đang chuẩn bị xin việc cần sản phẩm thực hành bảo mật AI để đưa vào hồ sơ xin việc
▶ Vị trí hình ảnh · basic1-02-path.png - Lộ trình học tập và sản phẩm đầu ra theo từng đối tượng
Những người muốn học toán học máy hoặc phương pháp huấn luyện mô hình - Không đề cập đến toán học và cũng không tạo mô hình
Dành cho những người muốn có danh sách payload tấn công hoặc kỹ thuật обход qua — loạt bài này tập trung vào căn cứ phán định và không cung cấp payload.
Những người không thể tạo tài khoản AWS - backend thực hành sẽ được triển khai trên tài khoản của bạn, và người dưới 18 tuổi cần có tài khoản của người giám hộ.
Những ai muốn hoàn thành cả phần thực hành prompt injection chỉ với một khóa học này — phần thực hành tự mình khai thác bắt đầu từ Bài 4 (Trung cấp 1).
Tổng cộng 15 bài · 89 phút. Thứ tự các phần cũng chính là thứ tự học.
Phần 1 · Giới thiệu khóa học (1 bài · 3 phút · 1 bài xem trước)
Phần 2 · Phần 1 · Bảo mật AI và đội đỏ, tại sao lại là bây giờ (7 bài · 40 phút)
Phần 3 · Phần 2 · Triển khai backend thực hành lên tài khoản AWS của tôi (7 bài · 46 phút · xem trước 3 bài)
Để thực hành, bạn cần có tài khoản AWS cá nhân và đăng ký phương thức thanh toán. Tài khoản miễn phí là đủ, và việc đăng ký thẻ không khiến bạn bị tính phí.
Tài khoản AWS chỉ có thể được tạo bởi người từ đủ 18 tuổi trở lên. Học sinh trung học cơ sở và trung học phổ thông hãy thực hành bằng tài khoản của người giám hộ.
Chi phí thực hành không vượt quá 1 đô la ngay cả khi chạy toàn bộ. Với mô hình mặc định (Amazon Nova 2 Lite), mỗi lần đặt câu hỏi tốn khoảng 2 won, và trong bài giảng sẽ hướng dẫn cả cách thiết lập cảnh báo ngân sách lẫn quy trình xóa. Chi phí có thể thay đổi tùy theo mức sử dụng.
Trên PC của bạn không cần cài đặt bất cứ thứ gì. Chỉ sử dụng trình duyệt Chrome hoặc Edge và AWS Console. Không hỗ trợ Safari.
Một số cảnh trên AWS Console trong các bài 2-3 · 2-4 · 2-6 không phải là màn hình thực tế mà là sơ đồ mô phỏng quy trình. Tên menu và thứ tự đều giống nhau.
Phần thuyết minh là giọng đọc TTS.
▶ Vị trí tư liệu trực quan · basic1-03-cost.png - Lý do chạy toàn bộ phần thực hành cũng không tốn đến 1 đô la Mỹ
Trong Phần 1 trước đó, chúng ta sẽ tìm hiểu “AI bị xâm nhập” thực sự có nghĩa là gì thông qua cấu trúc của 3 sự cố có thật; thuật ngữ red team bắt nguồn từ đâu; hacker, chuyên gia kiểm thử xâm nhập, red team và bug bounty khác nhau như thế nào; cũng như lý do bảo mật AI trở thành một lĩnh vực mới vào thời điểm hiện nay. Các tiêu chuẩn làm căn cứ đánh giá — OWASP LLM Top 10, Agentic Top 10, Luật Cơ bản về AI và bốn tiêu chuẩn ISMS-P — cũng sẽ được tổng hợp đầy đủ tại đây, vì cả bốn sẽ tiếp tục được sử dụng trong các bài giảng sau.
▶ Vị trí hình ảnh trực quan · basic1-01-stack.png - Bốn tầng từ trình duyệt đến mô hình - Một stack CloudFormation tạo ra hai tầng ở giữa
Phần 2 là môi trường thực hành. Trước tiên, hãy hình dung những cái tên xa lạ như CloudShell·Lambda·API Gateway·Bedrock qua cấu hình máy chủ on-prem, sau đó triển khai backend thực hành lên tài khoản AWS của bạn chỉ bằng một dòng lệnh. Giao diện gồm ba tệp HTML được mở bằng trình duyệt, còn mô hình là Amazon Bedrock trong tài khoản của bạn, nên môi trường vẫn được giữ lại ngay cả sau khi khóa học kết thúc và toàn bộ các bài học tiếp theo đều chạy trên đó.
Ném truy vấn ngôn ngữ tự nhiên đầu tiên để chụp lại màn hình nơi mô hình thực tế trả lời là nhiệm vụ 0, và phần thực hành kéo dài đến khi kiểm tra chi phí rồi xóa stack. Ở bài cuối, chúng tôi sẽ cho bạn xem cảnh đặt cùng một câu hỏi vào cùng một tài liệu nhưng một lần thì bị chặn, còn một lần thì thông tin bị rò rỉ. Lý do tại sao sẽ được kiểm chứng khi trực tiếp vượt qua các chốt chặn trong phần Trung cấp 1.
Khóa học gồm 15 bài, tổng thời lượng 89 phút; mỗi bài dài từ 5 đến 7 phút nên rất phù hợp để xem mỗi bài một lần trên đường đi làm hoặc tan sở. Phần 1 gồm tám bài về khái niệm, có thể nghe ở bất cứ đâu; phần 2 gồm bảy bài thực hành theo hướng dẫn khi mở AWS Console, vì vậy bạn nên dành khoảng 20 phút trước máy tính. Mỗi bài đều có nhãn nhập môn·cơ bản·nâng cao, giúp bạn chọn phần có thể bỏ qua; Mission 0 được thiết kế để chỉ cần điền vào mẫu checklist trong thư viện tài liệu là hoàn tất bài nộp.
Những điểm bị vướng trong quá trình thực hành đã được tổng hợp theo từng thông báo lỗi trong bảng giải quyết vấn đề ở tiết 2-6. Nếu gặp lỗi không có trong đó, vui lòng dán nguyên văn thông báo lỗi vào bảng câu hỏi.
▶ Vị trí hình ảnh · basic1-04-outcome.png - Ba điều bạn nắm được sau khi hoàn thành Cơ bản 1
Khóa học này là phần đầu tiên trong loạt 7 bài giảng. Ở phần Cơ bản 2, bạn sẽ tìm hiểu cách AI hoạt động ở mức mà một kẻ tấn công cần biết; ở phần Cơ bản 3, bạn sẽ vẽ mô hình mối đe dọa theo cách đội red team làm việc, rồi từ phần Trung cấp trở đi sẽ thực sự khai thác lỗ hổng. Bạn có thể chọn học đến đâu trong bảng lộ trình học tập của bài 1-1.
Không phải màn hình mô phỏng, chúng ta sử dụng mô hình thực tế trong tài khoản của bạn. Ngay từ đầu, bạn sẽ trải nghiệm tính không xác định khiến câu trả lời cho cùng một câu hỏi lại khác nhau.
Đây là hệ thống sản phẩm đầu ra được đánh số liên tục xuyên suốt toàn bộ loạt nhiệm vụ từ Mission 0 đến Mission 8.
Môi trường thực hành là một stack CloudFormation duy nhất, chỉ cần một dòng lệnh deploy.sh để triển khai và một dòng lệnh destroy.sh để xóa.
Lấy hai danh sách OWASP cùng với luật pháp và tiêu chuẩn chứng nhận trong nước làm căn cứ đánh giá.
Lĩnh vực đề cập - Nhập môn bảo mật trí tuệ nhân tạo (AI) dưới góc nhìn kiểm thử xâm nhập · an ninh mạng tấn công, cơ chế hoạt động của LLM và kiến thức cơ bản về kỹ thuật prompt, môi trường thực hành AWS
Sau khi hoàn thành khóa học, bạn sẽ có trong tay ba thứ. Một backend thực hành đã được triển khai trên tài khoản của bạn, một ảnh chụp câu hỏi đầu tiên do mô hình thực tế trả lời, và trải nghiệm tận mắt chứng kiến một hệ thống bị khai thác. Không cần cài đặt gì, nhưng bạn cần có tài khoản AWS và phương thức thanh toán; chi phí thực hành không vượt quá 1 đô la ngay cả khi chạy toàn bộ.
Red Teaming AI 1 - Nhập môn bảo mật LLM và môi trường thực hành ← Bài giảng này
Red Teaming AI 2 - Nguyên lý hoạt động và bề mặt tấn công của LLM
AI Red Team 3 - Công việc của đội Red Team và lập mô hình mối đe dọa
AI Red Team 4 - Trực tiếp phá vỡ Prompt Injection
AI Red Teaming 5 - Một thiết lập bị thiếu mở ra cuộc tấn công
AI Red Team 6 - Đột phá agent và RAG
AI Red Teaming 7 - Thiết kế kiểm soát và báo cáo Red Team
Vì sản phẩm đầu ra của nhiệm vụ trong bài giảng trước sẽ trở thành nguyên liệu cho bài giảng sau, nên các bài giảng được công bố theo thứ tự số; những bài giảng chưa phát hành sẽ được công bố lần lượt.
Khóa học này dành cho ai?
Các nhà phát triển, nhân viên phụ trách bảo mật và sinh viên lần đầu nghe về bảo mật AI
Chuyên viên bảo mật đã từng chẩn đoán lỗ hổng web nhưng không biết bắt đầu chẩn đoán LLM từ đâu
Các nhà hoạch định và PM chưa hình dung được điều gì là rủi ro khi xây dựng hoặc áp dụng dịch vụ AI
Ứng viên đang chuẩn bị xin việc cần sản phẩm thực hành bảo mật AI để đưa vào hồ sơ xin việc
Cần biết trước khi bắt đầu?
Không có. Chỉ sử dụng trình duyệt và AWS Console, không có buổi học nào yêu cầu đọc hoặc viết mã. Nếu chưa có tài khoản AWS, khóa học cũng hướng dẫn từng bước tạo tài khoản ngay trong bài học.
Xác minh sự nghiệp
Tôi là một chuyên viên thực tiễn, bắt đầu từ kiểm thử xâm nhập và xây dựng hệ thống quản lý an toàn thông tin.
Phụ trách đánh giá bảo mật hằng năm cho các nhà sản xuất ô tô hoàn chỉnh và doanh nghiệp năng lượng, bao gồm hạ tầng, web và ứng dụng.
Tôi đã đánh giá theo từng tầng và thực hiện chứng nhận ISMS-P của cùng một khách hàng qua ba lần: lần đầu, lần đánh giá sau chứng nhận và lần gia hạn.
Tôi đã tự mình thực hiện toàn bộ các biện pháp bảo vệ kỹ thuật để ứng phó.
Hiện tại, với tư cách là người phụ trách bảo vệ thông tin duy nhất trong tổ chức, tôi đang chuẩn bị đạt chứng nhận lần đầu, đồng thời triển khai quản trị an ninh AI
Tôi đang thiết kế một hệ thống. Vì đây là lĩnh vực mà các tiêu chuẩn vẫn đang được hình thành, nên bắt đầu từ việc định nghĩa các đối tượng kiểm soát
Đây là vị trí mà tôi phải trực tiếp xây dựng từ đầu.
Sở hữu các chứng chỉ Kỹ sư Bảo mật Thông tin, CPPG và đánh giá viên ISO/IEC 27001, đồng thời theo học tại Đại học Dongguk về Bảo vệ Thông tin Quốc tế.
Tôi nghiên cứu các con đường rò rỉ trong môi trường AI và đối chiếu các tiêu chuẩn chứng nhận tại Khoa An ninh Trí tuệ nhân tạo của trường cao học.
Kinh nghiệm 5 năm 9 tháng. Tên khách hàng và các lỗ hổng thực tế đã phát hiện thuộc phạm vi bảo mật nên trong các buổi giảng dạy】【。
Không đề cập trong bài giảng vì tên khách hàng và các lỗ hổng thực tế được phát hiện thuộc diện bảo mật.
Tất cả
15 bài giảng
Tài liệu khóa học:
Khám phá các khóa học khác trong cùng lĩnh vực!
![[Liên ngành nghề nghiệp AI] Chiến lược bảo mật dữ liệu doanh nghiệp trong thời đại AI tạo sinhHình thu nhỏ khóa học](https://cdn.inflearn.com/public/files/courses/344322/cover/01m24kjh48mfrb5akhnxajxyjn?f=avif&w=420)
![[Archive Marketing] Marketing Phương tiện Truyền thông Mới sử dụng AI Tạo sinhHình thu nhỏ khóa học](https://cdn.inflearn.com/public/files/courses/337637/cover/01jwfsks5w5v7z6x2z2c0jb2bw?f=avif&w=420)
![[Tổng hợp] Nhập môn video AI + Sản xuất ShortsHình thu nhỏ khóa học](https://cdn.inflearn.com/public/files/courses/343177/cover/01kx2mmgmppa8h7jdb8kx9bxye?f=avif&w=420)
