inflearn logo

Red Team AI 1 - Nhập môn bảo mật LLM và môi trường thực hành

Điểm qua các sự cố bảo mật AI và vai trò của red team, đồng thời dựng môi trường thực hành LLM trên tài khoản AWS của chính mình. Từ việc chụp lại phản hồi đầu tiên đến kiểm tra mức sử dụng và dọn dẹp tài nguyên, mọi thứ đều được ghi vào checklist Mission 0. Phần thực hành chẩn đoán prompt injection sẽ tiếp tục ở phần 4.

20 học viên đang tham gia khóa học này

Độ khó Nhập môn

Thời gian Không giới hạn

Penetration Testing
Penetration Testing
AWS
AWS
AI
AI
prompt engineering
prompt engineering
LLM
LLM
Penetration Testing
Penetration Testing
AWS
AWS
AI
AI
prompt engineering
prompt engineering
LLM
LLM

Bạn sẽ nhận được điều này sau khi học.

  • Phân biệt cấu trúc của các sự cố an ninh AI và vai trò của việc chẩn đoán lỗ hổng, kiểm thử xâm nhập, và red teaming.

  • Giải thích bối cảnh cơ bản của việc kết nối OWASP với pháp luật và các tiêu chuẩn chứng nhận trong nước để kiểm tra bảo mật AI.

  • Sử dụng tài liệu triển khai được cung cấp để chuẩn bị môi trường thực hành API Gateway·Lambda·Amazon Bedrock và xác nhận phản hồi đầu tiên.

  • Thực hiện thông báo ngân sách, kiểm tra mức sử dụng và dọn dẹp tài nguyên thực hành, đồng thời ghi lại bằng chứng dựa trên checklist Nhiệm vụ 0.

Từ lúc gửi câu hỏi đầu tiên cho đến khi dọn dẹp các tài nguyên thực hành.

Theo dõi đường đi của câu hỏi được gửi từ trình duyệt qua API Gateway và Lambda đến Amazon Bedrock. Chạy tài liệu triển khai đã cung cấp trong tài khoản AWS của bạn và chụp lại phản hồi đầu tiên do mô hình thực tế trả về.

Khi có phản hồi, hãy kiểm tra mức sử dụng và dọn dẹp các tài nguyên thực hành. Bài thực hành đầu tiên là ghi lại vào danh sách kiểm tra của Mission 0: lịch sử triển khai môi trường, ảnh chụp phản hồi, việc kiểm tra chi phí và việc đã dọn dẹp hay chưa. Vui lòng tính riêng thời gian kiểm tra quyền tài khoản và triển khai, không gộp vào thời lượng phát video.

Trước khi thực hành, chúng ta sẽ tìm hiểu cấu trúc của các sự cố bảo mật AI và vai trò của đội đỏ. Môi trường này cũng sẽ được sử dụng trong các phần sau. Việc kiểm tra các điều kiện để prompt injection có thể xảy ra và viết phiếu ghi chép chẩn đoán sẽ được thực hiện ở phần 4.

Tài liệu khóa học và hướng dẫn thực hành

Giới thiệu bài giảng (0-1) Hãy tải tệp ZIP tài liệu học viên tổng hợp tại nút tải xuống tài liệu của khóa học. Tệp bao gồm hướng dẫn học tập mới nhất, bộ công cụ thực hành hiệu chỉnh, các biểu mẫu nhiệm vụ trước đây, cùng các ví dụ và phần giải thích về phán định bằng chứng. Hãy sử dụng thêm các ghi chú bổ sung và ví dụ của các bài học phán định liên quan.

Các buổi học trước sử dụng lời thuyết minh tổng hợp bằng AI được tạo dựa trên giọng nói của giảng viên. Phần thực hành sử dụng các mô hình Amazon Bedrock thực tế, còn công cụ và tài liệu là môi trường mô phỏng phục vụ đào tạo. Không thực hiện gửi email thực tế hay xóa tệp.

Chi phí sử dụng AWS không bao gồm trong học phí và thay đổi tùy theo mô hình, khu vực, khối lượng gọi, thời gian lưu trữ nhật ký, tài nguyên duy trì và các điều kiện sử dụng miễn phí. Chi phí của khóa học là ví dụ ước tính theo các điều kiện cụ thể, và cảnh báo ngân sách không tự động chặn việc sử dụng. Sau khi thực hành, hãy kiểm tra mức sử dụng và dọn dẹp các tài nguyên.

Những người sau đây có thể không phù hợp với khóa học này

  • Dành cho những người muốn học về toán học máy học hoặc phương pháp huấn luyện mô hình - không có phần toán học và cũng không tạo mô hình.

  • Những người muốn có danh sách payload tấn công hoặc kỹ thuật bypass - loạt bài này tập trung vào căn cứ đánh giá và không cung cấp payload

  • Những người không thể tạo tài khoản AWS - backend thực hành sẽ được triển khai trên tài khoản của bạn, và người dưới 18 tuổi cần có tài khoản của người giám hộ.

  • Những người muốn hoàn thành cả phần thực hành prompt injection chỉ với một khóa học này – phần thực hành tự mình khai thác bắt đầu từ bài 4 (Trung cấp 1)

Mạch bài giảng - Khái niệm → Thiết lập môi trường → Truy vấn đầu tiên → Cảnh bị vượt qua

Tổng cộng 15 buổi. Thứ tự các phần cũng chính là thứ tự học.

  • Phần 1 · Giới thiệu khóa học (1 bài · xem trước 1 bài)

  • Phần 2 · Phần 1 · Bảo mật AI và red team, tại sao là lúc này (7 bài)

  • Phần 3 · Phần 2 · Triển khai backend thực hành lên tài khoản AWS của tôi (7 bài · 3 bài xem trước)

Những điều cần kiểm tra trước khi tham gia khóa học

  • Để thực hành, bạn cần có tài khoản AWS, phương thức thanh toán và quyền truy cập vào các dịch vụ cũng như mô hình tương ứng. Trước tiên, hãy kiểm tra điều kiện sử dụng miễn phí của tài khoản và chi phí của các dịch vụ bạn sẽ sử dụng.

  • Chỉ người từ 18 tuổi trở lên mới có thể tạo tài khoản AWS. Học sinh trung học cơ sở và trung học phổ thông hãy thực hành bằng tài khoản của phụ huynh hoặc người giám hộ.

  • Chi phí thực hành AWS thay đổi tùy theo mô hình, khu vực, số lượng gọi, guardrail, thời gian lưu trữ nhật ký, tài nguyên duy trì và các điều kiện sử dụng miễn phí. Mức tiền trong bài giảng chỉ là ví dụ ước tính theo những điều kiện cụ thể và không đảm bảo giới hạn chi phí tối đa. Cảnh báo ngân sách không tự động chặn việc sử dụng, vì vậy hãy kiểm tra mức sử dụng và dọn dẹp tài nguyên sau khi thực hành.

  • Trên PC của bạn không cần cài đặt bất cứ thứ gì. Chỉ sử dụng trình duyệt Chrome hoặc Edge và AWS Console. Không hỗ trợ Safari.

  • Một số cảnh trên AWS Console trong các bài 2-3 · 2-4 · 2-6 không phải là màn hình thực tế mà là sơ đồ mô phỏng quy trình. Tên và thứ tự menu vẫn giống nhau.

  • Giọng thuyết minh là giọng tổng hợp bằng AI được tạo dựa trên giọng nói của giảng viên.

Dự kiến chi phí thực hành theo các điều kiện ví dụ

Chi phí ví dụ trong bài giảng là ước tính dựa trên giả định về một mô hình, khu vực và số lượt gọi cụ thể. Không đảm bảo chi phí dưới 1 đô la hoặc miễn phí. Ngoài các lượt gọi mô hình, hãy kiểm tra cả thời gian lưu trữ nhật ký, tài nguyên đang được duy trì và các điều kiện sử dụng miễn phí.

Cảnh báo ngân sách không tự động chặn dịch vụ. Trước khi thực hành, hãy kiểm tra phí dịch vụ và ngân sách; sau khi thực hành, hãy kiểm tra mức sử dụng, nhật ký và các tài nguyên còn lại rồi dọn dẹp.

Các sản phẩm cần chuẩn bị trong Phần 1

Ghi lại việc kết nối giao diện với backend thực hành được triển khai trên tài khoản AWS của bạn. Ghi phản hồi đầu tiên của mô hình thực tế, mức sử dụng và tình trạng dọn dẹp tài nguyên vào danh sách kiểm tra Nhiệm vụ 0. Trong phần trình diễn cuối cùng, hãy so sánh kết quả chặn và hiển thị với cùng một đầu vào; bài thực hành kiểm tra nguyên nhân sẽ tiếp tục ở Phần 4.

Bạn cần chuẩn bị Chrome hoặc Edge, tài khoản AWS và phương thức thanh toán của riêng mình, cùng quyền truy cập dịch vụ và mô hình. Phí sử dụng AWS không bao gồm trong học phí và sẽ thay đổi tùy theo mô hình, khu vực, số lượng yêu cầu, thời gian lưu trữ nhật ký, tài nguyên duy trì và điều kiện sử dụng miễn phí. Ví dụ về chi phí chỉ là ước tính trong những điều kiện nhất định, không đảm bảo chi phí dưới 1 đô la hoặc miễn phí. Cảnh báo ngân sách không tự động chặn việc sử dụng, vì vậy hãy kiểm tra mức sử dụng và dọn dẹp tài nguyên sau khi thực hành.

Nội dung bài giảng chi tiết

Phần 1 · Bảo mật AI và Red Team: Vì sao là lúc này?

Trong phần 1 trước đó, chúng ta sẽ tìm hiểu ý nghĩa của việc AI bị xâm nhập thông qua cấu trúc của 3 sự cố thực tế; nguồn gốc của thuật ngữ red team; sự khác nhau giữa hacker, kiểm thử viên xâm nhập, red team và bug bounty; cũng như lý do bảo mật AI trở thành một lĩnh vực mới vào thời điểm này. Tại đây, chúng ta cũng sẽ tổng hợp một lượt OWASP LLM Top 10 và Agentic Top 10, Luật cơ bản về AI cùng bốn tiêu chí ISMS-P làm căn cứ đánh giá. Bốn nội dung này sẽ tiếp tục được nhắc đến trong các bài giảng sau.

Phần 2 · Triển khai backend thực hành lên tài khoản AWS của bạn

Phần 2 là môi trường thực hành. Trước tiên, hãy hình dung những cái tên xa lạ như CloudShell·Lambda·API Gateway·Bedrock thông qua cách ví chúng với cấu hình máy chủ on-prem, sau đó triển khai backend thực hành lên tài khoản AWS của bạn chỉ bằng một dòng lệnh. Giao diện gồm ba tệp HTML mở bằng trình duyệt, còn mô hình là Amazon Bedrock trong tài khoản của bạn, vì vậy môi trường vẫn được giữ lại sau khi khóa học kết thúc và toàn bộ các bài giảng sau sẽ chạy trên nền tảng này.

Ném truy vấn bằng ngôn ngữ tự nhiên đầu tiên và chụp màn hình cảnh mô hình thực tế trả lời là nhiệm vụ 0; phần thực hành bao gồm cả việc kiểm tra chi phí và xóa stack. Ở buổi cuối, chúng tôi sẽ cho bạn xem cảnh cùng một câu hỏi được đưa vào cùng một tài liệu, nhưng một lần thì bị chặn, còn một lần lại bị rò rỉ. Lý do tại sao sẽ được xác nhận trực tiếp trong phần Trung cấp 1 khi bạn tự mình vượt qua lớp bảo vệ.

Cấu trúc và phương pháp học tập

Cấu trúc gồm 15 buổi. Hãy kiểm tra thời lượng phát của từng buổi trong chương trình học hiện tại. Phần giới thiệu khóa học và bảy buổi của phần 1 là nội dung khái niệm nên có thể học ở bất cứ đâu; bảy buổi của phần 2 là phần vừa mở bảng điều khiển AWS vừa thực hành theo, vì vậy hãy dành riêng thời gian cần thiết cho việc triển khai, kiểm tra quyền và thực hành. Mỗi buổi đều có đánh dấu nhập môn, cơ bản hoặc nâng cao, giúp bạn chọn phần có thể bỏ qua; Nhiệm vụ 0 được thiết kế để chỉ cần điền đúng mẫu checklist trong thư viện tài liệu là hoàn tất bài nộp.

Các điểm vướng mắc trong quá trình thực hành đã được tổng hợp theo từng thông báo lỗi trong bảng giải quyết vấn đề của buổi 2-6; nếu gặp lỗi không có trong đó, hãy dán nguyên văn lỗi vào bảng hỏi đáp.

Tiếp tục sử dụng môi trường và phiếu ghi chép của phần trước.

Nếu mới bắt đầu, hãy chuẩn bị môi trường thực hành, các khái niệm cơ bản và tài liệu mô hình mối đe dọa trong phần 1–3, sau đó chuyển sang phần 4. Phần 4 sử dụng môi trường của phần 1 và tài liệu mô hình mối đe dọa của nhiệm vụ 3 trong phần 3.

Để học phần 6 về agent và RAG, bạn cần môi trường ở phần 1 và kinh nghiệm 작성 phiếu ghi chép ở phần 4. Phần 5 không phải là bài giảng bắt buộc học trước phần 6. Dù đã có kiến thức cơ bản, hãy kiểm tra xem môi trường và phiếu ghi chép cần thiết cho từng phần đã được chuẩn bị đầy đủ chưa.

Bạn có thể xem giá hiện tại và điều kiện thực hành của từng khóa học tại liên kết ở trên. Chi phí sử dụng AWS được tính riêng, không bao gồm trong học phí.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Các chuyên viên muốn mở rộng kinh nghiệm bảo mật web và đám mây sang bảo mật AI

  • Các nhà phát triển và nhân viên phụ trách bảo mật muốn tìm hiểu từ đầu về những rủi ro của dịch vụ AI và môi trường thực hành

Cần biết trước khi bắt đầu?

  • LLM·AWS được giải thích từ những kiến thức cơ bản, không có bài tập về toán học máy học hay yêu cầu viết mã riêng. Cần có kỹ năng sử dụng cơ bản trình duyệt, tệp và chỉnh sửa tài liệu. Để thực hành, bạn cần tài khoản AWS của mình, phương thức thanh toán, Chrome hoặc Edge, cùng quyền truy cập vào các dịch vụ và mô hình tương ứng.

Xin chào
Đây là rmsxodxod1289

Xác minh sự nghiệp

111

Học viên

4

Đánh giá

1

Trả lời

3.0

Xếp hạng

8

Các khóa học

Tôi là một chuyên viên thực tiễn, bắt đầu từ kiểm thử xâm nhập và xây dựng hệ thống quản lý an toàn thông tin.

Phụ trách đánh giá bảo mật hằng năm cho các nhà sản xuất ô tô hoàn chỉnh và doanh nghiệp năng lượng, bao gồm hạ tầng, web và ứng dụng.

Tôi đã đánh giá theo từng tầng và thực hiện chứng nhận ISMS-P của cùng một khách hàng qua ba lần: lần đầu, lần đánh giá sau chứng nhận và lần gia hạn.

Tôi đã tự mình thực hiện toàn bộ các biện pháp bảo vệ kỹ thuật để ứng phó.

Hiện tại, với tư cách là người phụ trách bảo vệ thông tin duy nhất trong tổ chức, tôi đang chuẩn bị đạt chứng nhận lần đầu, đồng thời triển khai quản trị an ninh AI

Tôi đang thiết kế một hệ thống. Vì đây là lĩnh vực mà các tiêu chuẩn vẫn đang được hình thành, nên bắt đầu từ việc định nghĩa các đối tượng kiểm soát񎟋

Đây là vị trí mà tôi phải trực tiếp xây dựng từ đầu.

Sở hữu các chứng chỉ Kỹ sư Bảo mật Thông tin, CPPG và đánh giá viên ISO/IEC 27001, đồng thời theo học tại Đại học Dongguk về Bảo vệ Thông tin Quốc tế.

Tôi nghiên cứu các con đường rò rỉ trong môi trường AI và đối chiếu các tiêu chuẩn chứng nhận tại Khoa An ninh Trí tuệ nhân tạo của trường cao học.

Kinh nghiệm 5 năm 9 tháng. Tên khách hàng và các lỗ hổng thực tế đã phát hiện thuộc phạm vi bảo mật nên trong các buổi giảng dạy】【。

Không đề cập trong bài giảng vì tên khách hàng và các lỗ hổng thực tế được phát hiện thuộc diện bảo mật.

Thêm

Chương trình giảng dạy

Tất cả

15 bài giảng ∙ (1giờ 29phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học khác của rmsxodxod1289

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Giảm 25% cho thành viên mới

437.862 ₫

25%

583.812 ₫