AI Red Teaming 7 - Thiết kế kiểm soát và báo cáo Red Team

Tài liệu khóa học và hướng dẫn thực hành

Giới thiệu khóa học (0-1): Hãy tải ZIP tài liệu học viên tổng hợp từ nút tải tài liệu của buổi học. Tài liệu bao gồm hướng dẫn học tập mới nhất, bộ công cụ thực hành hiệu đính, các biểu mẫu nhiệm vụ trước đây, cùng các ví dụ và phần giải thích về việc đánh giá bằng chứng. Ngoài ra, hãy sử dụng cả ghi chú bổ sung và các ví dụ của những buổi học đánh giá liên quan.

Phần học trước là phần thuyết minh tổng hợp bằng AI được tạo dựa trên giọng nói của giảng viên. Phần thực hành sử dụng các mô hình Amazon Bedrock thực tế, còn công cụ và tài liệu là môi trường mô phỏng phục vụ đào tạo. Không thực hiện việc gửi email thực tế hay xóa tệp.

Chi phí sử dụng AWS không bao gồm trong học phí và thay đổi tùy theo mô hình, khu vực, số lượng lệnh gọi, thời gian lưu trữ nhật ký, tài nguyên duy trì và các điều kiện sử dụng miễn phí. Chi phí của khóa học chỉ là ví dụ ước tính theo các điều kiện cụ thể; cảnh báo ngân sách không tự động chặn việc sử dụng. Sau khi thực hành, hãy kiểm tra mức sử dụng và dọn dẹp tài nguyên.

Tại sao lại là khóa học này?

Đến đây, bạn hẳn đã tạo ra sáu tài liệu: kế hoạch, mô hình mối đe dọa, ba phiếu ghi chép chẩn đoán và một bảng kiểm tra cấu hình. Tuy nhiên, nếu đưa nguyên chúng ra thì sẽ chẳng có chuyện gì xảy ra.

Vì điều người nhận báo cáo hỏi không phải là 「có bao nhiêu lỗ hổng」, mà là 「cần sửa gì trước và căn cứ cho việc đó là gì」.

Khóa học này thu hẹp khoảng cách đó. Bạn sẽ kiểm kê các Shadow AI đã hiện diện trong công ty và đưa vào sổ đăng ký tài sản, hợp nhất các danh sách kiểm soát thành một, đối chiếu với các tiêu chí chứng nhận ISMS-P và các điều khoản của Luật Cơ bản về AI, đồng thời hoàn thiện báo cáo red team để ban lãnh đạo, bộ phận nghiệp vụ và kiểm toán đều có thể đọc hiểu.

Những điều bạn có thể làm sau khi hoàn thành khóa học này

• Tìm các công cụ AI đã được đưa vào sử dụng trong công ty, ghi chúng vào sổ đăng ký tài sản và thiết kế lộ trình chuyển sang các phương án thay thế đã được phê duyệt thay vì chặn chúng.

• Gắn số tiêu chí chứng nhận ISMS-P và điều khoản của Luật Cơ bản về AI cho từng biện pháp kiểm soát, hoàn thiện hai bảng ánh xạ tích hợp.

• Thiết lập tiêu chí chỉ đặt mục tiêu vào những biện pháp kiểm soát có thể báo cáo là “đã thực hiện”, đồng thời phân chia và ghi rõ đơn vị phụ trách hành động theo từng phòng ban (Nhiệm vụ 7)

• Lấy ảnh hưởng và tỷ lệ quan sát làm điểm xuất phát, đồng thời xem xét phạm vi phơi nhiễm, mức độ chắc chắn của bằng chứng và điều kiện thực hiện biện pháp để giải thích thứ tự ưu tiên.

• Phân định ba nhóm độc giả — ban lãnh đạo, người thực hiện và kiểm toán — mỗi nhóm sẽ hỏi gì và đọc gì, để cùng một báo cáo được đọc theo ba cách khác nhau.

• Viết sáu trang báo cáo có thể đưa ra phán định mà không cần nêu quy trình tái hiện và payload (Nhiệm vụ 8)

Khuyến nghị dành cho những người như thế này

• Đã hoàn thành đến phần nâng cao và cầm trên tay nhiều phiếu ghi chép, nhưng lại bối rối không biết làm thế nào để gộp chúng thành một báo cáo hoàn chỉnh.

• Cán bộ phụ trách bảo mật thông tin · bảo vệ thông tin cá nhân cần quyết định cho phép sử dụng các công cụ AI nội bộ đến mức nào.

• Nhân viên thực vụ chứng nhận phải đối chiếu kết quả kiểm tra với các tiêu chí chứng nhận ISMS-P hoặc điều khoản của Luật Cơ bản về AI để đệ trình.

• Nhân viên bảo mật từng nhận được câu hỏi “Vậy rốt cuộc phải làm gì?” sau khi đăng báo cáo.

• Học viên cao học · người đang chuẩn bị xin việc muốn đưa bản hoàn chỉnh của tài liệu thiết kế kiểm soát và báo cáo red team vào portfolio.

Khóa học này có thể không phù hợp với những người sau đây

• Những người muốn thực hiện thêm các cuộc tấn công trong môi trường thực hành mới - khóa học này không có thao tác trên bảng điều khiển và sử dụng hai tài liệu.

• Dành cho những người đang tìm khóa học chuẩn bị đánh giá chứng nhận ISMS-P – bảng ánh xạ là tài liệu thể hiện sự tương ứng giữa các biện pháp kiểm soát và tiêu chí chứng nhận, không phải hồ sơ nộp khi đánh giá.

• Dành cho những người không có sản phẩm đầu ra của nhiệm vụ trong bài giảng trước - không có tài liệu để hoàn thành Nhiệm vụ 7 và 8

• Những người muốn tìm hiểu toàn diện về pháp luật - Luật Cơ bản về AI chỉ đề cập đến các điều khoản cần thiết như Điều 31, Điều 34 và Điều 36.

Mạch bài giảng - Sổ đăng ký Shadow AI → Tích hợp danh sách kiểm soát → Lập bản đồ quy chuẩn → Báo cáo → Thi lại · Báo cáo vi phạm

Tổng cộng 17 bài học. Thứ tự các phần chính là thứ tự học.

• Phần 1 · Giới thiệu khóa học (1 bài · 1 bài xem trước)

• Mục 2 · Shadow AI - Đưa AI chưa được phê duyệt vào sổ đăng ký (4 bài · 1 bài xem trước)

• Phần 3 · Thiết kế kiểm soát - Gắn với ISMS-P và Luật Cơ bản về AI (7 bài · 1 bài xem trước)

• Mục 4 · Báo cáo red team - một báo cáo dành cho ba độc giả (5 phần · xem trước 1 phần)

Những điều cần kiểm tra trước khi học

• Bạn cần sản phẩm đầu ra của nhiệm vụ trong sáu bài giảng trước. Nếu còn thiếu, hãy quay lại các tiết bài tập tương ứng trong Cơ bản 3, Trung cấp và Nâng cao để bổ sung rồi quay lại.

• Bài giảng này sử dụng các căn cứ từ nhiệm vụ trước, nên có thể tiến hành bài tập tài liệu mà không cần gọi mô hình mới. Vui lòng kiểm tra riêng chi phí duy trì và sử dụng các tài nguyên AWS hiện có.

• Tôi không cài đặt bất cứ thứ gì trên PC của mình. Chỉ cần một trình chỉnh sửa tài liệu là được.

• Các yêu cầu về pháp luật và tiêu chuẩn chứng nhận được giải thích dựa trên ngày 기준 của khóa học. Hãy đọc cùng các yêu cầu áp dụng và ngoại lệ của video đã hiệu đính và tài liệu thiết kế kiểm soát, đồng thời đối chiếu với văn bản chính thức mới nhất và hình thức sử dụng dịch vụ trước khi áp dụng vào công việc thực tế.

• Lời thuyết minh là giọng nói tổng hợp bằng AI được tạo dựa trên giọng của giảng viên.

Chi tiết nội dung bài giảng

Chương 1 · Đưa Shadow AI vào sổ đăng ký

Phần bắt đầu lại đến từ một nơi hơi khác. Những gì chúng ta chẩn đoán là hệ thống do chính mình xây dựng, nhưng trong nội bộ đã có sẵn các công cụ AI chưa từng được bất kỳ ai phê duyệt. Ở chương 1, chúng ta sẽ kiểm kê chúng. Chúng ta tìm hiểu chúng xâm nhập qua những con đường nào, đưa vào sổ đăng ký tài sản, xem vì sao cách ngăn chặn tuyệt đối lại thất bại, rồi thiết kế lộ trình chuyển sang các giải pháp thay thế đã được phê duyệt. Có hai điểm dữ liệu đi ra ngoài: egress và connector; về phía con người, chúng ta kiểm soát bằng các quy tắc nhập liệu và đào tạo. Đến đây là tầng cuối cùng của danh mục kiểm soát.

Chương 2 · Thiết kế kiểm soát – Gắn với ISMS-P và Luật Cơ bản về AI

Chương 2 là đỉnh cao của khóa học này. Chúng ta hợp nhất tầng prompt và đầu ra được xây dựng ở Cấp trung 1, tầng cấu hình của Cấp trung 2, tầng tác tử và tìm kiếm của Cấp nâng cao, cùng tầng Shadow AI của Chương 1 thành một danh mục duy nhất, rồi gắn với mỗi biện pháp kiểm soát số hiệu tiêu chí chứng nhận ISMS-P và các điều khoản của Luật Cơ bản về AI. Hai bảng ánh xạ tích hợp sẽ được trình bày tại đây.

Trước hết, hãy xác nhận đối tượng áp dụng và các yêu cầu của điều khoản tương ứng, sau đó đối chiếu việc thiết kế quyền hạn và các cổng phê duyệt với hoạt động quản lý, giám sát con người quy định tại khoản 1, mục 4 Điều 34, đồng thời đối chiếu nhật ký thực thi với việc lưu trữ tài liệu quy định tại mục 5 cùng khoản. Việc kiểm tra nhật ký truy cập được liên kết với ISMS-P 2.9.5. Cũng sẽ có những trường hợp không có hạng mục nào áp dụng trực tiếp; khi đó, chúng ta sẽ bổ sung bằng các chuẩn mực mềm và các tiêu chuẩn chứng nhận được tăng cường.

Tiêu chí để xác định mục tiêu kiểm soát cũng được thiết lập từ đây. Đó là nguyên tắc chỉ lấy những điều có thể báo cáo là 「đã thực hiện」 làm mục tiêu; nếu không thể xác nhận bằng nhật ký, hồ sơ và cấu hình thì không được xem là mục tiêu. Lý do phân chia chủ thể thực hiện biện pháp theo từng bộ phận cũng tương tự. Quyền hạn thuộc quản lý tài khoản, cổng kiểm soát thuộc chính sách vận hành, bộ lọc thuộc phát triển; nếu ghi tất cả thành một khối thì khuyến nghị sẽ không đến được nơi nào. Cuối Chương 2, chúng ta nộp tài liệu thiết kế kiểm soát. Đây là Nhiệm vụ 7.

Chương 3 · Báo cáo đội đỏ

Chương 3 là báo cáo. Cùng với mức độ ảnh hưởng và tỷ lệ quan sát được, báo cáo xem xét phạm vi phơi nhiễm, bằng chứng và điều kiện xử lý để xác định mức độ ưu tiên, đồng thời vạch rõ những gì không đưa vào và những gì sẽ ghi thay thế. Không đưa nguyên văn đầu vào có thể tái hiện và quy trình có thể làm theo, mà ghi rõ bằng con đường nào ranh giới đã bị vượt qua và vị trí của nhật ký. Không hạ mức độ ưu tiên chỉ vì con số 1/3; ảnh hưởng và bằng chứng của hành vi vi phạm đã được xác nhận dù chỉ trong một lượt cũng được xem xét riêng. Có ba nhóm độc giả.

Ban lãnh đạo đặt câu hỏi về mức độ ưu tiên và đọc khối tóm tắt; bộ phận thực thi đặt câu hỏi về cách khắc phục và đọc phần phán định cùng tái hiện; kiểm toán đặt câu hỏi về căn cứ và khả năng truy xuất, rồi đọc bảng ánh xạ trong phụ lục. Cấu trúc khiến cùng một báo cáo được đọc ba lần là mục lục gồm sáu phần. Trang bìa và phạm vi, tóm tắt, danh sách phán định, tóm tắt tái hiện, khuyến nghị và ánh xạ, phụ lục. Hoàn thành phần này là Nhiệm vụ 8 và cũng là sản phẩm đầu ra cuối cùng của chuỗi.

Câu chuyện kết thúc - kiểm thử lại và báo cáo

Buổi cuối là câu chuyện khép lại. Chúng ta sẽ ghi nhận mức 0/3 của “kiểm soát ON” là chưa quan sát được trong điều kiện đó, đồng thời tổng hợp quy trình xác nhận hoạt động kiểm soát thực tế, chức năng bình thường, tiêu chí kết thúc đã thống nhất và rủi ro còn lại; nguyên tắc không công khai quy trình tái hiện; cũng như quy trình chuyển tiếp đến kênh báo cáo của KISA khi phát hiện lỗ hổng ở nơi không thuộc hệ thống của chúng ta. Lý do học về tấn công là để tạo ra cơ sở ngăn chặn chúng. Việc cơ sở đó được lưu lại trong hai tài liệu chính là phần kết của loạt bài này.

Cấu trúc và phương pháp học tập

Khóa học gồm 17 buổi, thời lượng có thể xem trong chương trình hiện tại. Vì không có môi trường thực hành mới nên hoàn toàn không có thao tác trên console; thay vào đó, bạn cần dành thời gian để soạn thảo tài liệu. Hãy dành riêng thời gian cho Nhiệm vụ 7 và Nhiệm vụ 8 để sắp xếp lại các ghi chép trước đó, kiểm tra căn cứ và soạn thảo tài liệu. Nếu vừa nghe vừa cầm theo các phiếu ghi chép của những bài trước, bạn sẽ thấy ở mỗi buổi, mục đó được chuyển sang đâu.

Đặc điểm của bài giảng

• Gộp danh sách các biện pháp kiểm soát của sáu bài giảng thành một, rồi gắn vào các số hiệu ISMS-P và các điều khoản của Luật Cơ bản về AI.

• Xây dựng tiêu chí chỉ đặt mục tiêu vào những biện pháp kiểm soát có thể báo cáo là “đã thực hiện”.

• Phân loại chủ thể thực hiện thành quản lý tài khoản · chính sách vận hành · phát triển để xác định vị trí đưa các khuyến nghị vào.

• Phân tách ba nhóm độc giả—ban lãnh đạo, nhân sự thực thi và kiểm toán—trong cùng một báo cáo.

• Không đưa quy trình tái hiện và payload vào, chỉ ghi căn cứ phán định.

• Còn lại hai sản phẩm cuối cùng của loạt bài: tài liệu thiết kế biện pháp kiểm soát và báo cáo red team.

• Lĩnh vực được đề cập - thiết kế kiểm soát bảo mật AI theo góc nhìn kiểm thử xâm nhập mô phỏng · an ninh mạng tấn công, báo cáo red team LLM, lập bản đồ tiêu chí chứng nhận ISMS-P

Sau khi hoàn thành khóa học

Sau khi hoàn thành khóa học, bạn sẽ có một bản thiết kế biện pháp kiểm soát và một báo cáo red team gồm sáu phần. Mỗi biện pháp kiểm soát đều ghi rõ mục tiêu, chủ thể thực hiện, số căn cứ và phương pháp xác nhận; bạn cũng sẽ quen với tiêu chí chỉ đặt mục tiêu cho những việc có thể báo cáo là 「đã thực hiện」. Đây là sản phẩm đầu ra cuối cùng của series.

Bài 7 của loạt bài “Tự mình đột phá hệ thống AI Red Teaming”

• Red Teaming AI 1 - Nhập môn bảo mật LLM và môi trường thực hành

• Red Teaming AI 2 - Nguyên lý hoạt động của LLM và bề mặt tấn công

• Red Team AI 3 - Công việc của Red Team và mô hình hóa mối đe dọa

• Red Team AI 4 - Trực tiếp vượt qua Prompt Injection

• AI Red Teaming 5 - Một cài đặt bị bỏ sót mở ra cuộc tấn công

• AI Red Team 6 - Đột phá Agent và RAG

• AI Red Teaming 7 - Thiết kế kiểm soát và báo cáo Red Team ← Bài giảng này

Vì sản phẩm đầu ra của nhiệm vụ trong bài giảng trước sẽ trở thành nguyên liệu cho bài giảng sau, các bài giảng được công bố theo thứ tự số và những bài giảng chưa phát hành sẽ lần lượt được công bố.