AIレッドチーミング 7 - 統制設計とレッドチーム報告書

受講資料と実習案内

講義紹介(0-1) 授業の資料ダウンロードボタンから、統合受講生資料ZIPをダウンロードしてください。最新の学習ガイド、校正実習キットと既存のミッション書式、証拠判定の事例・解説が含まれています。関連する判定授業の補足ノートと事例も併せて活用してください。

前回の授業は、講師の声をもとに作成したAI合成ナレーションです。実習では実際のAmazon Bedrockモデルを使用し、ツール・ドキュメントは教育用の模擬環境です。実際のメール送信やファイル削除は行いません。

AWSの利用料金は受講料とは別途発生し、モデル・リージョン・呼び出し量・ログの保存・維持リソースと無料利用条件によって異なります。講義で示す費用は特定の条件に基づく推定例であり、予算アラートは自動停止ではありません。実習後は使用量を確認し、リソースを整理してください。

なぜこの講義なのか

ここまで来る中で、文書を6つ作成したはずです。計画書と脅威モデル書、診断記録3部、設定チェックリストです。しかし、それをそのまま差し出しても何も起こりません。

報告書を受け取った人が尋ねるのは、「いくつ突破されたか」ではなく、「何を先に直し、その根拠は何か」だからです。

この講義はそのギャップを埋めます。社内にすでに入り込んでいるShadow AIを数え上げて台帳に登録し、統制リストを一つにまとめてISMS-P認証基準とAI基本法の条文に紐づけ、経営陣・実務担当者・監査担当者がそれぞれ読めるレッドチーム報告書を完成させます。

この講義を終えるとできること

• 社内にすでに導入されているAIツールを見つけて資産台帳に登録し、禁止するのではなく、承認済みの代替手段へ移行する経路を設計します

• 各統制にISMS-P認証基準番号とAI基本法の条文を紐づけ、統合マッピング表2枚を完成させます

• 「実施した」と報告できる統制のみを目標とする基準を定め、対応主体を部署ごとに分けて記載します（ミッション 7）

• 影響・観測率を出発点として、露出範囲・証拠の確実性・対応条件を併せて検討し、優先順位を説明します

• 経営陣・実務担当者・監査という3人の読者がそれぞれ何を尋ね、何を読むのかを分け、同じ報告書を3回読ませます

• 再現手順とペイロードを載せなくても判定できる6ページの報告書を書きます（ミッション 8）

このような方におすすめします

• 上級まで終えて複数枚の記録用紙を手にしたものの、それを一つの報告書にまとめる方法が分からず途方に暮れている診断員

• 社内AIツールをどこまで許可するか決めなければならない情報セキュリティ・個人情報保護担当者

• 点検結果をISMS-P認証基準やAI基本法の条文に照らして提出しなければならない認証実務担当者

• レポートを提出したところ、「それで何をすればいいのか」と質問されたことのあるセキュリティ担当者

• ポートフォリオに統制設計書とレッドチーム報告書の完成版を載せたい大学院生・就職活動中の方

このような方には向いていないかもしれません

• 新しい実習環境でさらに攻撃を試してみたい方――この講義にはコンソール操作はなく、2つの文書を作成します。

• ISMS-P認証審査の準備講座を探している方 ― マッピング表は管理策と認証基準の対応を示す資料であり、審査提出物ではありません

• 前の講義のミッション成果物がない方 - ミッション7と8を埋める材料がありません

• 法令全般を学ぼうとする方へ ― AI基本法は第31条・第34条・第36条など、必要な条文のみを扱います

講義の流れ - Shadow AI台帳 → 管理リストの統合 → 規範マッピング → 報告書 → 再試験・申告

全17回。セクションの順序がそのまま学習順序です。

• セクション1 · 講義紹介（1本・プレビュー1本）

• セクション 2 · Shadow AI - 承認されていないAIを台帳に登録する（4編 · プレビュー1編）

• セクション 3 · 統制設計 - ISMS-PとAI基本法に組み込む（7編 · プレビュー 1編）

• セクション 4 · レッドチーム報告書 - 3人の読者のための1本（全5編 · プレビュー1編）

受講前の確認事項

• 前6講義のミッション成果物が必要です。不足しているものがあれば、基礎3と中級・上級の該当ワークシート講義に戻って記入してきてください。

• この講義では前のミッションの根拠を使用するため、新たなモデル呼び出しなしで文書課題を進められます。既存のAWSリソースの維持・使用コストは別途ご確認ください。

• 私のPCには何もインストールしません。文書編集ソフトが1つあれば十分です。

• 法令・認証基準は、授業の基準日をもとに説明します。校正済みの動画・統制設計書の適用要件と例外を併せて読み、実際の業務に適用する前に、最新の公式原文とサービスの利用形態を照合してください。

• ナレーションは講師の声をもとに作成したAI合成音声です。

講義内容の詳細

第1章 · シャドーAIを台帳に載せる

始まりは少し別のところからです。私たちが診断したのは私たちが作ったシステムでしたが、社内には誰にも承認されていないAIツールがすでに入り込んでいます。第1章では、それを数え上げます。どの経路から入ってくるのかを突き止めて資産台帳に登録し、無条件にブロックする方法がなぜ失敗するのかを確認し、承認済みの代替手段へ移行する経路を設計します。データが外部へ出ていく箇所はイグレスとコネクターの2か所で、人の側は入力ルールと教育で受け止めます。ここまでが統制リストの最後の層です。

第2章・統制設計 ― ISMS-PとAI基本法に組み込む

第2章がこの講義の頂点です。中級1で構築したプロンプトと出力の層、中級2の設定の層、上級のエージェントと検索の層、そして第1章のShadow AIの層を1つの一覧に統合し、統制ごとにISMS-P認証基準番号とAI基本法の条文を紐づけます。統合マッピング表が2つ、ここで登場します。

当該条項の適用対象と要件を先に確認したうえで、権限設計・承認ゲートを第34条第1項第4号の人による管理・監督に、実行記録を同項第5号の文書保管に照らし合わせます。アクセス記録の点検はISMS-P 2.9.5と関連付けます。正面から該当する項目がない箇所も出てきますが、その場合はソフトローと強化認証基準で補います。

統制目標を定める基準もここで設定します。「実施した」と報告できるものだけを目標とするという基準であり、ログと記録と設定で確認できなければ目標ではありません。措置の主体を部門ごとに分ける理由も同じです。権限はアカウント管理、ゲートは運用ポリシー、フィルターは開発の担当であるため、一つにまとめて記載すると、勧告文がどこにも届きません。2章の最後に統制設計書を提出します。ミッション7です。

第3章 · レッドチーム報告書

第3章は報告書です。影響・観測率と併せて、露出範囲・証拠・対応の条件を検討して優先順位を定め、何を載せず、何を代わりに記載するかの線引きをします。再現可能な入力原文とそのまま実行できる手順書は載せず、どの経路で境界を越えたのかとログの場所を記載します。1/3という数字だけで優先順位を下げることはせず、たとえ1回でも確認された違反について、その影響と証拠を個別に検討します。読者は3者です。

経営陣は優先順位を尋ねて要約ブロックを読み、実務担当者はどのように修正するのかを尋ねて判定と再現を読み、監査は根拠と追跡可能性を尋ねて付録のマッピング表を読みます。同じ報告書が3回読まれるようにする構成が、6ページ構成の目次です。表紙と範囲、要約、判定一覧、再現概要、推奨事項とマッピング、付録です。これを埋めればミッション8であり、シリーズ最後の成果物です。

締めくくりの話 - 再試験と報告

最終回は締めくくりの話です。統制ONの0/3を当該条件が未観測であると記録し、実際の統制動作・正常な機能・合意した終了基準・残存リスクを確認する手順、再現手順を公開しないという原則、そして自分たちのシステムではない場所で脆弱性を発見した場合にKISAの申告窓口へ引き渡す手順まで整理します。攻撃を学んだ理由は、防ぐための根拠を作るためです。その根拠を2枚の文書として残すことが、このシリーズの終わりです。

構成と学習方法

構成は全17回で、再生時間は現在のカリキュラムで確認できます。新しい実習環境はないため、コンソール操作は一度も行わず、代わりに文書を作成する時間が必要です。ミッション7とミッション8では、これまでの記録を整理し、根拠を確認しながら文書を作成する時間を別途確保してください。前の講義の記録シートを手元に置いて受講すると、各回でその欄がどこへ移っていくのかが分かります。

講義の特徴

• 6つの講義の統制リストを1つにまとめ、ISMS-P番号とAI基本法の条文にひも付けます

• 「実施した」と報告できる統制だけを目標とする基準を設定します

• 対応主体をアカウント管理・運用ポリシー・開発に分け、勧告文の行き先を定めます

• 経営陣・実務担当者・監査という3人の読者を、1つの報告書内で分けます

• 再現手順とペイロードは掲載せず、判定の根拠だけを記載します

• シリーズの最後の成果物2点、統制設計書とレッドチーム報告書が残ります

• 扱う分野 - ペネトレーションテスト・オフェンシブセキュリティの観点からの人工知能（AI）セキュリティ統制設計、LLMレッドチーム報告書、ISMS-P認証基準へのマッピング

受講を終えると

受講を終えると、統制設計書1枚と、6章構成のレッドチーム報告書1本が手元に残ります。各統制には目標・措置の実施主体・根拠番号・確認方法が記載され、「実施した」と報告できるものだけを目標とする基準が身につきます。シリーズの最後の成果物です。

シリーズ「自分で突破してみるAIレッドチーミング」第7講義

• AIレッドチーミング 1 - LLMセキュリティ入門と実習環境

• AIレッドチーミング 2 - LLMの動作原理と攻撃対象領域

• AIレッドチーミング 3 - レッドチームの業務と脅威モデリング

• AIレッドチーミング 4 - プロンプトインジェクションを直接突破する

• AIレッドチーミング 5 - たった1つの抜けた設定が開く攻撃傍路

• AIレッドチーミング6 - エージェントとRAGを突破する

• AIレッドチーミング 7 - 制御設計とレッドチーム報告書 ← この講義

前の講義のミッション成果物が次の講義の材料となる構成のため、番号順に公開され、未公開の講義は順次公開されます。