AIレッドチーミング6 - エージェントとRAGを突破する
エージェントのツール呼び出しとRAGの検索・ドキュメントアクセスにおける権限境界をテストします。実際のモデルと教育用の模擬ツール・ドキュメントを使用して、承認ゲートと検索権限フィルターを観察し、ミッション5・6の診断記録シートを作成します。
中級以上
Penetration Testing, AI, LLM
1주 챌린지
인원 마감
7日でAIレッドチーミング初回診断記録シートを完成させる
rmsxodxod1289
AIレッドチーミング6 - エージェントとRAGを突破する
エージェントのツール呼び出しとRAGの検索・ドキュメントアクセスにおける権限境界をテストします。実際のモデルと教育用の模擬ツール・ドキュメントを使用して、承認ゲートと検索権限フィルターを観察し、ミッション5・6の診断記録シートを作成します。
中級以上
Penetration Testing, AI, LLM
AIレッドチーミング6 - エージェントとRAGを突破する
AIレッドチーミング 5 - たった一つの設定漏れが招く攻撃
キー・アクセス範囲・呼び出し制限・実行権限・ガードレール・記録など、AIサービスの設定を点検します。他の条件を維持したまま、制御前後を比較し、出力処理まで確認して、ミッション4-2の設定点検表と診断記録を作成します。
中級以上
Penetration Testing, AWS, aws-iam
AIレッドチーミング 5 - たった一つの設定漏れが招く攻撃
AIレッドチーミング 4 - プロンプトインジェクションを直接突破する
1つの応答だけで診断結果を断定しないよう、入力条件・反復結果・エラー・ログを照合します。直接・間接的なプロンプトインジェクションを観察し、根拠を添えたミッション4の診断記録票を1件作成します。実習環境が1つと、脅威モデル書が3つ必要です。
中級以上
Penetration Testing, AWS, AI
AIレッドチーミング 4 - プロンプトインジェクションを直接突破する
AIレッドチーミング 3 - レッドチーム業務と脅威モデリング
実行前に、範囲・交戦規則・試験条件・判定根拠を定めます。AI資産と信頼境界、STRIDEシナリオを関連付け、レッドチーム計画書と脅威モデル書を作成し、反復結果から主張できる範囲を区別します。
初級
Penetration Testing, security, AI
AIレッドチーミング 3 - レッドチーム業務と脅威モデリング
AIレッドチーミング 7 - 統制設計とレッドチーム報告書
前回の講義で得た診断根拠を、組織の改善計画へとつなげます。Shadow AIのデータフローと統制適用要件を検討し、観測証拠・影響・限界・措置担当者・再テスト基準を盛り込んだ統制設計書とレッドチーム報告書を作成します。
中級以上
Penetration Testing, ISMS-P, AI
AIレッドチーミング 7 - 統制設計とレッドチーム報告書
AIレッドチーミング2 - LLMの動作原理と攻撃対象領域
トークンとコンテキストからRAG・エージェント・ガードレールまで、AIサービスの動作をセキュリティの観点から読み解きます。概念を提供されたバックエンドコードと照らし合わせ、入力・検索・ツール呼び出しで確認すべきポイントを、攻撃対象領域マップ1枚に整理します。
入門
AI, prompt engineering, LLM
AIレッドチーミング2 - LLMの動作原理と攻撃対象領域
AIレッドチーミング 1 - LLMセキュリティ入門と実習環境
AIセキュリティインシデントとレッドチームの役割を確認し、自分のAWSアカウントにLLMの実習環境を構築します。初回応答のキャプチャから利用状況の確認、リソースの整理までをミッション0のチェックリストに記録します。プロンプトインジェクションの診断演習は第4回に続きます。
入門
Penetration Testing, AWS, AI
AIレッドチーミング 1 - LLMセキュリティ入門と実習環境