inflearn logo
知識共有
inflearn logo

AIレッドチーミング 1 - LLMセキュリティ入門と実習環境

AIセキュリティインシデントとレッドチームの役割を確認し、自分のAWSアカウントにLLMの実習環境を構築します。初回応答のキャプチャから利用状況の確認、リソースの整理までをミッション0のチェックリストに記録します。プロンプトインジェクションの診断演習は第4回に続きます。

20名 が受講中です。

難易度 入門

受講期間 無制限

Penetration Testing
Penetration Testing
AWS
AWS
AI
AI
prompt engineering
prompt engineering
LLM
LLM
Penetration Testing
Penetration Testing
AWS
AWS
AI
AI
prompt engineering
prompt engineering
LLM
LLM

この講座で身につくこと

  • AIセキュリティインシデントの構造と、脆弱性診断・ペネトレーションテスト・レッドチーミングの役割を区別します。

  • OWASPと国内の法令・認証基準をAIセキュリティ点検に結び付ける基本的な文脈を説明します。

  • 提供されたデプロイ資料でAPI Gateway・Lambda・Amazon Bedrockの実習環境を準備し、最初のレスポンスを確認します。

  • 予算アラートと使用量の確認、実習リソースの整理を行い、ミッション0のチェックリストに証拠を残します。

最初の質問を送信し、ハンズオンのリソースを整理するところまで

ブラウザから送信した質問が API Gateway と Lambda を経由して Amazon Bedrock に到達する経路をたどります。提供されたデプロイ資料を自身の AWS アカウントで実行し、実際にモデルが返した最初の応答をキャプチャします。

応答が返ってきたら、使用量を確認して演習用リソースを片付けます。環境を立ち上げた記録、応答のキャプチャ、費用の確認と片付けの実施状況をミッション0のチェックリストに残すことが、最初の演習です。アカウント権限の確認とデプロイにかかる時間は、動画の再生時間とは別に見積もってください。

実習に先立ち、AIセキュリティインシデントの構造とレッドチームの役割を扱います。この環境は後の工程でも使用します。プロンプトインジェクションの成立条件を試験し、診断記録シートを作成する作業は、第4部で行います。

受講資料と実習案内

講義紹介(0-1)授業の資料ダウンロードボタンから、統合受講生資料ZIPをダウンロードしてください。最新の学習ガイド、修正実習キットと既存ミッションの書式、証拠判定の事例・解説が含まれています。関連する判定授業の補足ノートと事例も併せて活用してください。

前の講義回は、講師の声をもとに制作したAI合成ナレーションです。実習では実際のAmazon Bedrockモデルを使用しますが、ツールやドキュメントは教育用の模擬環境です。実際のメール送信やファイル削除は行いません。

AWSの利用料金は受講料とは別途発生し、モデル・リージョン・呼び出し量・ログの保存・維持リソースおよび無料利用の条件によって異なります。講義で示す費用は特定の条件に基づく推定例であり、予算アラートは自動的に利用を停止するものではありません。実習後は使用量を確認し、リソースを整理してください。

このような方には向いていない場合があります

  • 機械学習の数学やモデルの学習方法を学びたい方 - 数学は登場せず、モデルも作成しません

  • 攻撃ペイロードや回避手法の一覧を得たい方――このシリーズでは判定根拠を扱い、ペイロードは掲載していません

  • AWSアカウントを作成できない方 ― 実習用バックエンドをご自身のアカウントに構築するため、18歳未満の方は保護者のアカウントが必要です

  • この講義1本でプロンプトインジェクションの実習まで終えたい方 - 自分で突破する実習は第4講(中級1)からです

講義の流れ - 概念 → 環境構築 → 最初のクエリ → 突破される場面

全15回。セクションの順序がそのまま学習の順序です。

  • セクション 1 · 講義紹介(1編 · プレビュー 1編)

  • セクション2 · 第1部 · AIセキュリティとレッドチーム、なぜ今なのか(7編)

  • セクション3 · 第2部 · 自分のAWSアカウントに実習用バックエンドを構築する(7本 · プレビュー3本)

受講前の確認事項

  • 実習にはご自身のAWSアカウントと支払い手段、サービス・モデルへのアクセス権限が必要です。アカウントの無料利用条件と利用するサービスの料金をあらかじめご確認ください。

  • AWSアカウントは満18歳以上の方のみ作成できます。中高生は保護者のアカウントで実習してください。

  • AWSの実習費用は、モデル・リージョン・呼び出し量・ガードレール・ログ保存・維持リソースと無料利用条件によって異なります。講義で示す金額は特定の条件における推定例であり、費用の上限を保証するものではありません。予算アラートは自動的に利用を停止するものではないため、使用量を確認し、実習後はリソースを整理してください。

  • 自分のPCには何もインストールしません。ChromeまたはEdgeブラウザとAWSコンソールのみを使用します。Safariには対応していません。

  • 2-3・2-4・2-6回のAWSコンソール画面の一部は、実際の画面ではなく手順を置き換えた図解です。メニュー名と順序は同じです。

  • ナレーションは講師の声をもとに制作したAI合成音声です。

例示条件における想定実習費用

講義の費用例は、特定のモデル・リージョン・呼び出し回数を想定した推定値です。1ドル未満または無料であることを保証するものではありません。モデル呼び出し以外に、ログの保管・維持リソース・無料利用の条件も併せて確認してください。

予算アラートは自動的に利用を停止するものではありません。実習前にサービス料金と予算を確認し、実習後は使用量・ログと残っているリソースを確認して整理してください。

第1回で準備する成果物

自分のAWSアカウントにデプロイした実習用バックエンドと画面を接続した記録を残します。実際のモデルからの最初の応答と使用量、リソースの整理状況は、ミッション0のチェックリストに記録します。最後のデモでは、同じ入力に対するブロック・露出の結果を比較し、その原因を検証する実習は第4回へ続きます。

準備するものは、Chrome または Edge、ご自身の AWS アカウントと支払い手段、サービス・モデルへのアクセス権限です。AWS の利用料は受講料とは別で、モデル・リージョン・呼び出し量・ログの保管・維持するリソースや無料利用の条件によって異なります。費用例は特定条件における推定値であり、1ドル未満や無料を保証するものではありません。予算アラートは自動停止ではないため、使用量を確認し、実習後はリソースを削除してください。

講義内容の詳細

第1部 · AIセキュリティとレッドチーム、なぜ今なのか

前半の第1部では、AIが突破されるとはどういうことなのかを、実際に起きた3件のインシデントの構造から確認します。また、レッドチームという言葉の由来や、ハッカー・ペネトレーションテスター・レッドチーム・バグバウンティの違い、そしてAIセキュリティがなぜ今、新しい分野となったのかを見ていきます。判断の根拠となるOWASP LLM Top 10とAgentic Top 10、AI基本法、ISMS-Pの4つの基準もここでまとめて整理します。この4つは、後の講義でも繰り返し取り上げます。

第2部・自分のAWSアカウントに実習用バックエンドを構築する

第2部は実習環境です。CloudShell・Lambda・API Gateway・Bedrockという聞き慣れない名前をオンプレミスサーバーの構成にたとえてまず理解してから、皆さんのAWSアカウントにコマンド1行で実習用バックエンドを構築します。画面はブラウザで開くHTMLが3つで、モデルは皆さんのアカウントのAmazon Bedrockを使うため、講義が終わっても環境は残り、以降の講義すべてがこの上で動作します。

自然言語のクエリを初めて投げて実際のモデルが回答する画面をキャプチャするのがミッション0で、費用を確認してスタックを削除するところまでが実習です。最終回では、同じ文書に同じ質問を入力したのに、一度は阻止され、もう一度は漏れてしまう場面をお見せします。なぜそうなるのかは、中級1で実際に突破しながら確認します。

構成と学習方法

構成は全15回です。各回の再生時間は、現在のカリキュラムで確認してください。講義紹介と第1部の7回は概念の説明なので、どこでも受講できます。第2部の7回はAWSコンソールを開いて進める区間のため、デプロイ・権限の確認と実習に必要な時間を別途確保してください。各回には入門・基本・応用の表示が付いているので、スキップする箇所を選ぶことができます。また、ミッション0は資料室のチェックリスト様式にそのまま記入すれば、提出物が完成する構成になっています。

実習中につまずく箇所は、第2~6回の問題解決表にエラーメッセージごとに整理してあります。そこにないものは、質問掲示板にエラーの原文を貼り付けてください。

前の課程の環境と記録用紙を引き続き使用します

初めて始めるのであれば、1~3編で実習環境と基礎概念、脅威モデル書を準備した後、4編へ進んでください。4編では、1編の環境と3編のミッション3の脅威モデル書を使用します。

エージェントとRAGを扱う第6回には、第1回の環境と第4回での記録シート作成経験が必要です。第5回は第6回の必須の前提講座ではありません。基礎知識があっても、各回で必要な環境と記録シートが準備できているか確認してください。

各講座の現在の価格と実習条件は、上記のリンクからご確認いただけます。AWSの利用料金は受講料とは別途かかります。

次のような方に
おすすめです

受講対象

  • Web・クラウドセキュリティの経験をAIセキュリティへと広げようとする実務者

  • AIサービスのリスクと実習環境をゼロから学びたい開発者・セキュリティ担当者

前提知識

  • LLM・AWSは基礎から説明し、機械学習の数学や別途コードを書く課題はありません。ブラウザ・ファイル・文書編集の基本操作が必要です。実習にはご自身のAWSアカウント、支払い手段、ChromeまたはEdge、該当するサービスとモデルへのアクセス権限が必要です。

こんにちは
rmsxodxod1289です。

経歴認証済み

111

受講生

4

受講レビュー

1

回答

3.0

講座評価

8

講座

模擬ハッキングから出発し、情報セキュリティ管理体制を構築する実務者です。

完成車メーカーとエネルギー企業の年間セキュリティ診断を担当し、インフラ・Web・アプリケーションを

層ごとに診断し、同じ顧客企業のISMS-P認証を初回・事後・更新の3回にわたって

対応し、技術的保護対策の領域を単独で担当しました。

現在は、一人で担う情報保護担当者として初回認証取得の準備を進めながら、AIセキュリティガバナンス

体制を設計しています。基準がまだ形成途上にある領域であるため、統制対象の定義から

自ら構築しなければならない立場です。

情報セキュリティ技師・CPPG・ISO/IEC 27001審査員補の資格を保有しており、東国大学の国際情報保護񟿿

大学院の人工知能セキュリティ学科で、AI環境における情報漏えい経路と認証基準の照合を研究しています。

経験5年9か月。顧客企業名と実際に発見した脆弱性は秘密保持の対象であるため、講義では

取り扱いません。

もっと見る

カリキュラム

全体

15件 ∙ (1時間 29分)

講座資料:

授業資料
講座掲載日: 
最終更新日: 

受講レビュー

まだ十分な評価が集まっていない講座です。
ぜひ最初のレビューをお寄せください。

rmsxodxod1289の他の講座

知識共有者の他の講座はこちら

似ている講座

同じ分野の他の講座を見てみましょう!

新規会員登録で25%OFF

¥2,715

25%

¥3,615