inflearn logo
知識共有
inflearn logo

AIエージェントが私のアプリを操作するとき:Androidアプリセキュリティ実践編

AIエージェントがユーザーに代わってアプリを操作する時代に、自分のAndroidアプリで送金機能や認証コードが悪用されないようにする方法を、エミュレーター上で実際に演習します。

1名 が受講中です。

難易度 初級

受講期間 無制限

Android
Android
Kotlin
Kotlin
Docker
Docker
prompt engineering
prompt engineering
security training
security training
Android
Android
Kotlin
Kotlin
Docker
Docker
prompt engineering
prompt engineering
security training
security training

この講座で身につくこと

  • 自分のアプリのセンシティブな画面・ボタン・インテント・ディープリンク・通知を、エージェントや悪意のあるアプリの観点から点検する方法

  • accessibilityDataSensitive・通知公開バージョン・SMS Retrieverで認証番号を守るアプリコード

  • filterTouchesWhenObscured・setHideOverlayWindowsと「何を・どこへ・いくら」確認画面の作り方

  • 呼び出し元の確認、検証済みアプリリンク、FLAG_IMMUTABLEでアプリ間呼び出しを絞り込む方法と、自分のアプリコンポーネントのチェックリスト

  • データ表示がどこで失われるのかを把握し、ユーザーの言葉で定めた作業範囲をコードに守らせるエージェント設計

  • AppFunctionsとアプリ内エージェントに何を公開するかを決める基準

  • サーバー側での保留・上限管理、requestHash、生体認証済みのデバイスキーで送金リクエストに署名する構成

  • エージェントの行動ログとアラート、インシデント発生時に停止してロールバックする手順

たった1通のメッセージが、私の決済アプリの送金ボタンにまで届きます

スマートフォン上で画面を読み取り、アプリを代わりに操作するAIエージェントが自分のアプリをどのように悪用できるのか、そしてAndroidアプリ開発者がコードで何を防げるのかを、エミュレーターを使った実習で学びます。エージェント機能を自分のアプリに組み込もうとしている開発者や、決済・認証サーバーを運用するバックエンド開発者向けのコースも別途用意しています。

  • 各授業は説明(アニメーション)→再現(研究とインシデントの構造を演習環境で)→デモ(エミュレーターの実際の画面)の順に進みます。攻撃はすべて、自分のPC上のエミュレーターと偽アプリの中だけで行います。

  • 偽のSMS一通、レビュー一行、重ねて描いたボックス一つがエージェントを経由して送金・会話の漏洩・注文につながる場面を直接見て、make check一行で「突破 → 阻止」を判定します。

  • 9つのセクション、27レッスン、合計4時間19分です。アプリ開発者(25レッスン)・エージェント開発者(21レッスン)・バックエンド・セキュリティ(11レッスン)の3つの受講ルートから、自分の仕事に合った道を選べます。

なぜこの講義を作ったのですか?

2026年に入って携帯電話エージェントが急速に増えました。OSのエージェントは端末内の仮想画面でアプリを開き、スクリーンショットを見てタップします。オープンソースのエージェントはアクセシビリティサービスやPCのadbで携帯電話を操作します。同年に発表された研究では、画面に隠された一文だけで、こうしたエージェントにユーザーが指示していないことをさせられると示されており、同じ仕組みでアクセシビリティ権限を悪用するバンキングマルウェアアプリは、すでに実際の被害を出しています。しかし、この問題をアプリを開発する側で扱った講義は見つけにくい状況でした。この講義では、自分のアプリの画面・ボタン・インテント・ディープリンク・通知・認証コードを、エージェントと悪意あるアプリの視点から見直し、アプリコード、エージェントコード、サーバーの3か所で一層ずつ対策します。

正直にお伝えしたいことがあります。

演習環境での突破シーンは、隠された指示にそのまま従うように作られた教育用の模擬モデルで再現します。同じシーンを最新の商用モデルで実行した場合、この程度の単純な隠された指示には、たいてい騙されませんでした。ただし、より巧妙な文章や別のモデルでは通用する可能性があり、結果はモデルや日付によって異なります。そのため、この講義ではモデルが自ら拒否してくれることを期待せず、モデルの外側にあるコードで防ぐ方法を学びます。

本講座では、以下の内容を学びます


セクション (1) はじめに · スマートフォンがエージェントを手に入れた

アクセスビリティ権限を通じて、メッセージに隠された指示が決済アプリの認証番号や送金ボタンにまで届く場面から始まります。エージェントが画面を見る3つの方法(アクセシビリティツリー、仮想画面とスクリーンショット、アプリが提供する関数)と、それぞれに異なる防御手段を整理し、エミュレーター・ラボサーバー・偽アプリを立ち上げて、最初のタスクを最後まで確認します。

セクション (2) 画面がそのまま入力になる・メッセージ・通知・レビュー・隠れたアクセシビリティテキスト

誰でも送れるSMSやプッシュ通知、誰もが使うメッセンジャーのグループチャットやレビューが、エージェントにとっては命令になります。画面には表示されず、アクセシビリティの説明ラベルや、ごく小さな文字にだけ含まれる指示も再現します。データ表示がどこまで防ぎ、どこで防げなくなるのかを確認し、ユーザーの発言だけをもとに決めた作業範囲をコードに守らせる方法を学びます。

セクション (3) 認証番号とお金 · accessibilityDataSensitive、認証番号の保護

「返信して」の一言で、攻撃者が開始した送金の認証番号が渡ってしまう経路を確認します。アプリ開発者側の防御(accessibilityDataSensitive、通知に番号を含めない、SMS Retriever、FLAG_SECURE)とエージェント側の防御(機密性の高いアプリで停止、アプリの許可リスト、認証番号を隠す)をそれぞれ有効にして防ぎます。Androidのバージョンごとに追加された認証番号保護が、何を防ぎ、何を残すのかも確認します。

セクション (4) 確認ウィンドウを信じてよいのか・オーバーレイ、偽ログイン、タップジャッキング

重ねて描画されたウィンドウは、人とエージェントを異なる方法で欺きます。確認画面の上に表示される「セキュリティチェック完了」のボックスや、決済アプリの名前をまねたログイン画面を再現し、filterTouchesWhenObscured、setHideOverlayWindows、そして「何を・どこへ・いくら」を表示する確認画面によって防ぎます。

セクション(5)アプリ間呼び出し・インテント、ディープリンク、PendingIntent

他のアプリがエージェントの外部入口を呼び出したり、ディープリンク1つで送金確認画面までスキップしたりする場面を見ていきます。呼び出し元の確認、検証済みアプリリンク、「入力だけして再確認」、FLAG_IMMUTABLE、exportedの確認まで、自分のアプリのコンポーネント点検表にまとめます。


セクション(6)エージェントにアプリを開放するとき・AppFunctionsとアプリ内エージェント

画面自動化の代わりにAppFunctionsで機能を提供する際、何を提供し、何を提供しないべきか、アプリ内に相談エージェントを組み込む際にツールの範囲・確認・モデル出力の検証をどう設定するか、連絡先・会話履歴・モデルキーをどこに保存するかを扱います。

セクション (7) サーバーは何を信頼するのか・保留・上限、Play Integrity、取引署名

アプリが侵害されても、サーバーが最後の防衛線です。初めて送信する相手の保留と上限、Play IntegrityのrequestHashと画面制御アプリのリスク判定、ハードウェアキーによる証明、そして生体認証を経たデバイスキーで送金リクエストに署名する取引署名を見ていきます。

セクション (8) 他人が作ったエージェントが自分のアプリを使うとき · adbエージェント、オペレーティングシステムエージェント

PCからadbで携帯電話を操作するオープンソースエージェントには、アクセシビリティの機密表示が効かないことを、実際の画面構造ダンプで確認します。仮想画面上でスクリーンショットを使ってアプリを操作するOS・メーカー製エージェントに対して、アプリ開発者にできることを整理します。

セクション (9) リリースと運用・行動記録、インシデント対応、リリース前チェックリスト

エージェントの行動記録に何を残し、どのように監視するか、インシデント発生時に停止してロールバックする手順を確認し、アプリ開発者向け・エージェント開発者向けのリリース前チェックリスト(各12項目)で締めくくります。

次のような方に
おすすめです

受講対象

  • スマートフォン上で動作するエージェント機能を開発する開発者

  • 自分のアプリにAI相談やAppFunctionsを組み込もうとしているAndroid開発者

  • 決済・認証・メッセージ機能など、機微な画面を備えたAndroidアプリを開発する開発者

  • 決済・認証サーバーを運用し、エージェントから送られたリクエストをどう扱うか検討しているバックエンド・セキュリティ担当者

  • プロンプトインジェクションをWebやサーバーでしか見たことがなく、スマートフォンではどう違うのか実際に見てみたい方

前提知識

  • Kotlinコードが読めて、アクティビティやインテントについて聞いたことがある程度で大丈夫です。LLMやセキュリティの知識は不要です。

  • ターミナルでコマンドを実行し、出力を読めれば大丈夫です。

こんにちは
brunoleebi8302です。

経歴認証済み

IT業界が激動の時代を迎えていたY2Kの頃、サーバー開発者として第一歩を踏み出した。その後、さまざまな業種の現場で開発者とインフラエンジニアの役割を行き来しながら、技術の基礎から複雑なインフラエコシステムまで、身をもって習得してきた。数多くのシステムを構築・改善してきた経験を土台に、近年はITセキュリティおよび融合技術の領域で新たな価値を生み出している。

カリキュラム

全体

28件 ∙ (4時間 18分)

講座資料:

授業資料
講座掲載日: 
最終更新日: 

受講レビュー

まだ十分な評価が集まっていない講座です。
ぜひ最初のレビューをお寄せください。

brunoleebi8302の他の講座

知識共有者の他の講座はこちら

似ている講座

同じ分野の他の講座を見てみましょう!

期間限定セール

¥55,000

37%

¥11,138