inflearn logo
知識共有
inflearn logo

金融AIセキュリティ(PART2. セキュリティ審査)

金融AIセキュリティ(PART1. 基本)では、AIセキュリティの概要について説明しました。本講義は、実際の模擬ハッカー(Red TEAM)を対象としたセキュリティ審査で必要となるAIチェックについて、実務担当者向けに解説するものですので、ぜひ参考にしてください。 本講義では実践的な内容を扱い、技術面について、どのように模擬ハッキングを実施すればよいかを説明します(チェックリスト付き)。 学習する際にAIを難しく感じたり、AIガイドラインがモデルを基準に作られているため審査が難しく、各企業で適用できていないケースが非常に多かったりするのではないでしょうか。また、実際にAIセキュリティガバナンスを構築するにあたり、監査時にさまざまなフィードバックを受けたこともあるかと思います。その理由は、当然ながら、社内の運用状況においてAIセキュリティに関する確かな証拠がないためです。今こそ構築に取り組むべき時です。AIセキュリティについて学び、AIセキュリティ担当者を目指してみてはいかがでしょうか。

7名 が受講中です。

難易度 中級以上

受講期間 6か月

ISMS-P
ISMS-P
CPPG
CPPG
security training
security training
Engineer information security
Engineer information security
AI
AI
ISMS-P
ISMS-P
CPPG
CPPG
security training
security training
Engineer information security
Engineer information security
AI
AI

この講座で身につくこと

  • AIセキュリティ審査チェックリスト

  • AIシステムの模擬ハッキング方法

※音声のないテキスト講義です。

現在では、企業が正式にAIセキュリティ担当者を採用しています。

AIセキュリティの勉強はどう進めればいいでしょうか〜?管理面から?技術面から?

これまでの7~8年で、各企業のAIセキュリティ審査チェックリストが数多く作られており、国家機関が公開したガイドラインもありますよね。

しかし、皆さんがそれぞれ検討される際に、モデリングやオープンソースなどをセキュリティの観点からどう捉えるべきか、既存のセキュリティ審査やセキュリティレビューのチェックリストにどのような項目を加えれば、実務者(ペネトレーションテスター)と管理者(セキュリティ担当者)それぞれの立場から、効率的かつ効果的にAIシステムのセキュリティが適切かどうかを判断できるのか、私にとっては数え切れないほど悩み、考えるのに7~8年かかりました。

とにかく、その結果を添付しますので、AIセキュリティの学習や業務の参考になれば幸いです。

※本講座には音声が含まれておりません。ご了承ください(難しい内容はありません)。

**本教育は、PART1の基本・概要を除いた本文に該当する内容です。管理面を担当される方は、技術的な内容よりも先にPART1を受講されることをおすすめします!!**

🤖🔐 生成AI時代、金融業界のセキュリティ審査はどう変わるべきか?

🎥 『金融AIセキュリティ(応用)– AIシステムのセキュリティ審査方法』オンライン講座を公開

ChatGPT、社内GPT、AI投資分析システム、AI相談サービス。

金融業界におけるAI活用は、もはや未来の話ではありません。

すでにさまざまな金融機関が生成AIを業務やサービスに導入しており、AIが顧客対応や金融上の意思決定に直接関与する環境へと急速に変化しています。

しかし、従来のWeb・モバイルシステムを中心としたセキュリティ審査だけでは、AIシステムに内在する新たな脅威を十分に検証することは困難です。

📌 プロンプトインジェクション攻撃

📌 目的外の個人情報入力および学習のリスク

📌 有害コンテンツの生成

📌 モデルの不正利用および自動化攻撃

📌 オープンソースの脆弱性の悪用

📌 サプライチェーン(Supply Chain)攻撃

📌 AIの意思決定プロセスにおける統制の欠如

金融業界は今や、単にAIを導入する段階を超え、AIシステムに特化したセキュリティ審査体制を構築すべき時代を迎えています。

今回のオンライン研修は、従来の電子金融セキュリティ審査や模擬ハッキングの経験を基に、AI環境で新たに考慮すべき点検項目とAIガバナンスの構築方法を詳しく解説する、実務中心の講座です。

🎯 なぜAIセキュリティ審査が必要なのか?

従来のセキュリティ審査は、Webの脆弱性やモバイルアプリケーションの検査、ネットワークセキュリティを中心に行われてきました。

しかし、生成AIは人の質問に応じて回答を生成し、外部APIと連携するほか、学習データやモデル構造によってまったく異なる結果を導き出すことがあります。

つまり、

✔ 既存のチェック項目だけで十分なのか?

✔ AIモデルはどのような方法で攻撃される可能性があるのか?

✔ AIが不適切な回答を生成した場合、どのように制御するのか?

✔ 金融業務に影響を及ぼすAIの意思決定は、誰が承認すべきか?

こうした課題への答えを、今回の研修で確認できます。

📚 講習の主な内容

📝 チェックリスト 1. 入力データの検証

AIシステムでは、入力値そのものが攻撃手段となる可能性があります。

そのため、従来のWeb脆弱性診断で用いていたパラメータ改ざん手法を応用し、AIの入力値検証を行う必要があります。

✔ データ型検証

✔ 許容範囲の確認

✔ 異常なリクエストを遮断する

✔ 想定外のプロンプト入力を検知する

AIシステムの特性を考慮した、新たな入力値の検証方法を紹介します。

🔒 チェックリスト 2. 目的外の個人情報入力を防止する

生成AIの利用過程で、個人情報が無分別に入力される事例が増加しています。

これを防止するため、プライバシー・バイ・デザイン(PbD)の概念を適用した管理体制について説明します。

✔ 個人情報入力遮断ポリシー

✔ 機微情報の検知機能

✔ 設計段階での個人情報の最小化

✔ AI学習データの管理方法

🚨 チェックリスト 3. 生成AIによる自動化攻撃の阻止

AIは悪意あるユーザーにとって、新たな攻撃ツールとなる可能性もあります。

研修では、次のような項目を重点的に取り上げます。

✔ プロンプトインジェクション攻撃への対応

✔ 有害コンテンツが生成されるかどうかを確認する

✔不適切な金融回答の検証

✔ エラーメッセージを通じた情報漏洩の防止

✔ AIセキュリティ監視ソリューションの活用方法

📦 チェックリスト4. オープンソースの検証

ほとんどのAIシステムは、さまざまなオープンソースライブラリを活用しています。

しかし、管理されていないオープンソースは深刻なセキュリティ脅威となる可能性があります。

✔ AI資産の識別プロセス

✔ 資産管理台帳の最新化

✔ CVE脆弱性の定期点検

✔ AIシステムと一般システムを分けて管理する

✔ アクセス権限の強化策

🏢 チェックリスト 5. サプライチェーンセキュリティの点検

AIサービスでは、外部ベンダーやSaaS環境を活用するケースが多くあります。

したがって、サプライヤーのセキュリティレベルも併せて評価する必要があります。

✔ AIサービス提供事業者のセキュリティ評価

✔ 契約書にAIセキュリティ要件を盛り込む

✔ API連携区間のセキュリティを確認

✔ 外部サービスへのアクセス制御を強化

🛡 チェックリスト6. 強化されたセキュリティ対策の適用状況を確認

AIシステムには、既存の情報システムよりも強固な統制体制が必要です。

✔ ソースコードのバージョン管理を強化する

✔ 管理者権限の統制

✔ AIモデルの変更履歴管理

✔ 緊急停止機能(Kill Switch)の適用を検討する

👨‍⚖ チェックリスト7. AIガバナンスの構築

AIが顧客の金融取引や融資の承認などに影響を及ぼす場合、人の介入が不可欠です。

研修では、金融業界に適したAIガバナンスモデルを提示します。

✔ コンプライアンス部門の承認体制を構築する

✔ 自動化された意思決定の管理

✔ 高リスク業務における人の介入手続きの運用

✔ FDSに基づく統制体制との連携

🔐 チェックリスト8. 暗号化および通信経路の保護

AIサービスが外部APIと通信する環境では、データ転送時の安全性が重要です。

✔ 暗号化の適用状況を確認

✔ 伝送区間のセキュリティを点検

✔ API認証体系の確認

👥 チェックリスト 9. 開発者および協力会社向けセキュリティ教育の強化

AIセキュリティは技術だけでは解決できません。

AI開発者や協力会社を対象とした人的セキュリティレベルの向上も不可欠です。

✔ AI特化型のセキュリティ教育を実施

✔ 協力会社のセキュリティ管理体制を構築する

✔ 開発段階のセキュリティ点検を強化

📈 チェックリスト10. 経営陣への報告体制の整備

AIセキュリティ水準を継続的に維持するには、定期的な点検と経営陣への報告体制が必要です。

✔ 年1回以上のAI脆弱性診断

✔ 情報セキュリティチームによる自主点検の実施

✔ 点検結果報告書の作成

✔ 認証審査および監督機関への対応資料として活用

👥 こんな方におすすめです

🏦 金融会社のセキュリティ審査担当者

🔍 ペネトレーションテストおよび脆弱性診断の実務担当者

🤖 生成AI導入プロジェクト担当者

📋 コンプライアンスおよび内部統制部門

👨‍💼 CISO・CPOおよび情報セキュリティ責任者

🎓 AIセキュリティガバナンスの構築を目指す、すべての金融機関の担当者

🚀 金融AI時代、セキュリティ審査も進化すべきです!

AIは金融イノベーションの中核技術ですが、適切な統制がなければ、新たなセキュリティ事故の発生源にもなり得ます。

『金融AIセキュリティ(上級)―AIシステムのセキュリティ審査方法』オンライン講義動画は、既存のセキュリティ審査体制をAI環境へと拡張し、金融業界が求める水準のAIセキュリティガバナンスを構築できるよう支援する実務講座です。

🎥 今すぐ受講して、生成AI時代に備えた金融業界のAIセキュリティ審査能力を身につけましょう!

次のような方に
おすすめです

受講対象

  • AIセキュリティ担当者

  • 模擬ハッカー

前提知識

  • ペネトレーションテストの実務経験8年以上

  • AIセキュリティ担当者としての実務経験1年以上

こんにちは
jueygraceです。

1,190

受講生

89

受講レビュー

4.3

講座評価

53

講座

8年以上にわたり個人情報の教育・諮問・コンサルティングを遂行してきた国内最高の個人情報専門家(第1金融圏のISMS-P/ISO27701/内部監査/常時評価の遂行、公共機関の保護水準評価にて6年間コンサルティング企業全社S等級、公共機関の影響評価、3年間の大企業向け個人情報教育講師の遂行、製造企業向けの中長期戦略(マスタープラン)策定、AIセキュリティ性の検討・審議など)

 

遂行経験

 

1. 家庭教師

2. 教育

3. 諮問

4. プロジェクト設計/支援

5. お問い合わせ回答

6. 業務代行

7. 手順の策定

8. 手順改善

9. 現状調査、診断、報告

10. 新技術などの導入計画の策定

11. 情報保護/個人信用情報保護マスタープランの策定(中長期戦略の策定)

12. ISMS, ISMS-P 証跡準備および審査対応

13. ISO27001, ISO27701 証跡準備および審査対応

14. 個人情報保護レベル評価の証跡準備および報告書作成

15. サイバーセキュリティ実態評価

16. 規定、指針、手順書、マニュアル、ガイドの制改定業務支援

17. 情報保護常時評価支援

18. 個人情報漏洩事故模擬訓練

19. DRP、BCP業務継続性訓練

20. DRP, BCP 業務継続計画の策定

21. PbD(Privacy by Design) 手順およびシステムメニュー企画

22. SbD(Security by Design) 手順およびセキュリティ性検討基準の策定

23. DevSecOps手順の策定および改善

24. AIシステムセキュリティ検討

25. AIシステム個人情報保護点検(カスタマイズ型)

26. 仮名加工の適切性検討など仮名加工支援

27. 仮名加工担当者の指定および業務R&Rの定義

28. 出入管理システム(スマートゲート、指紋認証、社内アプリ)個人情報保存・転送体系の点検

29. 広報、キャンペーンの企画および支援

30. 広報物、クイズ、参加型イベントの企画および制作

31. 情報保護および個人情報保護組織の改善計画の策定

32. 情報保護および個人情報保護予算の妥当性点検および改善計画の策定

33. 規定および手順書の改定に関する意見収集支援およびアンケート調査実施支援

34. 個人情報暗号化の未適用および照会理由入力の例外処理支援

35. 情報保護委員会報告資料の作成および個人情報保護実務協議会議案および諮問委員の出席支援

36. 個人情報処理システム点検支援

37. 個人情報フロー表、個人情報フロー図の作成支援

38. H/Wおよびパブリック/プライベートクラウド資産の識別および資産分類基準の策定支援

39. 資産C/S/O評価支援およびリスク評価報告書作成支援

40. 保護対策の作成および改善計画報告書の作成支援

41. BPFマルウェア点検

42. 共有フォルダ利用実態点検

43. 重要データフロー図の作成

44. 制御システムセキュリティモニタリング計画の策定

45. 受託者現況調査支援

46. 固定型映像情報処理機器の現状調査支援

47. 移動型映像情報処理機器の現況調査支援

48. 個人情報ファイル現行化調査支援

49. 個人情報影響評価対象の調査支援

50. CPO優良事例の共有

51. CEOの優良事例共有

52. オープンソース管理指針の策定

53. クラウド管理体系の樹立

54. 電子金融基盤施設脆弱性分析評価

55. 主要情報通信基盤施設脆弱性分析評価

56. セキュリティ審議

57. ファイアウォールおよびセキュリティ機器(WAF、VPNなど)のポリシー妥当性評価

58. アカウント、権限の現状調査および適切性評価

59. ログ、バックアップ現状調査および適切性評価

60. 個人情報収集、保存、提供の現状調査および適切性評価

61. 重要情報の収集、保存、提供状況の調査および適切性評価

62. PC統合セキュリティソリューション、ワクチン、DLP、DRM、資料転送、メール、SSOなど、セキュリティ脅威およびセキュリティ管理の適切性評価(ソリューションの迂回)

63. サーバアクセス制御、DBアクセス制御ポリシーの適切性評価

64. EOSおよびパッチ状況の調査および適切性評価

65. IPおよびポートスキャン

66. アプリ個人情報保護現状調査点検

67. プライバシーセンターの運営

68. 24時間365日 個人情報保護ヘルプデスク運営

69. 同意撤回システム企画

70. 個人情報照会・閲覧システム企画

71. CISO/CPO/CEO 報告資料作成

72. R&D 事業

73. 同意書点検チェックリスト

74. 処理方針点検チェックリスト

75. 児童プライバシー点検

76. 接続記録(照会、ダウンロード)誤用・乱用コンサルティング

77. CCTV非識別化処理コンサルティング

78. 擬似ハッキング

79. ウェブ脆弱性診断

80. アプリ脆弱性診断

81. CS脆弱性診断

82. 模擬訓練

83. 机上訓練

84. ネットワーク侵入

85. 内部管理計画履行実態点検

86. 個人情報管理実態点検

87. 受託者点検

88. 受託者現地点検

89. 業務委託セキュリティ点検

90. 業務委託先現地セキュリティ点検

91. 取扱者名簿の作成および管理の現行化

92. アクセス権限の検討および差別化付与基準の策定

93. 保守誓約書および個人情報誓約書の作成

94. アクセス権限管理ポリシーの策定および改定

95. 所属・傘下機関の個人情報会議、点検、支援

96. グループ会社個人情報保護方針、方策の議論

97. 個人情報保護破棄計画の策定および破棄状況(破棄方法、破棄結果)の調査

98. 個人情報保護の保存根拠の検討および分離保管状況の点検

99. 個人情報閲覧等請求手続きの策定および現状調査

100. 個人画像情報の閲覧等請求手続きの改善および現状調査(異議申し立てを含む)

101. 自動化された収集の拒否に関する事項および同意撤回要求の適用および改善支援

102. 個人情報転送要求権の適用および改善支援

103. 個人情報処理方針の点検および改善措置の支援(適切性、理解度、可読性など)

104. 個人情報収集・利用・提供・照会同意書の点検およびシステム同意状況の点検(最小収集、書式点検)

105. 同意状況調査(CI、DI収集の有無、DB保存状況の比較、デフォルトの同意チェックなどの調査)

106. 個人情報ファイルの統廃合調査および新規個人情報ファイルの調査

107. 個人情報ファイル処理根拠の適切性点検

108. パスワード作成規則の点検および再樹立

109. アクセス制御(IP、重複ログイン制限、セッション遮断)全数調査

110. 内外部転送時の暗号化状況の全数調査

111. 個人情報漏洩点検

112. ソースコード診断

113. 内部従業員の個人情報管理基準の策定(労使協議)

114. 個人情報処理方針のウェブトゥーン、ポスター、分かりやすい、子供/高齢者用、役職員用の制作およびデザイン検討

115. 委託状況の公開(QR、掲示板など)、アイコンおよびキャラクターの活用、モバイル環境での個人情報処理方針の公開sonal information processing policy in mobile environments

116. コールセンター、営業店などの電話対応時における個人情報の同意および代理人の本人確認などの適切性

117. 録音サーバーおよびSTT(Speech to Text)の適切性の検討

118. SMS/メールサーバー/通知トーク送信サーバーの送信および保存の適切性の検討

119. 業務処理の識別(各単位業務別)、セキュリティおよび個人情報保護の適切性検討

120. 生成型AI活用の訓練および広報(サイバーセキュリティ診断の日、個人情報保護の日)

121. 個人情報保護推進計画および個人情報保護施行計画の作成

122. 情報公開および公共データ提供業務支援

123. 同意書の電算化(通知トーク照会同意の改善)

124. 国外個人情報保護法令の検討

125. 新技術環境の情報保護点検および個人情報保護点検の業務支援

126. 同意書->案内書への変更業務支援

127. 破棄状況および破棄の適切性(残存により情報主体のメールなどの通知に伴う申告事例)

128. 職員のミスによるメールなどでの住民登録番号などの流出事例(予防体系の樹立)

129. 内外部の掲示板などへの個人情報アップロード遮断手順の樹立および適用

130. 目的外個人情報の利用提供、または個人情報の提携時における安全措置要請方式の諮問および安全措置回答結果の検討

131. 受託者再契約支援(契約書の変更)

132. SNSなどの簡易ログイン改編のメリット・デメリット比較および変更支援(SNS簡易ログインの脆弱性)

133. 住民登録証などの本人確認手段または携帯電話本人確認の脆弱性点検(事故事例多数)

134. 職務分掌変更に関する助言

135. 内部管理計画の社内教育

136. 褒賞およびインセンティブ計画の策定

137. PET(Privacy Enhancing Tech)技術導入支援および合成データ教育・アドバイザリー

138. 新技術環境(クラウド、5G、生成AI、AIシステム、ドローン)などにおける個人情報保護のアドバイザリー

139. 個人情報安全措置強化計画の導出

140. 内部管理計画の分析評価

141. 法的準拠性評価

142. e-Privacy Plus 認証準備および審査対応

143. APEC CBPR 認証準備および審査対応

144. CSAP認証準備および審査対応

145. ESG情報セキュリティおよび個人情報保護活動の公開

146. 研究機関機関評価の準備および対応

147. 中央行政機関評価の準備および対応

148. ニュースプレスリリースの作成およびキャッチコピー制作

149. ゼロトラスト成熟度評価

150. 受託者管理改善計画の策定

151. CVE点検

152. 受託者個人情報処理フローおよび提供台帳の管理

153. 個人信用情報マスキング現状調査点検

154. 無線LAN利用実態点検

155. パブリック/プライベートクラウド環境のセキュリティ管理体系の樹立および高度化

156. 個人事業主受託者の点検

もっと見る
講座掲載日: 
最終更新日: 

受講レビュー

まだ十分な評価が集まっていない講座です。
ぜひ最初のレビューをお寄せください。

jueygraceの他の講座

知識共有者の他の講座はこちら

似ている講座

同じ分野の他の講座を見てみましょう!

新規会員登録で25%OFF

¥5,296

25%

¥7,066