강의

멘토링

로드맵

금융 AI 보안(PART2. 보안성심의)

금융 AI 보안(PART1. 기본)에서 AI보안에 대한 개요를 설명드렸고, 실질적인 모의해커(Red TEAM) 대상 보안성심의 시 필요한 AI 점검에 대한 실무자 교육이니 참고바랍니다. 해당 강의가 실질적인 내용을 담고 있으며, 기술적 부분에 대해 어떻게 모의해킹을 수행하면 될지 설명하는 강의입니다.(체크리스트 포함) 공부하실때 AI가 어려우시거나 AI가이드라인이 모델링 기준으로 되어 있어 심의가 어려워 각 기업에서 적용이 안되어 있는 기업이 너무나도 많고 실제 AI보안 거버넌스 수립에 대한 각종 피드백을 감사시 받았을 것으로 예상하고 있습니다. 그 이유는 당연히 내부 운영현황에 AI보안에 대한 확실한 증거가 없기 때문이죠. 이제는 수립을 해야할 때입니다. AI보안에 공부하시고 AI보안 담당자의 길로 가시면 좋을 듯합니다.

1명 이 수강하고 있어요.

난이도 중급이상

수강기한 6개월

실습 중심
실습 중심
AI 활용법
AI 활용법
자격증
자격증
시험
시험
AI 코딩
AI 코딩

수강 후 이런걸 얻을 수 있어요

  • AI 보안성심의 체크리스트

  • AI시스템 모의해킹 방법

이제는 공식적으로 기업들이 AI 보안담당자를 채용하고 있습니다.

AI보안 공부 어떻게 해야할까요~? 관리적으로? 기술적으로?

현재까지 정말많은 7~8년간 각 기업의 AI보안성심의 체크리스트 들이 있고, 국가기관에서 배포한 가이드라인도 있죠.

하지만 각자 검토해보셨을때 모델링이나 오픈소스 등 보안에서 어떻게 바라봐야할지 기존 보안성심의 및 보안성 검토 체크리스트에 어떤부분을 넣어야 실무자(모의해커) 입장에서 관리자(보안담당자) 입장에서 효율적이고 효과적인 AI시스템에 대한 보안 적절성을 따질 수 있을지 수많은 고민이 저에게는 7~8년의 시간이 걸렸네요.

암튼, 그 결과를 첨부하니 AI보안 공부와 업무에 참고가 되었음 합니다.

*본 교육은 음성을 포함하지 않습니다. 양해바랍니다(어려운 내용은 없습니다)

**본 교육은 PART1인 기본_개요는 제외한 본문에 해당하는 내용으로 관리적 부분을 담당하시는 담당자 분께서는 기술적인 해당 부분보다 우선 PART1을 들으시는 것을 추천드립니다!!

🤖🔐 생성형 AI 시대, 금융권 보안성심의는 어떻게 달라져야 할까?

🎥 『금융 AI 보안(심화) – AI시스템 보안성심의 방법』 온라인 교육 공개

ChatGPT, 사내GPT, AI 투자분석 시스템, AI 상담 서비스.

금융권의 AI 활용은 더 이상 미래의 이야기가 아닙니다.

이미 다양한 금융기관이 생성형 AI를 업무와 서비스에 도입하고 있으며, AI가 직접 고객 응대와 금융 의사결정에 관여하는 환경으로 빠르게 변화하고 있습니다.

하지만 기존의 웹·모바일 시스템 중심 보안성심의만으로는 AI 시스템이 내재하고 있는 새로운 위협을 충분히 검증하기 어렵습니다.

📌 프롬프트 인젝션 공격

📌 목적 외 개인정보 입력 및 학습 위험

📌 유해 콘텐츠 생성

📌 모델 오남용 및 자동화 공격

📌 오픈소스 취약점 악용

📌 공급망(Supply Chain) 공격

📌 AI 의사결정 과정의 통제 부재

금융권은 이제 단순히 AI를 도입하는 수준을 넘어 AI 시스템에 특화된 보안성심의 체계를 구축해야 하는 시대를 맞이하고 있습니다.

이번 온라인 교육은 기존 전자금융 보안성심의와 모의해킹 경험을 기반으로, AI 환경에서 새롭게 고려해야 할 점검 항목과 AI 거버넌스 구축 방안을 심도 있게 설명하는 실무 중심 과정입니다.

🎯 왜 AI 보안성심의가 필요한가?

기존 보안성심의는 웹 취약점과 모바일 애플리케이션 점검, 네트워크 보안 중심으로 수행되어 왔습니다.

그러나 생성형 AI는 사람의 질문에 따라 응답을 생성하고, 외부 API와 연계하며, 학습 데이터와 모델 구조에 따라 전혀 다른 결과를 도출할 수 있습니다.

즉,

✔ 기존 점검 항목만으로 충분한가?

✔ AI 모델은 어떤 방식으로 공격받을 수 있는가?

✔ AI가 부적절한 답변을 생성할 경우 어떻게 통제할 것인가?

✔ 금융 업무에 영향을 미치는 AI 의사결정은 누가 승인해야 하는가?

이러한 고민에 대한 답을 이번 교육에서 확인할 수 있습니다.

📚 교육 주요 내용

📝 체크리스트 1. 입력 데이터 검증

AI 시스템은 입력값 자체가 공격 수단이 될 수 있습니다.

따라서 기존 웹 취약점 진단에서 수행하던 파라미터 변조 기법을 응용하여 AI 입력값 검증 절차를 수행해야 합니다.

✔ 데이터 타입 검증

✔ 허용 범위 확인

✔ 비정상 요청 차단

✔ 예상하지 못한 프롬프트 입력 탐지

AI 시스템 특성을 고려한 새로운 입력값 검증 방법을 소개합니다.

🔒 체크리스트 2. 목적 외 개인정보 입력 방지

생성형 AI 사용 과정에서 개인정보가 무분별하게 입력되는 사례가 증가하고 있습니다.

이를 예방하기 위해 개인정보 보호 중심 설계(PbD) 개념을 적용한 통제 체계를 설명합니다.

✔ 개인정보 입력 차단 정책

✔ 민감정보 탐지 기능

✔ 설계 단계 개인정보 최소화

✔ AI 학습 데이터 관리 방안

🚨 체크리스트 3. 생성형 AI 자동화 공격 차단

AI는 악성 사용자에게 새로운 공격 도구가 될 수도 있습니다.

교육에서는 다음과 같은 항목을 중점적으로 다룹니다.

✔ 프롬프트 인젝션 공격 대응

✔ 유해 콘텐츠 생성 여부 점검

✔ 부적절한 금융 답변 검증

✔ 오류 메시지를 통한 정보 노출 방지

✔ AI 보안 모니터링 솔루션 활용 방안

📦 체크리스트 4. 오픈소스 검증

대부분의 AI 시스템은 다양한 오픈소스 라이브러리를 활용합니다.

하지만 관리되지 않는 오픈소스는 심각한 보안 위협이 될 수 있습니다.

✔ AI 자산 식별 프로세스

✔ 자산관리대장 현행화

✔ CVE 취약점 정기 점검

✔ AI 시스템과 일반 시스템 분리 관리

✔ 접근권한 강화 방안

🏢 체크리스트 5. 공급망 보안 점검

AI 서비스는 외부 벤더와 SaaS 환경을 활용하는 경우가 많습니다.

따라서 공급업체의 보안 수준도 함께 평가해야 합니다.

✔ AI 서비스 제공업체 보안평가

✔ 계약서 내 AI 보안 요구사항 반영

✔ API 연계 구간 보안성 검토

✔ 외부 서비스 접근통제 강화

🛡 체크리스트 6. 강화된 보안통제 적용 여부 점검

AI 시스템은 기존 정보시스템보다 더욱 강력한 통제 체계를 필요로 합니다.

✔ 소스코드 형상관리 강화

✔ 관리자 권한 통제

✔ AI 모델 변경 이력 관리

✔ 비상 차단 기능(Kill Switch) 적용 검토

👨‍⚖ 체크리스트 7. AI 거버넌스 구축

AI가 고객의 금융거래와 대출 승인 등에 영향을 미치는 경우 사람의 개입이 필수적입니다.

교육에서는 금융권에 적합한 AI 거버넌스 모델을 제시합니다.

✔ 컴플라이언스 부서 승인 체계 구축

✔ 자동화 의사결정 관리

✔ 고위험 업무 사람 개입 절차 운영

✔ FDS 기반 통제 체계와의 연계

🔐 체크리스트 8. 암호화 및 전송구간 보호

AI 서비스가 외부 API와 통신하는 환경에서는 데이터 전송 과정의 안전성이 중요합니다.

✔ 암호화 적용 여부 확인

✔ 전송구간 보안성 점검

✔ API 인증 체계 검토

👥 체크리스트 9. 개발자 및 협력사 보안교육 강화

AI 보안은 기술만으로 해결되지 않습니다.

AI 개발자와 협력사를 대상으로 한 인적 보안 수준 향상도 필수적입니다.

✔ AI 특화 보안교육 운영

✔ 협력사 보안관리 체계 구축

✔ 개발 단계 보안 점검 강화

📈 체크리스트 10. 경영진 보고 체계 마련

AI 보안 수준을 지속적으로 유지하기 위해서는 정기적인 점검과 경영진 보고 체계가 필요합니다.

✔ 연 1회 이상 AI 취약점 점검

✔ 정보보안팀 자체점검 수행

✔ 점검 결과 보고서 작성

✔ 인증심사 및 감독기관 대응 자료 활용

👥 이런 분들에게 추천합니다

🏦 금융회사 보안성심의 담당자

🔍 모의해킹 및 취약점 진단 실무자

🤖 생성형 AI 도입 프로젝트 담당자

📋 컴플라이언스 및 내부통제 부서

👨‍💼 CISO·CPO 및 정보보호 책임자

🎓 AI 보안 거버넌스를 구축하려는 모든 금융기관 담당자

🚀 금융 AI 시대, 보안성심의도 진화해야 합니다!

AI는 금융 혁신의 핵심 기술이지만, 적절한 통제가 없다면 새로운 보안 사고의 시작점이 될 수도 있습니다.

『금융 AI 보안(심화) – AI시스템 보안성심의 방법』 온라인 교육영상은 기존 보안성심의 체계를 AI 환경으로 확장하고, 금융권이 요구하는 수준의 AI 보안 거버넌스를 구축할 수 있도록 돕는 실무 과정입니다.

🎥 지금 바로 수강하시고, 생성형 AI 시대에 대비한 금융권 AI 보안성심의 역량을 확보해 보세요!

이런 분들께
추천드려요

학습 대상은
누구일까요?

  • AI 보안담당자

  • 모의해커

선수 지식,
필요할까요?

  • 모의해킹 경력 8년 이상

  • AI 보안담당자 경력 1년 이상

안녕하세요
양승호 정보보안입니다.

302

수강생

27

수강평

4.2

강의 평점

44

강의

8년이상 개인정보 교육/자문/컨설팅을 수행한 국내 최고 개인정보 전문가(1금융 ISMS-P/ISO27701/내부감사/상시평가 수행, 공공기관 보호수준평가 6년간 컨설팅기업 전부S등급, 공공기관 영향평가, 3년간 대기업 대상 개인정보 교육강사 수행, 제조기업 대상 중장기 전략(마스터플랜) 수립, AI보안성 검토/심의 등)

 

수행경험

 

1. 과외

2. 교육

3. 자문

4. 프로젝트 설계/지원

5. 문의답변

6. 업무 대행

7. 절차 마련

8. 절차

9. 현황 조사, 진단, 보고

10. 신기술 등 도입 계획 수립

11. 정보보호/인신용정보보호 마스터플랜 수립(중장기 전략 수립)

12. ISMS, ISMS-P 증적 준비 및 심사 대응

13. ISO27001, ISO27701 증적 준비 및 심사 대응

14. 인정보 보호수준 평가 증적 준비 및 보고서 작성

15. 사이버보안 실태평가

16. 규정, 지침, 절차서, 매뉴얼, 가이드 제정 업무지원

17. 정보보호 상시평가 지원

18. 인정보 유출사고 모의훈련

19. DRP, BCP 업무연속성 훈련

20. DRP, BCP 업무연속성 계획 수립

21. PbD(Privacy by Design) 절차 및 시스템 메뉴 기획

22. SbD(Security by Design) 절차 및 보안성 검토 기준 수립

23. DevSecOps 절차 수립 및

24. AI시스템 보안성 검토

25. AI시스템 인정보보호 점검(맞춤형)

26. 가명처리 적정성 검토 등 가명처리 지원

27. 가명처리 담당자 지정 및 업무R&R 정의

28. 출입통제시스템(스마트게이트,지문인증,사내앱) 인정보 저장 전송 체계 점검

29. 홍보, 캠페인 기획 및 지원

30. 홍보물, 퀴즈, 참여형 이벤트 기획 및 제작

31. 정보보호 및 인정보보호 조직 선계획 수립

32. 정보보호 및 인정보보호 예산 적정성 점검 및 선계획 수립

33. 규정 및 절차서 정 의견수렴 지원 및 설문조사 시행 지원

34. 인정보 암호화 미적용 및 조사유 입력 예외처리 지원

35. 정보보호위원 보고자료 제작 및 인정보보호 실무협의 및 자문위원 참석 지원

36. 인정보처리시스템 점검 지원

37. 인정보 흐름표, 인정보 흐름도 작성 지원

38. H/W 및 퍼블릭/프라이빗 클라우드 자산식별 및 자산분류 기준수립 지원

39. 자산 C/S/O평가 지원 및 위험평가 보고서 작성 지원

40. 보호대책 작성 및 선계획 보고서 작성 지원

41. BPF 악성코드 점검

42. 공유폴더 이용실태 점검

43. 중요데이터 흐름도 작성

44. 제어시스템 보안모니터링 계획 수립

45. 수탁자 현황 조사 지원

46. 고정형 영상정보처리기기 현황 조사 지원

47. 이동형 영상정보처리기기 현황 조사 지원

48. 인정보파일 현행화 조사 지원

49. 인정보 영향평가 대상 조사 지원

50. CPO 우수사례 공유

51. CEO 우수사례 공유

52. 오픈소스 관리지침 수립

53. 클라우드 관리체계 수립

54. 전자금융기반시설 취약점 분석평가

55. 주요정보통신기반시설 취약점 분석평가

56. 보안섬심의

57. 방화벽 및 보안장비(WAF,VPN 등) 정책 적절성 평가

58. 계정, 권한 현황 조사 및 적절성 평가

59. 로그, 백업 현황 조사 및 적절성 평가

60. 인정보 수집, 저장, 제공 현황 조사 및 적절성 평가

61. 중요정보 수집, 저장, 제공 현황 조사 및 적절성 평가

62. PC통합 보안솔루션, 백신, DLP, DRM, 자료전송, 메일, SSO 등 보안위협 및 보안관리 적절성 평가(솔루션 우)

63. 서버접근통제, DB접근통제 정책 적절성 평가

64. EOS 및 패치 현황 조사 및 적절성 평가

65. IP 및 포트스캔

66. 앱 인정보보호 현황 조사 점검

67. 프라이버시 센터 운영

68. 24/365일 인정보보호 헬프데스크 운영

69. 동의철 시스템 기획

70. 인정보 조,열람 시스템 기획

71. CISO/CPO/CEO 보고자료 제작

72. R&D 사업

73. 동의서 점검 체크리스트

74. 처리방침 점검 체크리스트

75. 아동 프라이버시 점검

76. 접속기록(조,다운로드) 오남용 컨설팅

77. CCTV 비식별처리 컨설팅

78. 모의해킹

79. 웹취약점 진단

80. 앱취약점 진단

81. CS취약점 진단

82. 모의훈련

83. 도상훈련

84. 전산망 침투

85. 내부관리계획 이행실태 점검

86. 인정보 관리실태 점검

87. 수탁자 점검

88. 수탁자 현장점검

89. 용역 보안점검

90. 용역 현장 보안점검

91. 취급자 목록 제작 및 관리 현행화

92. 접근권한 검토 및 차등부여 기준 수립

93. 보안서약서 및 인정보 서약서 제작

94. 접근권한 관리정책 수립 및

95. 소속, 산하기관 인정보 의,점검,지원

96. 그룹사 인정보보호 정책, 방안 논의

97. 인정보보호 파기계획 수립 및 파기현황(파기방법, 파기결과) 조사

98. 인정보보호 보존근거 검토 및 분리보관 현황 점검

99. 인정보 열람 등 요구 절차 마련 및 현황 조사

100. 인영상정보 열람 등 요구 절차 선 및 현황 조사 (이의제기 포함)

101. 자동화된 수집 거부에 관한 사항 및 동의 철 요구 적용 및 선 지원

102. 인정보 전송요구권 적용 및 선 지원

103. 인정보 처리방침 점검 및 선조치 지원(적절성, 이해도, 가독성 등)

104. 인정보 수집이용제공조 동의서 점검 및 시스템 동의 현황 점검(최소수집, 서식점검)

105. 동의현황 조사(CI,DI수집여부, DB저장현황 비교, default 동의체크 등 조사)

106. 인정보파일 통폐합 조사 및 신규 인정보파일 조사

107. 인정보 파일 처리 근거 적절성 점검

108. 비밀번호 작성규칙 점검 및 재수립

109. 접근통제(IP, 중복로그인제한, 세션차단) 전수조사

110. 내외부 전송 시 암호화 현황 전수조사

111. 인정보 노출점검

112. 소스코드 점검

113. 내부 직원 인정보 관리기준 마련(노사협의)

114. 인정보 처리방침 웹툰, 포스터, 알기쉬운, 어린이/노약자용, 임직원용 제작 및 디자인 검토

115. 위탁현황 공 QR, 게시판 등, 아이콘 및 캐릭터 활용, 모바일 환경에서의 인정보 처리방침 공

116. 콜센터, 영업점 등 유선 처리 시 인정보 동의 및 대리인 본인확인 등 적절성

117. 녹취서버 및 STT(Speech to Text)적절성 검토

118. SMS/메일서버/알림톡 전송 서버 전송 및 저장 적절성 검토

119. 업무처리 식별(각 단위업무별), 보안 및 인정보보호 적절성 검토

120. 생성형 AI활용 훈련 및 홍보(사이버보안 진단의 날, 인정보보호의 날)

121. 인정보보호 추진계획 및 인정보보호 시행계획 작성

122. 정보공 및 공공데이터 제공 업무지원

123. 동의서 전산화(알림톡 조동의 선)

124. 국외 인정보보호 법령 검토

125. 신기술 환경 정보보호 점검 및 인정보보호 점검 업무지원

126. 동의서->안내서 변경 업무지원

127. 파기현황 및 파기 적절성(남아 있어 정보주체의 메일 등 고지에 따른 신고사례)

128. 직원 실수로 인한 메일 등 주민등록번호 등 유노출 사례(예방 체계 수립)

129. 대내외 게시판 등 인정보 업로드 차단 절차 수립 및 적용

130. 목적 외 인정보 이용제공 또는 인정보 제휴 시 안전조치 요청 방식 자문 및 안전조치 신 결과 검토

131. 수탁자 제계약 지원(계약서 변경)

132. SNS등 간편로그인 편 장단점 비교 및 변경지원(SNS간편로그인 취약점)

133. 주민등록증 등 본인인증 수단 또는 휴대폰본인인증 취약점 점검(사고사례 다수)

134. 업무분장 변경 자문

135. 내부관리계획 사내 교육

136. 포상 및 인센티브 계획 수립

137. PET(Privacy Enhancing Tech)기술 도입 지원 및 합성데이터 교육 및 자문

138. 신기술환경(클라우드,5G,생성형AI,AI시스템,드론) 등에서의 인정보보호 자문

139. 인정보 안전조치 강화계획 도출

140. 내부관리계획 분석평가

141. 법적 준거성 평가

142. e-Privacy Plus 인증 준비 및 심사 대응

143. APEC CBPR 인증 준비 및 심사 대응

144. CSAP 인증 준비 및 심사 대응

145. ESG 정보보안 및 인정보보호 활동 공

146. 연구기관 기관평가 준비 및 대응

147. 중앙행정기관 평가 준비 및 대응

148. 뉴스 보도자료 작성 및 슬로 제작

149. 제로트러스트 성숙도 평가

150. 수탁자 관리선 계획 수립

151. CVE 점검

152. 수탁자 인정보 처리흐름 및 제공대장 관리

153. 인신용정보 마스킹 현황 조사 점검

154. 무선랜 이용실태 점검

155. 퍼블릭/프라이빗 클라우드 환경 보안 관리체계 수립 및 고도화

156. 인사업자 수탁자 점검

수강평

아직 충분한 평가를 받지 못한 강의입니다.
모두에게 도움이 되는 수강평의 주인공이 되어주세요!

얼리버드 할인 중

₩38,500

30%

₩55,000

양승호 정보보안님의 다른 강의

지식공유자님의 다른 강의를 만나보세요!

비슷한 강의

같은 분야의 다른 강의를 만나보세요!