AI 레드티밍 7 - 통제 설계와 레드팀 보고서

수강 자료와 실습 안내

강의소개(0-1) 수업의 자료 다운로드 버튼에서 통합 수강생 자료 ZIP을 받으세요. 최신 학습 가이드, 교정 실습키트와 기존 미션 서식, 증거 판정 사례·해설이 포함되어 있습니다. 관련 판정 수업의 보충 노트와 사례도 함께 활용하세요.

전 차시는 강사의 목소리를 바탕으로 제작한 AI 합성 나레이션입니다. 실습에는 실제 Amazon Bedrock 모델을 사용하며, 도구·문서는 교육용 모의 환경입니다. 실제 메일 발송이나 파일 삭제는 수행하지 않습니다.

AWS 사용료는 수강료와 별도이며 모델·리전·호출량·로그 보관·유지 자원과 무료 사용 조건에 따라 달라집니다. 강의의 비용은 특정 조건의 추정 예시이며 예산 알림은 자동 차단이 아닙니다. 실습 후 사용량을 확인하고 자원을 정리하세요.

왜 이 강의인가

여기까지 오면서 문서 여섯 개를 만드셨을 겁니다. 계획서와 위협 모델서, 진단 기록지 세 벌, 설정 점검표입니다. 그런데 그것을 그대로 내밀면 아무 일도 일어나지 않습니다.

보고서를 받은 사람이 묻는 것은 「몇 개가 뚫렸나」가 아니라 「무엇을 먼저 고치고 그 근거가 무엇인가」이기 때문입니다.

이 강의는 그 간극을 메웁니다. 사내에 이미 들어와 있는 Shadow AI를 세어 대장에 올리고, 통제 목록을 하나로 합쳐 ISMS-P 인증기준과 AI 기본법 조문에 걸고, 경영진·실무·감사가 각자 읽을 수 있는 레드팀 보고서를 완성합니다.

이 강의를 마치면 할 수 있는 것

• 사내에 이미 들어와 있는 AI 도구를 찾아 자산 대장에 올리고, 막는 대신 승인된 대안으로 옮기는 경로를 설계합니다

• 통제마다 ISMS-P 인증기준 번호와 AI 기본법 조문을 걸어 통합 매핑표 두 장을 완성합니다

• 「했다」고 보고할 수 있는 통제만 목표로 삼는 기준을 세우고 조치 주체를 부서로 갈라 적습니다 (미션 7)

• 영향·관측률을 출발점으로 노출 범위·증거의 확실성·조치 여건을 함께 검토해 우선순위를 설명합니다

• 경영진 · 실무 · 감사 세 독자가 각각 무엇을 묻고 무엇을 읽는지 나눠 같은 보고서를 세 번 읽히게 만듭니다

• 재현 절차와 페이로드를 싣지 않고도 판정이 서는 보고서 여섯 장을 씁니다 (미션 8)

이런 분께 권합니다

• 고급까지 마치고 기록지 여러 장을 손에 들었는데 그것을 한 편의 보고서로 묶는 방법이 막막한 진단원

• 사내 AI 도구를 어디까지 허용할지 정해야 하는 정보보호 · 개인정보보호 담당자

• 점검 결과를 ISMS-P 인증기준이나 AI 기본법 조문에 걸어 제출해야 하는 인증 실무자

• 보고서를 올렸는데 「그래서 뭘 하라는 거냐」는 질문을 받아 본 보안 담당자

• 포트폴리오에 통제 설계서와 레드팀 보고서 완본을 넣고 싶은 대학원생 · 취업 준비생

이런 분께는 맞지 않을 수 있습니다

• 새 실습 환경에서 공격을 더 해 보려는 분 - 이 강의에는 콘솔 조작이 없고 문서 두 장을 씁니다

• ISMS-P 인증 심사 준비 강의를 찾는 분 - 매핑표는 통제와 인증기준의 대응을 보여 주는 자료이고 심사 제출물이 아닙니다

• 앞 강의의 미션 산출물이 없는 분 - 미션 7과 8을 채울 재료가 없습니다

• 법령 전반을 배우려는 분 - AI 기본법은 제31조·제34조·제36조 등 필요한 조문만 다룹니다

강의 흐름 - Shadow AI 대장 → 통제 목록 통합 → 규범 매핑 → 보고서 → 재시험·신고

전체 17차시. 섹션 순서가 곧 학습 순서입니다.

• 섹션 1 · 강의 소개 (1편 · 미리보기 1편)

• 섹션 2 · Shadow AI - 승인되지 않은 AI를 대장에 올리기 (4편 · 미리보기 1편)

• 섹션 3 · 통제 설계 - ISMS-P와 AI 기본법에 걸기 (7편 · 미리보기 1편)

• 섹션 4 · 레드팀 보고서 - 세 독자를 위한 한 편 (5편 · 미리보기 1편)

수강 전 확인 사항

• 앞 여섯 강의의 미션 산출물이 필요합니다. 빠진 것이 있으면 기초 3과 중급 · 고급의 해당 워크시트 차시로 돌아가 채우고 오십시오.

• 이 강의는 앞 미션의 근거를 사용하므로 새 모델 호출 없이 문서 과제를 진행할 수 있습니다. 기존 AWS 자원의 유지·사용 비용은 별도로 확인하세요.

• 내 PC에는 아무것도 설치하지 않습니다. 문서 편집기 하나면 됩니다.

• 법·인증기준은 수업의 기준일을 바탕으로 설명합니다. 교정된 영상·통제 설계서의 적용 요건과 예외를 함께 읽고, 실제 업무 적용 전에 최신 공식 원문과 서비스의 이용 형태를 대조하세요.

• 나레이션은 강사의 목소리를 바탕으로 제작한 AI 합성 음성입니다.

강의 내용 자세히

1장 · Shadow AI를 대장에 올리기

시작은 조금 다른 데서 합니다. 우리가 진단한 것은 우리가 만든 시스템이었는데, 사내에는 아무도 승인하지 않은 AI 도구가 이미 들어와 있습니다. 1장에서 그것을 셉니다. 어떤 경로로 들어오는지 찾아 자산 대장에 올리고, 무조건 막는 방식이 왜 실패하는지 보고, 승인된 대안으로 옮기는 경로를 설계합니다. 데이터가 밖으로 나가는 자리는 이그레스와 커넥터 두 곳이고, 사람 쪽은 입력 규칙과 교육으로 받습니다. 여기까지가 통제 목록의 마지막 층입니다.

2장 · 통제 설계 - ISMS-P와 AI 기본법에 걸기

2장이 이 강의의 정점입니다. 중급 1에서 세운 프롬프트와 출력 층, 중급 2의 설정 층, 고급의 에이전트와 검색 층, 그리고 1장의 Shadow AI 층을 하나의 목록으로 합치고, 통제마다 ISMS-P 인증기준 번호와 AI 기본법 조문을 겁니다. 통합 매핑표 두 장이 여기서 나옵니다.

해당 조항의 적용 대상과 요건을 먼저 확인한 뒤 권한 설계·승인 게이트를 제34조 제1항 제4호의 사람의 관리·감독에, 실행 기록을 같은 항 제5호의 문서 보관에 대조합니다. 접속기록 점검은 ISMS-P 2.9.5와 연결합니다. 정면으로 걸리는 항목이 없는 자리도 나오는데, 그때는 연성 규범과 강화 인증기준으로 보강합니다.

통제 목표를 정하는 기준도 여기서 세웁니다. 「했다」고 보고할 수 있는 것만 목표로 삼는다는 기준이고, 로그와 기록과 설정으로 확인되지 않으면 목표가 아닙니다. 조치 주체를 부서로 가르는 이유도 같습니다. 권한은 계정관리, 게이트는 운영정책, 필터는 개발이라 한 덩어리로 적으면 권고문이 어디로도 가지 못합니다. 2장의 끝에서 통제 설계서를 제출합니다. 미션 7입니다.

3장 · 레드팀 보고서

3장은 보고서입니다. 영향·관측률과 함께 노출 범위·증거·조치 여건을 검토해 우선순위를 정하고, 무엇을 싣지 않고 무엇을 대신 적을지 선을 긋습니다. 재현되는 입력 원문과 따라 할 수 있는 절차서는 싣지 않고, 어떤 경로로 경계를 넘었는지와 로그 위치를 적습니다. 1/3이라는 숫자만으로 우선순위를 낮추지 않으며, 한 회차라도 확인된 위반의 영향과 증거를 따로 검토합니다. 독자는 셋입니다.

경영진은 우선순위를 묻고 요약 블록을 읽으며, 실무는 어떻게 고치는지를 묻고 판정과 재현을 읽고, 감사는 근거와 추적을 묻고 부록의 매핑표를 읽습니다. 같은 보고서가 세 번 읽히게 만드는 구조가 여섯 장짜리 목차입니다. 표지와 범위, 요약, 판정 목록, 재현 요약, 권고와 매핑, 부록입니다. 이것을 채우면 미션 8이고 시리즈의 마지막 산출물입니다.

닫는 이야기 - 재시험과 신고

마지막 차시는 닫는 이야기입니다. 통제 ON의 0/3을 해당 조건의 미관측으로 기록하고 실제 통제 작동·정상 기능·합의한 종료 기준·잔여 위험을 확인하는 절차, 재현 절차를 공개하지 않는다는 원칙, 그리고 우리 시스템이 아닌 곳에서 취약점을 발견했을 때 KISA 신고 창구로 넘기는 절차까지 정리합니다. 공격을 배운 이유는 막을 근거를 만들기 위해서입니다. 그 근거가 문서 두 장으로 남는 것이 이 시리즈의 끝입니다.

구성과 학습 방법

구성은 17차시이며 재생시간은 현재 커리큘럼에서 확인할 수 있습니다. 새 실습 환경이 없어 콘솔 조작은 한 번도 없고, 대신 문서를 쓰는 시간이 필요합니다. 미션 7과 미션 8은 선행 기록을 정리하고 근거를 확인하며 문서를 작성할 시간을 따로 잡으세요. 앞 강의의 기록지를 손에 두고 들으시면 차시마다 그 칸이 어디로 옮겨 가는지가 보입니다.

강의 특징

• 여섯 강의의 통제 목록을 하나로 합쳐 ISMS-P 번호와 AI 기본법 조문에 겁니다

• 「했다」고 보고할 수 있는 통제만 목표로 삼는 기준을 세웁니다

• 조치 주체를 계정관리 · 운영정책 · 개발로 갈라 권고문이 갈 자리를 정합니다

• 경영진 · 실무 · 감사 세 독자를 한 보고서 안에서 나눕니다

• 재현 절차와 페이로드는 싣지 않고 판정 근거만 적습니다

• 시리즈의 마지막 산출물 두 장, 통제 설계서와 레드팀 보고서가 남습니다

• 다루는 분야 - 모의해킹 · 오펜시브 시큐리티 관점의 인공지능(AI) 보안 통제 설계, LLM 레드팀 보고서, ISMS-P 인증기준 매핑

수강을 마치면

수강을 마치면 통제 설계서 한 장과 여섯 장 구성의 레드팀 보고서 한 편이 남습니다. 통제마다 목표·조치 주체·근거 번호·확인 방법이 적혀 있고, 「했다」고 보고할 수 있는 것만 목표로 삼는 기준이 손에 익습니다. 시리즈의 마지막 산출물입니다.

시리즈 「직접 뚫어보는 AI 레드티밍」 7강

• AI 레드티밍 1 - LLM 보안 입문과 실습 환경

• AI 레드티밍 2 - LLM 동작 원리와 공격 표면

• AI 레드티밍 3 - 레드팀 업무와 위협 모델링

• AI 레드티밍 4 - 프롬프트 인젝션 직접 뚫기

• AI 레드티밍 5 - 빠진 설정 하나가 여는 공격

• AI 레드티밍 6 - 에이전트와 RAG를 뚫는다

• AI 레드티밍 7 - 통제 설계와 레드팀 보고서 ← 이 강의

앞 강의의 미션 산출물이 뒤 강의의 재료가 되는 구조라 번호 순서대로 공개되며, 미출시 강의는 순차 공개됩니다.