채널톡 아이콘

AI 레드티밍 3 - 레드팀 업무와 위협 모델링

실행 전에 범위·교전 규칙·시험 조건·판정 근거를 정합니다. AI 자산과 신뢰 경계, STRIDE 시나리오를 연결해 레드팀 계획서와 위협 모델서를 작성하고 반복 결과에서 말할 수 있는 범위를 구분합니다.

1명 이 수강하고 있어요.

난이도 초급

수강기한 무제한

ai레드티밍
ai레드티밍
ai보안
ai보안
위협모델링
위협모델링
레드팀
레드팀
llm보안
llm보안
ai레드티밍
ai레드티밍
ai보안
ai보안
위협모델링
위협모델링
레드팀
레드팀
llm보안
llm보안

수강 후 이런걸 얻을 수 있어요

  • 레드팀·블루팀·퍼플팀의 역할과 진단 방식의 차이를 구분합니다.

  • 범위·금지 행위·중단 기준·승인 절차를 담은 교전 규칙과 계획서를 작성합니다.

  • 같은 조건에서 완료된 평가, 성립 횟수, 오류와 미관측을 구분하고 반복 결과의 한계를 기록합니다.

  • AI 자산·신뢰 경계·STRIDE·시나리오 카드를 연결해 미션 3 위협 모델서를 완성합니다.

수강 자료와 실습 안내

강의소개(0-1) 수업의 자료 다운로드 버튼에서 통합 수강생 자료 ZIP을 받으세요. 최신 학습 가이드, 교정 실습키트와 기존 미션 서식, 증거 판정 사례·해설이 포함되어 있습니다. 관련 판정 수업의 보충 노트와 사례도 함께 활용하세요.

전 차시는 강사의 목소리를 바탕으로 제작한 AI 합성 나레이션입니다. 실습에는 실제 Amazon Bedrock 모델을 사용하며, 도구·문서는 교육용 모의 환경입니다. 실제 메일 발송이나 파일 삭제는 수행하지 않습니다.

AWS 사용료는 수강료와 별도이며 모델·리전·호출량·로그 보관·유지 자원과 무료 사용 조건에 따라 달라집니다. 강의의 비용은 특정 조건의 추정 예시이며 예산 알림은 자동 차단이 아닙니다. 실습 후 사용량을 확인하고 자원을 정리하세요.

왜 이 강의인가

같은 프롬프트를 다섯 번 넣었더니 두 번은 시스템 프롬프트가 나오고 세 번은 거부됐습니다. 보고서에 「취약함」이라고만 적으면 받은 쪽은 무엇을 해야 할지 알 수 없고, 「안전함」이라고 적으면 거짓말이 됩니다.

AI 진단이 웹 진단과 갈라지는 지점이 여기이고, 이 한 줄을 어떻게 적을지가 이 강의의 질문입니다.

무작정 공격하기 전에 실무 레드팀이 하는 일부터 익힙니다. 범위와 교전 규칙을 정하고, 재현율과 판정 기준을 세우고, 기초 1에서 올린 백엔드를 대상으로 위협 모델을 그립니다. 손에는 레드팀 계획서와 위협 모델서 두 장이 남습니다.

이 강의를 마치면 할 수 있는 것

  • 레드팀·블루팀·퍼플팀, 취약점 진단·모의해킹·레드티밍이 각각 무엇이 다른지 한 장으로 구분합니다

  • 교전 규칙(ROE)에 범위·금지 행위·비상 중단·승인을 적어 진단자를 보호하는 계획서를 씁니다 (미션 2)

  • 같은 조건에서 완료된 평가·성립 횟수·오류를 구분하고, 성립 근거와 관측 한계에 맞는 판정 규칙·시험 범위를 세웁니다

  • AI 애플리케이션을 여섯 칸으로 해부하고 자산을 모델·데이터·인터페이스 세 계열로 대장에 올립니다

  • 신뢰 경계 다섯 곳을 긋고 STRIDE 여섯 항목을 AI에 맞게 적용합니다

  • 공격 시나리오 카드를 쓰고 위협 모델서를 완성합니다 (미션 3)

이런 분께 권합니다

  • 기초 2까지 마치고 공격 표면 지도를 그려 둔 수강생

  • AI 시스템 점검 보고서를 써야 하는데 "같은 공격이 어떤 때는 되고 어떤 때는 안 된다"를 어떻게 적을지 막막한 보안 실무자

  • 위협 모델링을 웹에서는 해 봤지만 LLM·에이전트에는 어떻게 적용할지 모르는 보안 담당자

  • 포트폴리오에 넣을 계획서·위협 모델서 산출물이 필요한 취업 준비생

이런 분께는 맞지 않을 수 있습니다

  • 이 강의에서 실제 공격 실습을 기대하는 분 - 콘솔 조작이 없고 문서 두 장을 씁니다

  • 위협 모델링 자동화 도구 사용법을 배우려는 분 - 서식 두 종을 손으로 채우는 방식입니다

  • 웹 위협 모델링 이론을 깊이 다루기를 원하는 분 - STRIDE는 AI에 필요한 만큼만 다시 읽습니다

  • 기초 2의 미션 1(공격 표면 지도)이 없는 분 - 2부의 위협 모델이 그 지도를 이어서 씁니다

강의 흐름 - 레드팀 실무 → 판정 기준 → 위협 모델 → 산출물 두 장

전체 12차시. 섹션 순서가 곧 학습 순서입니다.

  • 섹션 1 · 강의 소개 (1편 · 미리보기 1편)

  • 섹션 2 · 1부 · 레드팀은 어떻게 일하는가 (5편 · 미리보기 1편)

  • 섹션 3 · 2부 · AI 위협 모델링 (6편 · 미리보기 1편)

수강 전 확인 사항

  • 기초 2의 미션 1을 마친 상태를 전제로 합니다.

  • 이번 강의의 문서 과제는 새 모델 호출 없이 진행할 수 있습니다. 기존 AWS 자원의 유지·사용 비용은 별도로 확인하세요.

  • 서식 파일 2종(redteam-plan.md · threat-model.md)을 자료실에서 내려받아 채웁니다.

  • 나레이션은 강사의 목소리를 바탕으로 제작한 AI 합성 음성입니다.

강의 내용 자세히

1부 · 레드팀은 어떻게 일하는가

앞의 1부에서는 레드팀이 실제로 어떻게 일하는지를 봅니다. 레드팀·블루팀·퍼플팀이 무엇을 하는 팀인지, 취약점 진단과 모의해킹과 레드티밍이 범위와 깊이에서 어떻게 다른지 한 장으로 정리하고, 분쟁이 생기는 지점인 교전 규칙을 다룹니다. 포함 목록보다 제외 목록이 왜 중요한지, 어떤 신호가 보이면 즉시 멈추는지, 누가 승인하고 무엇을 남기는지를 적은 문서가 진단자를 보호합니다. 그다음이 비결정성입니다.

완료된 평가와 성립 횟수, 오류를 구분하고 판정 근거와 시험 범위를 세웁니다. 3·10·20회는 강의의 시험 계획 예시이며 횟수만으로 안전을 보장하지 않습니다. 미관측과 구조적 해당 없음을 구분하는 보충 사례도 함께 사용합니다. 1부는 레드팀 계획서를 직접 쓰는 미션 2로 닫습니다.

2부 · AI 위협 모델링

2부는 위협 모델입니다. 요청 하나가 지나가는 여섯 칸으로 AI 애플리케이션을 해부해 우리가 만든 것과 빌려 쓰는 것을 나누고, 자산을 모델·데이터·인터페이스 세 계열로 대장에 올립니다. 이어서 신뢰 경계 다섯 곳을 긋는데, 이 다섯 번호는 중급 1부터 심화까지 뒤 강의가 그대로 씁니다. STRIDE 여섯 글자를 AI에 맞게 다시 읽고 공격 시나리오 카드를 쓰는 법까지 익힌 뒤, 미션 3으로 위협 모델서를 완성합니다.

구성과 학습 방법

구성은 12차시이며 강의 소개 뒤로 1부 다섯 차시와 2부 여섯 차시가 각각 미션으로 닫힙니다. 미션 2와 3은 같은 대상을 이어서 씁니다. 1-5에서 가상의 사내 AI 챗봇을 놓고 계획서를 쓰면 2-6에서 그 대상 그대로 위협 모델서를 완성하는 식이라, 두 문서가 따로 놀지 않고 한 건의 진단 준비물이 됩니다.

2-5에서는 사내 문서 도우미 챗봇을 예로 공격 시나리오 카드 한 장을 실제로 써 보이고, 카드가 스무 장 나왔을 때 어느 것부터 볼지 순서를 정하는 기준까지 다룹니다. 서식을 채우다 판단이 갈리는 항목은 질문 게시판에 그 항목만 올려 주시면 근거를 붙여 답합니다.

다음 강의

여기서 기초 파트가 닫힙니다. 다음 강의인 중급 1부터는 기초 1 마지막 차시에서 본 그 화면을 직접 뚫으면서, 파라미터 하나와 코드 한 줄이 재현율을 어떻게 바꾸는지 기록합니다.

강의 특징

  • 완료된 평가 중 성립 횟수와 판정 근거·한계를 함께 적는 방법을 연습합니다

  • 신뢰 경계 다섯 곳의 번호가 시리즈 끝까지 이어져, 뒤 강의의 모든 발견이 이 번호로 정리됩니다

  • 서식 2종(계획서 · 위협 모델서)을 채우는 방식이라 산출물이 그대로 남습니다

  • 기존 정보자산 대장에 세 열만 더 붙이는 식으로, 실무에서 바로 쓰는 형태로 설명합니다

  • 다루는 분야 - 모의해킹 · 오펜시브 시큐리티 · AI security 관점의 인공지능(AI) 보안, LLM 위협 모델링

수강을 마치면

수강을 마치면 레드팀 계획서와 위협 모델서 두 장이 손에 남습니다. 둘 다 자료실의 서식을 채우는 방식이라 그대로 포트폴리오에 넣을 수 있고, 기초 2에서 그린 공격 표면 지도가 여기서 위협 모델로 자랍니다. 문서 과제는 새 모델 호출 없이 진행할 수 있으며 기존 AWS 자원의 유지·사용 비용은 별도로 확인하세요.

시리즈 「직접 뚫어보는 AI 레드티밍」 7강

  • AI 레드티밍 1 - LLM 보안 입문과 실습 환경

  • AI 레드티밍 2 - LLM 동작 원리와 공격 표면

  • AI 레드티밍 3 - 레드팀 업무와 위협 모델링 ← 이 강의

  • AI 레드티밍 4 - 프롬프트 인젝션 직접 뚫기

  • AI 레드티밍 5 - 빠진 설정 하나가 여는 공격

  • AI 레드티밍 6 - 에이전트와 RAG를 뚫는다

  • AI 레드티밍 7 - 통제 설계와 레드팀 보고서

앞 강의의 미션 산출물이 뒤 강의의 재료가 되는 구조라 번호 순서대로 공개되며, 미출시 강의는 순차 공개됩니다.

이런 분들께
추천드려요

학습 대상은
누구일까요?

  • AI 진단의 범위와 판정 근거를 정해야 하는 보안 담당자·진단원

  • AI 서비스의 신뢰 경계를 설계하거나 검토하는 개발자·아키텍트

선수 지식,
필요할까요?

  • 2강의 미션 1 공격 표면 지도를 준비하세요. 제공된 실습 환경의 구성 요소를 이해하고 문서 편집기로 미션 2 계획서와 미션 3 위협 모델서를 작성합니다.

안녕하세요
김근태입니다.

커리어인증

모의해킹에서 출발해 정보보호 관리체계를 세우는 실무자입니다.

완성차 제조사와 에너지 기업의 연간 보안 진단을 맡아 인프라·웹·애플리케이션을

층별로 진단했고, 같은 고객사의 ISMS-P 인증을 최초·사후·갱신 세 회차에 걸쳐

대응하며 기술적 보호대책 영역을 단독으로 수행했습니다.

현재는 1인 조직 정보보호담당자로 최초 인증 취득을 준비하면서 AI 보안 거버넌스

체계를 설계하고 있습니다. 기준이 아직 형성되는 중인 영역이라 통제 대상의 정의부터

직접 세워야 하는 자리입니다.

정보보안기사·CPPG·ISO/IEC 27001 심사원보를 보유하고 있고, 동국대 국제정보보호

대학원 인공지능보안학과에서 AI 환경의 유출 경로와 인증기준 대조를 연구합니다.

경력 5년 9개월. 고객사명과 실제 발견한 취약점은 비밀유지 대상이라 강의에서

다루지 않습니다.

더보기

수강평

아직 충분한 평가를 받지 못한 강의입니다.
모두에게 도움이 되는 수강평의 주인공이 되어주세요!

김근태님의 다른 강의

지식공유자님의 다른 강의를 만나보세요!

비슷한 강의

같은 분야의 다른 강의를 만나보세요!

얼리버드 할인 중

₩8

68%

₩30,800

평생교육이용권 지원 강의