채널톡 아이콘

AI 레드티밍 5 - 빠진 설정 하나가 여는 공격

키·접근 범위·호출 제한·실행 권한·가드레일·기록 등 AI 서비스의 설정을 점검합니다. 다른 조건을 유지한 채 통제 전후를 비교하고 출력 처리까지 검토해 미션 4-2 설정 점검표와 진단 기록을 작성합니다.

1명 이 수강하고 있어요.

난이도 중급이상

수강기한 무제한

ai레드티밍
ai레드티밍
ai보안
ai보안
llm보안
llm보안
가드레일
가드레일
실습 중심
실습 중심
ai레드티밍
ai레드티밍
ai보안
ai보안
llm보안
llm보안
가드레일
가드레일
실습 중심
실습 중심

수강 후 이런걸 얻을 수 있어요

  • 실습 설정 파일의 리소스와 값이 서비스에서 담당하는 역할을 읽습니다.

  • 키·접근 범위·호출 한도·타임아웃·예산·권한·가드레일·로깅의 개념을 구분하고 점검표의 해당 행에 연결합니다.

  • 가드레일 전후에 시험 조건을 맞춰 결과·로그·정상 기능을 비교합니다.

  • 출력 처리를 포함한 점검표 8개 행에 현재 값·관측 근거·개선 의견을 적어 미션 4-2를 완성합니다.

수강 자료와 실습 안내

강의소개(0-1) 수업의 자료 다운로드 버튼에서 통합 수강생 자료 ZIP을 받으세요. 최신 학습 가이드, 교정 실습키트와 기존 미션 서식, 증거 판정 사례·해설이 포함되어 있습니다. 관련 판정 수업의 보충 노트와 사례도 함께 활용하세요.

전 차시는 강사의 목소리를 바탕으로 제작한 AI 합성 나레이션입니다. 실습에는 실제 Amazon Bedrock 모델을 사용하며, 도구·문서는 교육용 모의 환경입니다. 실제 메일 발송이나 파일 삭제는 수행하지 않습니다.

AWS 사용료는 수강료와 별도이며 모델·리전·호출량·로그 보관·유지 자원과 무료 사용 조건에 따라 달라집니다. 강의의 비용은 특정 조건의 추정 예시이며 예산 알림은 자동 차단이 아닙니다. 실습 후 사용량을 확인하고 자원을 정리하세요.

왜 이 강의인가

중급 1에서 호출 한 줄과 조립 함수를 열어 봤습니다. 실무 사고의 원인은 코드뿐 아니라 설정에도 있습니다. 키가 없는 API, 아무 origin에서나 열리는 엔드포인트, 상한이 없는 호출, 필요 이상으로 넓은 역할, 켜지 않은 필터, 남지 않는 로그.

전부 코드 밖에서 정해지는 것들이고, 진단할 때 가장 자주 빠지는 칸이기도 합니다.

이 강의는 그 설계 단위를 다룹니다. 여덟 항목을 여러분 AWS 스택에서 하나씩 끄고 켜며 무엇이 열리는지 관측하고, Bedrock Guardrails와 호출 로깅을 직접 붙여 대조한 뒤, 설정 누락 점검표를 채웁니다.

이 강의를 마치면 할 수 있는 것

  • 파라미터·코드·설계라는 세 단위를 구분하고 설정이 어느 층에 있는지 말할 수 있습니다

  • template.yaml의 구성도 네 칸을 읽고 어떤 리소스가 무엇을 여는지 짚습니다

  • 키 제거·다른 origin 호출·인증 없는 API가 여는 대리 호출을 관측하고 OWASP LLM06에 겁니다

  • 스로틀·타임아웃·예산 알림을 끈 상태와 켠 상태를 대조해 Unbounded Consumption을 확인합니다

  • Bedrock Guardrails를 만들어 붙이고, 같은 공격을 끄고 3회 켜고 3회 돌려 차단 로그를 비교합니다

  • 호출 로깅을 설정 하나로 켜서 「기록이 없으면 재현이 없다」를 눈으로 확인합니다

이런 분께 권합니다

  • 중급 1에서 프롬프트 인젝션을 직접 관찰해 본 보안 실무자

  • AI 서비스를 운영하며 설정 점검 항목을 세워야 하는 인프라·플랫폼 담당자

  • 클라우드 설정 진단은 해 봤지만 AI 스택에서 무엇이 달라지는지 모르는 진단원

  • AI 기본법과 ISMS-P를 설정 수준에서 근거로 달아야 하는 컴플라이언스 담당자

이런 분께는 맞지 않을 수 있습니다

  • AWS 자격시험 대비나 일반 AWS 보안 설정 강의를 찾는 분 - 실습 스택 한 개의 여덟 항목만 다룹니다

  • 실습 스택을 바꿀 수 없는 분 - 설정 값을 직접 끄고 켜는 실습이라 기초 1에서 올린 본인 스택이 필요합니다

  • 중급 1의 미션 4(진단 기록지)를 건너뛴 분 - 점검표가 그 기록지와 같은 판정 언어를 씁니다

  • 페이로드나 우회 기법을 기대하는 분 - 여기서도 싣지 않습니다

강의 흐름 - 설정 단위 정의 → 항목별 끄고 켜기 → 가드레일·로깅 대조 → 점검표

전체 11차시. 섹션 순서가 곧 학습 순서입니다.

  • 섹션 1 · 강의 소개 (1편 · 미리보기 1편)

  • 섹션 2 · 설정 단위 - 키 · 한도 · 권한 (4편 · 미리보기 1편)

  • 섹션 3 · 실습 · 가드레일 · 로깅 · 출력 (3편)

  • 섹션 4 · 점검표와 정리 (3편)

수강 전 확인 사항

  • 실습에는 본인 AWS 계정과 결제수단 등록이 필요합니다. 기초 1에서 올린 스택을 그대로 쓰고, 지웠다면 자료실 zip으로 다시 올리는 절차가 zip 안의 README_AWS에 있습니다.

  • AWS 계정은 만 18세 이상만 만들 수 있습니다. 중·고등학생은 보호자 계정으로 실습하십시오.

  • AWS 실습 비용은 모델·리전·호출량·가드레일·로그 보관·유지 자원과 무료 사용 조건에 따라 달라집니다. 강의의 금액은 특정 조건의 추정 예시이며 비용 상한을 보장하지 않습니다. 예산 알림은 자동 차단이 아니므로 사용량을 확인하고 실습 후 자원을 정리하세요.

  • 내 PC에는 아무것도 설치하지 않습니다. 크롬 또는 엣지 브라우저와 AWS 콘솔만 씁니다. 사파리는 지원하지 않습니다.

  • 실습 화면에 나오는 AWS 콘솔 장면 일부는 실제 화면이 아니라 절차를 옮긴 도식입니다. 메뉴 이름과 순서는 같습니다.

  • 나레이션은 강사의 목소리를 바탕으로 제작한 AI 합성 음성입니다.

강의 내용 자세히

설계 단위란 무엇인가

이 강의는 설계 단위를 다룹니다. 파라미터가 호출 한 줄이고 코드가 함수 한 개라면, 설계는 그 함수를 감싸는 스택과 콘솔입니다. 첫 차시에서 세 단위를 갈라 놓고, 그다음부터 여덟 항목을 하나씩 끄고 켭니다.

설정 단위 - 키 · 한도 · 권한

1-1은 설정이 사는 자리입니다. template.yaml의 구성도 네 칸을 읽고 어떤 리소스가 무엇을 여는지 짚습니다. 1-2는 키와 문입니다. 키를 빼고 세 번 호출해 보고, 다른 origin에서 부르고, 인증 없는 API가 여는 대리 호출을 관측합니다. 1-3은 한도와 예산입니다. 초당 2건과 순간 5건, Lambda 60초, 예산 알림 80%를 끈 상태와 켠 상태로 나눠 봅니다. 1-4는 권한입니다.

최소 권한과 관리자 권한의 차이가 그대로 공격 표면이 되는 과정을 IAM 역할로 확인하고, AI 기본법 제34조 제1항 제4호까지 잇습니다.

실습 · 가드레일 · 로깅 · 출력

1-5가 이 강의의 중심입니다. Bedrock Guardrails를 직접 만들어 붙이고, 같은 공격을 가드레일을 끄고 세 번, 켜고 세 번 돌려 무엇이 달라지는지 봅니다. 화면 로그에 차단 단계가 남고 응답에 개입 여부가 실려 나오므로 대조가 눈으로 됩니다. 1-6은 기록입니다.

호출 로깅이 스택 파라미터 하나로 되어 있어서, 끈 상태에서는 CloudWatch에 아무 흔적이 없다가 켜고 스택을 갱신하면 한 건마다 한 줄이 남습니다. 기록이 없으면 재현이 없다는 말을 이보다 분명하게 보여 주기 어렵습니다. 1-7은 출력입니다. 모델 답이 브라우저·셸·데이터베이스·다음 프롬프트 네 갈래로 흘러가는데, 목적지를 아는 쪽은 모델이 아니라 받아서 넘기는 코드라는 이야기입니다.

점검표와 정리

마지막 세 차시에서 개념·서식 대응표를 보며 예산·타임아웃을 묶고 출력 처리를 포함한 점검표 여덟 행을 채워 미션 4-2를 제출하고, 중급 1에서 세운 통제 다섯 층 위에 설정 층을 얹습니다. 그 층이 고급의 여덟 층으로 이어집니다.

항목마다 근거를 같이 답니다. OWASP LLM Top 10의 번호가 붙고, 권한과 기록에는 AI 기본법 제34조의 조항이 붙고, 점검 항목에는 ISMS-P 인증기준 번호가 붙습니다. 진단 결과를 보고서로 옮길 때 가장 오래 걸리는 일이 근거를 찾아 붙이는 작업인데, 관찰하는 순간에 함께 적어 두면 그 시간이 거의 사라집니다. 점검표 여섯 칸 중 마지막 두 칸이 근거와 원복 확인인 이유가 그것입니다.

구성과 학습 방법

구성은 11차시이며 실습 두 차시가 들어 있습니다. 설정 값을 바꾸는 실습이라 원칙을 하나 둡니다. 여러분 스택에서만 바꾸고, 끝나면 원복하거나 지웁니다. 페이로드와 우회 기법은 여기서도 싣지 않습니다.

강의 특징

  • 설계 단위 여덟 항목을 한 번씩 끄고 켜면서 무엇이 열리는지 직접 관측합니다

  • Bedrock Guardrails를 만들어 붙이고 같은 공격을 끄고 3회 켜고 3회 대조합니다

  • 호출 로깅이 스택 파라미터라 「설정 하나를 바꾸면 기록이 남는다」를 그대로 겪습니다

  • 항목마다 OWASP LLM 번호와 AI 기본법 조문을 근거로 달아 둡니다

  • 다루는 분야 - 모의해킹 · 오펜시브 시큐리티 관점의 인공지능(AI) 보안 설정, LLM 가드레일과 로깅, AWS IAM(aws-iam) 권한

수강을 마치면

수강을 마치면 설정 누락 점검표 여덟 행이 근거 번호(OWASP LLM · AI 기본법 · ISMS-P)와 함께 채워진 채 남고, 중급 1의 통제 다섯 층 위에 설정 층이 얹힙니다. 그 층이 고급의 여덟 층으로 이어집니다.

시리즈 「직접 뚫어보는 AI 레드티밍」 7강

  • AI 레드티밍 1 - LLM 보안 입문과 실습 환경

  • AI 레드티밍 2 - LLM 동작 원리와 공격 표면

  • AI 레드티밍 3 - 레드팀 업무와 위협 모델링

  • AI 레드티밍 4 - 프롬프트 인젝션 직접 뚫기

  • AI 레드티밍 5 - 빠진 설정 하나가 여는 공격 ← 이 강의

  • AI 레드티밍 6 - 에이전트와 RAG를 뚫는다

  • AI 레드티밍 7 - 통제 설계와 레드팀 보고서

앞 강의의 미션 산출물이 뒤 강의의 재료가 되는 구조라 번호 순서대로 공개되며, 미출시 강의는 순차 공개됩니다.

이런 분들께
추천드려요

학습 대상은
누구일까요?

  • AI 서비스의 클라우드 설정 점검 기준을 만들어야 하는 보안·플랫폼 담당자

  • 가드레일 적용 효과와 누락된 통제를 근거로 설명하려는 개발자·진단원

선수 지식,
필요할까요?

  • 4강의 미션 4 진단 기록지 작성 경험과 1강의 실습 환경이 필요합니다. 가드레일과 호출 로깅이 포함된 실습키트를 사용하며 AWS 사용 조건에 따른 비용이 발생할 수 있습니다. 학습 안내의 개념·점검표 대응표를 함께 사용합니다.

안녕하세요
김근태입니다.

커리어인증

모의해킹에서 출발해 정보보호 관리체계를 세우는 실무자입니다.

완성차 제조사와 에너지 기업의 연간 보안 진단을 맡아 인프라·웹·애플리케이션을

층별로 진단했고, 같은 고객사의 ISMS-P 인증을 최초·사후·갱신 세 회차에 걸쳐

대응하며 기술적 보호대책 영역을 단독으로 수행했습니다.

현재는 1인 조직 정보보호담당자로 최초 인증 취득을 준비하면서 AI 보안 거버넌스

체계를 설계하고 있습니다. 기준이 아직 형성되는 중인 영역이라 통제 대상의 정의부터

직접 세워야 하는 자리입니다.

정보보안기사·CPPG·ISO/IEC 27001 심사원보를 보유하고 있고, 동국대 국제정보보호

대학원 인공지능보안학과에서 AI 환경의 유출 경로와 인증기준 대조를 연구합니다.

경력 5년 9개월. 고객사명과 실제 발견한 취약점은 비밀유지 대상이라 강의에서

다루지 않습니다.

더보기

커리큘럼

전체

11개 ∙ (1시간 20분)

해당 강의에서 제공:

수업자료
강의 게시일: 
마지막 업데이트일: 

수강평

아직 충분한 평가를 받지 못한 강의입니다.
모두에게 도움이 되는 수강평의 주인공이 되어주세요!

김근태님의 다른 강의

지식공유자님의 다른 강의를 만나보세요!

비슷한 강의

같은 분야의 다른 강의를 만나보세요!

얼리버드 할인 중

₩14,520

70%

₩48,400

평생교육이용권 지원 강의