AI 레드티밍 6 - 에이전트와 RAG를 뚫는다

수강 자료와 실습 안내

강의소개(0-1) 수업의 자료 다운로드 버튼에서 통합 수강생 자료 ZIP을 받으세요. 최신 학습 가이드, 교정 실습키트와 기존 미션 서식, 증거 판정 사례·해설이 포함되어 있습니다. 관련 판정 수업의 보충 노트와 사례도 함께 활용하세요.

전 차시는 강사의 목소리를 바탕으로 제작한 AI 합성 나레이션입니다. 실습에는 실제 Amazon Bedrock 모델을 사용하며, 도구·문서는 교육용 모의 환경입니다. 실제 메일 발송이나 파일 삭제는 수행하지 않습니다.

AWS 사용료는 수강료와 별도이며 모델·리전·호출량·로그 보관·유지 자원과 무료 사용 조건에 따라 달라집니다. 강의의 비용은 특정 조건의 추정 예시이며 예산 알림은 자동 차단이 아닙니다. 실습 후 사용량을 확인하고 자원을 정리하세요.

왜 이 강의인가

중급 1의 챗봇 응답에서 도구를 실행하는 에이전트로 범위를 넓힙니다. 실제 서비스에서는 도구와 권한 설정에 따라 파일 접근·초안 작성·외부 요청 같은 결과가 생길 수 있어 실행 경계와 승인 절차가 중요합니다. 이 강의는 실제 모델과 모의 도구·문서를 사용하며 실제 메일 발송·파일 삭제는 수행하지 않습니다.

검색 쪽은 더 조용합니다. 평범한 질문 하나에 볼 권한이 없는 문서가 답변에 섞여 나옵니다. 원본에는 권한이 걸려 있었는데 색인될 때 그 권한이 따라오지 않은 것입니다.

차이를 만든 것은 모델이 아니라 모델 뒤에 붙어 있던 권한입니다. 이 강의는 취약 환경 두 개(vuln-agent · vuln-rag)를 직접 열어 그 경계가 어디서 무너지는지 로그로 증명하고, 기록지 두 장을 남깁니다.

이 강의를 마치면 할 수 있는 것

• 에이전트 루프가 한 번의 요청을 여러 번의 실행으로 바꾸는 구조를 단계로 나눠 설명할 수 있습니다

• 과잉 기능 · 과잉 권한 · 과잉 자율 세 갈래를 손대는 부서 기준으로 갈라 점검 질문을 만듭니다

• 승인 게이트를 켜고 끈 두 조건을 각 3회 돌려 실행이 어디서 멈추는지 기록지 열한 칸에 남깁니다

• RAG가 색인 시점과 질의 시점에 무엇을 모델 앞에 놓는지 나누고, 오염이 왜 색인에서 이미 끝나는지 봅니다

• vuln-rag 화면에서 유사도와 권한이 서로를 모르는 자리를 관찰해 기록지 열네 칸을 채우고 미션 6을 제출합니다

• 통제를 여덟 층으로 늘려 확률로 줄이는 층과 결과로 정하는 층을 갈라 적습니다

이런 분께 권합니다

• 중급 1 미션 4를 제출했고 이제 실행과 검색까지 범위를 넓히려는 보안 실무자

• 사내에 에이전트나 RAG를 붙이는 중인데 권한 경계를 어디에 그을지 정하지 못한 개발자

• 「모델이 답을 지어냈다」가 아니라 「이 권한에서 이 문서가 돌아왔다」로 보고서를 써야 하는 진단원

• 승인 게이트와 권한 필터를 코드 수준에서 확인하고 설계 근거로 삼고 싶은 아키텍트

이런 분께는 맞지 않을 수 있습니다

• 에이전트 프레임워크 사용법이나 RAG 구축 강의를 찾는 분 - 실습 백엔드가 루프와 검색을 직접 구현해 두었고, 그 코드를 읽으며 뚫리는 자리를 봅니다

• 벡터 데이터베이스 운영을 배우려는 분 - 문서 조각 열 개를 메모리에서 계산하는 구조입니다

• 중급 1의 미션 4를 건너뛴 분 - 열한 칸·열네 칸 기록지가 여덟 칸 위에 붙는 구조라 읽히지 않습니다

• 실제 시스템을 대상으로 한 공격 절차를 기대하는 분 - 도구 네 종과 문서는 전부 가짜값이고 페이로드는 싣지 않습니다

강의 흐름 - 에이전트 루프 → 권한 경계 실습 → RAG 색인·권한 실습 → 코드 단위 → 통제 여덟 층

전체 15차시. 섹션 순서가 곧 학습 순서입니다.

• 섹션 1 · 강의 소개 (1편 · 미리보기 1편)

• 섹션 2 · 에이전트 - 실행되는 순간의 권한 경계 (8편 · 미리보기 1편)

• 섹션 3 · 검색(RAG) - 색인과 권한이 어긋나는 자리 (6편 · 미리보기 1편)

수강 전 확인 사항

• 실습에는 본인 AWS 계정과 결제수단 등록이 필요합니다. 기초 1에서 올린 스택을 그대로 쓰고, 지웠다면 다시 올리는 절차가 자료실 README에 있습니다.

• AWS 계정은 만 18세 이상만 만들 수 있습니다. 중·고등학생은 보호자 계정으로 실습하십시오.

• AWS 실습 비용은 모델·리전·호출량·가드레일·로그 보관·유지 자원과 무료 사용 조건에 따라 달라집니다. 강의의 금액은 특정 조건의 추정 예시이며 비용 상한을 보장하지 않습니다. 예산 알림은 자동 차단이 아니므로 사용량을 확인하고 실습 후 자원을 정리하세요.

• 내 PC에는 아무것도 설치하지 않습니다. 크롬 또는 엣지 브라우저와 AWS 콘솔만 씁니다. 사파리는 지원하지 않습니다.

• 실습 환경의 도구 네 종과 문서는 전부 가짜값입니다. 실제 메일이 나가거나 실제 파일이 지워지지 않습니다.

• 실습 화면에 나오는 AWS 콘솔 장면 일부는 실제 화면이 아니라 절차를 옮긴 도식입니다. 메뉴 이름과 순서는 같습니다.

• 나레이션은 강사의 목소리를 바탕으로 제작한 AI 합성 음성입니다.

강의 내용 자세히

에이전트 - 실행되는 순간의 권한 경계

이 강의는 두 덩어리로 갑니다. 앞의 여덟 차시가 에이전트이고 뒤의 여섯 차시가 검색입니다. 에이전트 쪽은 루프부터 봅니다. 모델이 도구를 고르고 시스템이 그 선택을 실제로 실행하는 구조를 단계로 펼치고, 권한이 어디에서 넓어지는지를 과잉 기능 · 과잉 권한 · 과잉 자율 세 갈래로 가릅니다. 셋을 가르는 기준은 손대는 부서입니다.

도구를 줄이는 쪽, 역할을 좁히는 쪽, 루프에 상한을 두는 쪽이 각각 다른 사람이라 한 덩어리로 적으면 권고문이 어디로도 가지 못합니다. 그다음 도구 호출의 인자가 흔들리는 네 지점을 짚고, 그중 무엇이 로그에 남고 무엇이 안 남는지 나눕니다.

실습 · vuln-agent와 vuln-rag

실습은 취약 환경 두 개에서 합니다. vuln-agent는 실제 모델이 도구를 고르고 인자를 채운 뒤 백엔드가 실행 직전에 멈춰서 승인 카드를 보내는 환경입니다. 먼저 정상 작업 한 건으로 기준선을 잡고, 외부 문서를 읽힌 뒤 같은 요청의 로그를 나란히 놓습니다.

승인 게이트를 켠 조건과 끈 조건을 각 세 번 돌려 실행이 어디에서 멈추는지 확인하고, 중급 1의 여덟 칸에 세 칸을 더한 열한 칸 기록지로 남깁니다. 이것이 미션 5입니다. vuln-rag는 어느 조각이 유사도 얼마로 돌아왔는지를 화면에 그대로 보여 줍니다. 오염 문서를 색인한 뒤 같은 질의를 넣고, 권한이 낮은 질의자로 민감 문서를 찾아 봅니다. 여기서 열네 칸 기록지를 채우면 미션 6입니다.

코드 단위와 통제 여덟 층

코드도 두 차시 봅니다. 하나는 승인 게이트이고 다른 하나는 권한 필터입니다. 둘 다 같은 이야기를 합니다. 막는 자리는 모델이 아니라 서버의 분기라는 것입니다. 승인 게이트는 실행 직전에 서 있어야 게이트이고, 권한 필터는 후보 목록을 만들기 전에 걸려야 필터입니다. 검색이 끝난 뒤에 가리는 것은 필터가 아니라 화면 처리입니다. 이 구분이 보고서의 권고문을 완전히 바꿉니다.

마지막에는 앞 강의의 통제와 설정 점검을 바탕으로 권한 설계·승인 게이트·로깅의 역할을 정리합니다. 층이 하나씩 붙을 때마다 판단의 주체가 모델에서 코드와 설정으로 옮겨 갑니다. 페이로드와 우회 기법은 이 강의 어디에도 싣지 않습니다. 가르치는 것은 뚫는 문장이 아니라 권한 경계가 어디에서 무너졌는지를 로그로 증명하는 방법이고, 그래서 제출물은 기록지 두 장입니다.

구성과 학습 방법

구성은 15차시이며 여러 조건을 비교하고 기록하는 실습이 포함됩니다. 실습 세 차시는 브라우저 두 개를 열어 놓고 따라 하는 구간이라 조건별 실행·근거 저장·되돌림에 필요한 시간을 따로 잡으세요.

강의 특징

• 취약 환경 두 개를 직접 열어 도구 호출 로그와 검색 근거를 눈으로 확인합니다

• 승인 게이트와 권한 필터를 코드 수준에서 보고 막는 자리가 서버의 분기임을 짚습니다

• 같은 관찰을 3회 반복하고 조건을 함께 적어야 완결된 진단으로 봅니다

• 기록지가 중급 1의 여덟 칸에서 열한 칸, 다시 열네 칸으로 자랍니다

• 페이로드와 우회 기법은 싣지 않고 판정 근거만 다룹니다

• 다루는 분야 - 모의해킹 · 오펜시브 시큐리티 관점의 인공지능(AI) 보안, LLM 기반 AI Agent(에이전트)와 RAG 공격 표면

수강을 마치면

수강을 마치면 에이전트 기록지(열한 칸)와 RAG 기록지(열네 칸) 두 장이 남고, 통제가 여덟 층으로 늘어납니다. 승인 게이트는 실행 직전에, 권한 필터는 후보 목록을 만들기 전에 서 있어야 한다는 것을 코드와 로그로 말할 수 있게 됩니다.

시리즈 「직접 뚫어보는 AI 레드티밍」 7강

• AI 레드티밍 1 - LLM 보안 입문과 실습 환경

• AI 레드티밍 2 - LLM 동작 원리와 공격 표면

• AI 레드티밍 3 - 레드팀 업무와 위협 모델링

• AI 레드티밍 4 - 프롬프트 인젝션 직접 뚫기

• AI 레드티밍 5 - 빠진 설정 하나가 여는 공격

• AI 레드티밍 6 - 에이전트와 RAG를 뚫는다 ← 이 강의

• AI 레드티밍 7 - 통제 설계와 레드팀 보고서

앞 강의의 미션 산출물이 뒤 강의의 재료가 되는 구조라 번호 순서대로 공개되며, 미출시 강의는 순차 공개됩니다.