채널톡 아이콘

AI 레드티밍 1 - LLM 보안 입문과 실습 환경

AI 보안 사고와 레드팀의 역할을 짚고, 본인 AWS 계정에 LLM 실습 환경을 올립니다. 첫 응답 캡처부터 사용량 확인과 자원 정리까지 미션 0 체크리스트에 남깁니다. 프롬프트 인젝션 진단 실습은 4편에서 이어집니다.

20명 이 수강하고 있어요.

난이도 입문

수강기한 무제한

ai레드티밍
ai레드티밍
프롬프트인젝션
프롬프트인젝션
실습 중심
실습 중심
llm보안
llm보안
ai보안
ai보안
ai레드티밍
ai레드티밍
프롬프트인젝션
프롬프트인젝션
실습 중심
실습 중심
llm보안
llm보안
ai보안
ai보안
마이크로소프트
마이크로소프트
삼성

마이크로소프트

삼성

임직원들도 이 강의를 듣고 있어요!

에 관심있는 사람들도 듣는 중!

마이크로소프트
마이크로소프트
삼성

마이크로소프트

삼성

임직원들도 이 강의를 듣고 있어요!

에 관심있는 사람들도 듣는 중!

수강 후 이런걸 얻을 수 있어요

  • AI 보안 사고의 구조와 취약점 진단·모의해킹·레드티밍의 역할을 구분합니다.

  • OWASP와 국내 법·인증기준을 AI 보안 점검에 연결하는 기본 맥락을 설명합니다.

  • 제공된 배포 자료로 API Gateway·Lambda·Amazon Bedrock 실습 환경을 준비하고 첫 응답을 확인합니다.

  • 예산 알림과 사용량 확인, 실습 자원 정리를 수행하고 미션 0 체크리스트에 근거를 남깁니다.

첫 질문을 보내고 실습 자원을 정리하는 데까지

브라우저에서 보낸 질문이 API Gateway와 Lambda를 거쳐 Amazon Bedrock에 도착하는 경로를 따라갑니다. 제공한 배포 자료를 본인 AWS 계정에서 실행하고, 실제 모델이 돌려준 첫 응답을 캡처합니다.

응답이 나오면 사용량을 확인하고 실습 자원을 정리합니다. 환경을 올린 기록, 응답 캡처, 비용 확인과 정리 여부를 미션 0 체크리스트에 남기는 것이 첫 실습입니다. 계정 권한 확인과 배포에 걸리는 시간은 영상 재생 시간과 별도로 잡아 주세요.

실습에 앞서 AI 보안 사고의 구조와 레드팀의 역할을 다룹니다. 이 환경은 뒤 과정에서도 사용합니다. 프롬프트 인젝션의 성립 조건을 시험하고 진단 기록지를 쓰는 작업은 4편에서 진행합니다.

수강 자료와 실습 안내

강의소개(0-1) 수업의 자료 다운로드 버튼에서 통합 수강생 자료 ZIP을 받으세요. 최신 학습 가이드, 교정 실습키트와 기존 미션 서식, 증거 판정 사례·해설이 포함되어 있습니다. 관련 판정 수업의 보충 노트와 사례도 함께 활용하세요.

전 차시는 강사의 목소리를 바탕으로 제작한 AI 합성 나레이션입니다. 실습에는 실제 Amazon Bedrock 모델을 사용하며, 도구·문서는 교육용 모의 환경입니다. 실제 메일 발송이나 파일 삭제는 수행하지 않습니다.

AWS 사용료는 수강료와 별도이며 모델·리전·호출량·로그 보관·유지 자원과 무료 사용 조건에 따라 달라집니다. 강의의 비용은 특정 조건의 추정 예시이며 예산 알림은 자동 차단이 아닙니다. 실습 후 사용량을 확인하고 자원을 정리하세요.

이런 분께는 맞지 않을 수 있습니다

  • 머신러닝 수학이나 모델 학습 방법을 배우려는 분 - 수학은 나오지 않고 모델을 만들지도 않습니다

  • 공격 페이로드나 우회 기법 목록을 얻으려는 분 - 이 시리즈는 판정 근거를 다루고 페이로드는 싣지 않습니다

  • AWS 계정을 만들 수 없는 분 - 실습 백엔드가 본인 계정에 올라가며, 만 18세 미만은 보호자 계정이 필요합니다

  • 이 강의 한 편으로 프롬프트 인젝션 실습까지 끝내려는 분 - 직접 뚫는 실습은 4강(중급 1)부터입니다

강의 흐름 - 개념 → 환경 구축 → 첫 질의 → 뚫리는 장면

전체 15차시. 섹션 순서가 곧 학습 순서입니다.

  • 섹션 1 · 강의 소개 (1편 · 미리보기 1편)

  • 섹션 2 · 1부 · AI 보안과 레드팀, 왜 지금인가 (7편)

  • 섹션 3 · 2부 · 내 AWS 계정에 실습 백엔드 올리기 (7편 · 미리보기 3편)

수강 전 확인 사항

  • 실습에는 본인 AWS 계정과 결제수단, 서비스·모델 접근 권한이 필요합니다. 계정의 무료 사용 조건과 이용할 서비스의 요금을 먼저 확인하세요.

  • AWS 계정은 만 18세 이상만 만들 수 있습니다. 중·고등학생은 보호자 계정으로 실습하십시오.

  • AWS 실습 비용은 모델·리전·호출량·가드레일·로그 보관·유지 자원과 무료 사용 조건에 따라 달라집니다. 강의의 금액은 특정 조건의 추정 예시이며 비용 상한을 보장하지 않습니다. 예산 알림은 자동 차단이 아니므로 사용량을 확인하고 실습 후 자원을 정리하세요.

  • 내 PC에는 아무것도 설치하지 않습니다. 크롬 또는 엣지 브라우저와 AWS 콘솔만 씁니다. 사파리는 지원하지 않습니다.

  • 2-3 · 2-4 · 2-6 차시의 AWS 콘솔 장면 일부는 실제 화면이 아니라 절차를 옮긴 도식입니다. 메뉴 이름과 순서는 같습니다.

  • 나레이션은 강사의 목소리를 바탕으로 제작한 AI 합성 음성입니다.

예시 조건의 예상 실습 비용

강의의 비용 예시는 특정 모델·리전·호출량을 가정한 추정치입니다. 1달러 미만 또는 무료를 보장하지 않습니다. 모델 호출 외에 로그 보관·유지 자원·무료 사용 조건을 함께 확인하세요.

예산 알림은 자동 차단이 아닙니다. 실습 전 서비스 요금과 예산을 확인하고, 실습 후 사용량·로그와 남은 자원을 확인해 정리하세요.

1편에서 준비할 결과물

본인 AWS 계정에 배포한 실습 백엔드와 화면을 연결한 기록을 남깁니다. 실제 모델의 첫 응답과 사용량, 자원 정리 여부는 미션 0 체크리스트에 기록합니다. 마지막 시연에서는 같은 입력에 대한 차단·노출 결과를 비교하고, 그 원인을 시험하는 실습은 4편에서 이어갑니다.

준비물은 Chrome 또는 Edge, 본인 AWS 계정과 결제수단, 서비스·모델 접근 권한입니다. AWS 사용료는 수강료와 별도이며 모델·리전·호출량·로그 보관·유지 자원과 무료 사용 조건에 따라 달라집니다. 비용 예시는 특정 조건의 추정치로, 1달러 미만이나 무료를 보장하지 않습니다. 예산 알림은 자동 차단이 아니므로 사용량을 확인하고 실습 후 자원을 정리하세요.

강의 내용 자세히

1부 · AI 보안과 레드팀, 왜 지금인가

앞의 1부에서는 AI가 뚫린다는 게 무슨 뜻인지 실제 사고 3건의 구조로 짚고, 레드팀이라는 말이 어디서 왔는지, 해커·침투테스터·레드팀·버그바운티가 서로 무엇이 다른지, 그리고 AI 보안이 왜 지금 새 분야가 됐는지를 봅니다. 판정의 근거가 될 OWASP LLM Top 10과 Agentic Top 10, AI 기본법, ISMS-P 네 기준도 여기서 한 번에 정리해 두는데, 이 네 개는 뒤 강의에서 계속 꺼내 쓰게 됩니다.

2부 · 내 AWS 계정에 실습 백엔드 올리기

2부는 실습 환경입니다. CloudShell·Lambda·API Gateway·Bedrock이라는 낯선 이름을 온프렘 서버 구성에 빗대어 먼저 읽고 나서, 여러분 AWS 계정에 명령 한 줄로 실습 백엔드를 올립니다. 화면은 브라우저로 여는 HTML 세 개이고 모델은 여러분 계정의 Amazon Bedrock이라, 강의가 끝나도 환경이 남고 뒤 강의 전부가 이 위에서 돌아갑니다.

첫 자연어 질의를 던져 실제 모델이 답하는 화면을 캡처하는 것이 미션 0이고, 비용을 확인하고 스택을 지우는 것까지가 실습입니다. 마지막 차시에서는 같은 문서에 같은 질문을 넣었는데 한 번은 막히고 한 번은 새는 장면을 보여 드립니다. 왜 그런지는 중급 1에서 직접 뚫으면서 확인합니다.

구성과 학습 방법

구성은 15차시입니다. 차시별 재생시간은 현재 커리큘럼에서 확인하세요. 강의 소개와 1부 일곱 차시는 개념이라 어디서든 들을 수 있고, 2부 일곱 차시는 AWS 콘솔을 열어 놓고 따라 하는 구간이라 배포·권한 확인과 실습에 필요한 시간을 따로 잡으세요. 차시마다 입문·기본·심화 표시가 붙어 있어 건너뛸 곳을 고를 수 있고, 미션 0은 자료실의 체크리스트 서식을 그대로 채우면 제출물이 완성되는 구조입니다.

실습 중 막히는 지점은 2-6 차시의 문제 해결표에 오류 문구별로 정리해 두었고, 거기에 없는 것은 질문 게시판에 오류 원문을 붙여 주십시오.

앞 과정의 환경과 기록지를 이어서 씁니다

처음 시작한다면 1~3편에서 실습 환경과 기초 개념, 위협 모델서를 준비한 뒤 4편으로 넘어가세요. 4편은 1편의 환경과 3편의 미션 3 위협 모델서를 사용합니다.

에이전트와 RAG를 다루는 6편에는 1편의 환경과 4편의 기록지 작성 경험이 필요합니다. 5편은 6편의 필수 선행 강의가 아닙니다. 기초 지식이 있더라도 각 편에서 요구하는 환경과 기록지가 준비됐는지 확인해 주세요.

각 강의의 현재 가격과 실습 조건은 위 링크에서 확인할 수 있습니다. AWS 사용료는 수강료와 별도입니다.

이런 분들께
추천드려요

학습 대상은
누구일까요?

  • 웹·클라우드 보안 경험을 AI 보안으로 확장하려는 실무자

  • AI 서비스의 위험과 실습 환경을 처음부터 익히려는 개발자·보안 담당자

선수 지식,
필요할까요?

  • LLM·AWS는 기초부터 설명하며 머신러닝 수학이나 별도의 코드 작성 과제는 없습니다. 브라우저·파일·문서 편집의 기본 사용이 필요합니다. 실습에는 본인 AWS 계정, 결제수단, Chrome 또는 Edge, 해당 서비스와 모델의 접근 권한이 필요합니다.

안녕하세요
AI 레드티밍입니다.

커리어인증

111

명

수강생

3

개

수강평

1

개

답변

3.7

점

강의 평점

8

개

강의

모의해킹에서 출발해 정보보호 관리체계를 세우는 실무자입니다.

완성차 제조사와 에너지 기업의 연간 보안 진단을 맡아 인프라·웹·애플리케이션을

층별로 진단했고, 같은 고객사의 ISMS-P 인증을 최초·사후·갱신 세 회차에 걸쳐

대응하며 기술적 보호대책 영역을 단독으로 수행했습니다.

현재는 1인 조직 정보보호담당자로 최초 인증 취득을 준비하면서 AI 보안 거버넌스

체계를 설계하고 있습니다. 기준이 아직 형성되는 중인 영역이라 통제 대상의 정의부터

직접 세워야 하는 자리입니다.

정보보안기사·CPPG·ISO/IEC 27001 심사원보를 보유하고 있고, 동국대 국제정보보호

대학원 인공지능보안학과에서 AI 환경의 유출 경로와 인증기준 대조를 연구합니다.

경력 5년 9개월. 고객사명과 실제 발견한 취약점은 비밀유지 대상이라 강의에서

다루지 않습니다.

더보기

수강평

아직 충분한 평가를 받지 못한 강의입니다.
모두에게 도움이 되는 수강평의 주인공이 되어주세요!

AI 레드티밍님의 다른 강의

지식공유자님의 다른 강의를 만나보세요!

비슷한 강의

같은 분야의 다른 강의를 만나보세요!

신규가입 25% 할인

₩20,620

25%

₩27,500

평생교육이용권 지원 강의