FastAPI LLM 보안 실전: 프롬프트 인젝션·요금 폭탄·도구 권한을 코드로 막고, 보안 시험 50개를 CI 게이트로

FastAPI에 붙인 챗봇·RAG·도구 호출을 프롬프트 인젝션·요금 폭탄·권한 오남용에서 지키세요. 의존성·미들웨어·도구 코드로 막고, pytest와 보안 시험 50개로 확인하고, GitHub Actions 게이트로 출시를 정합니다. API 요금 없이 84개 실습으로 끝냅니다.

2명 이 수강하고 있어요.

난이도 초급

수강기한 무제한

프롬프트인젝션
프롬프트인젝션
llm보안
llm보안
ai보안
ai보안
프롬프트인젝션
프롬프트인젝션
llm보안
llm보안
ai보안
ai보안

수강 후 이런걸 얻을 수 있어요

  • 프롬프트 인젝션을 FastAPI 의존성·LangChain 미들웨어·출력 스키마로 막는 능력

  • 사용자별 레이트 리밋과 토큰 한도로 LLM API 요금 폭탄을 멈추는 설계

  • 도구 호출에서 소유권 확인·승인 대기열·SSRF 방어·MCP 허용 목록을 거는 능력

  • 가짜 LLM으로 매번 같은 결과가 나오는 pytest 공격 테스트를 쓰는 법

  • 보안 시험 문제 50개·규칙 판정기·LLM 채점관으로 앱 밖에서 시험하는 평가 키트

  • GitHub Actions 출시 게이트와 출시 판단 보고서·체크리스트 20항목

  • 요약 교재·실습 가이드·체크리스트·명령어 정리와 그대로 돌아가는 예제 저장소

이 강의의 기초 개념 설명은 이곳에서 먼저 확인하세요. https://velog.io/@bumicklee/series/owasp-llm


[AI 음성 안내]

  • 모든 수업의 음성은 AI 나레이터로 제작되었습니다.

[강의 개요 및 핵심 질문]

  • 문제 상황: pytest를 모두 통과했으나, 실제 상담봇에서 노출되면 안 되는 할인 코드가 답변으로 나가는 상황

  • 강의 목적: "어디서 막았어야 했는가?", "왜 기존 테스트는 몰랐는가?" 두 질문에 코드로 답을 제시합니다.

[강의에서 다루는 핵심 3단계]

  1. 막기: 프롬프트 인젝션, RAG 지시문 유출, 요금 폭탄, 남의 주문 취소, SSRF, 개인정보 노출 등을 FastAPI 의존성, LangChain 미들웨어, 도구 코드로 차단

  2. 시험하기: 앱 내부(pytest) 및 외부 보안 시험 문제 50개로 검증, 흔들리는 답은 통과율로 산출

  3. 출시하기: GitHub Actions 게이트로 PR을 통과시키고, 출시 판단 보고서 한 장으로 출시 여부(가능/조건부/보류) 결정

[강의의 차별점]

  • 단순 LLM 만들기나 일반 평가에 그치지 않고, '막기 + 시험 + 출시'의 전 과정을 다룸

  • 보안 시험 문제 50개, 요금 폭탄 방어(레이트 리밋, 토큰 한도), CI 게이트 및 출시 판단 보고서 제공

  • 설정 파일만 바꿔서 다른 상담봇 앱에도 동일한 보안 시험 적용 가능

[수업 구성 방식]

  • 총 14개 섹션, 84개 수업 (약 6시간 50분 분량)

  • 한 주제씩 짧게 구성하며, 매 수업 첫 15초에 결과 화면이나 핵심 질문을 먼저 제시

[커리큘럼 요약]

  • 1부 시작하기 (섹션 1): 완성본 확인, 랩 실행 및 요청 흐름 파악

  • 2부 막기 (섹션 2~6): 프롬프트 인젝션, RAG 공격, 요금 폭탄, 도구 호출 권한/MCP, 출력 및 개인정보 마스킹 차단

  • 3부 시험하기 (섹션 7~11): pytest 공격 테스트, 보안 시험 50제, 규칙/LLM 채점관, 통과율 산출 및 평가 도구 활용

  • 4부 출시·운영 (섹션 12~14): CI 출시 게이트 구성, 출시 판단 보고서/체크리스트, 종합 실습(쿠폰 발급 도구 방어/출시)

이 강의의 기초 개념 설명은 이곳에서 먼저 확인하세요. https://velog.io/@bumicklee/series/owasp-llm

이런 분들께
추천드려요

학습 대상은
누구일까요?

  • FastAPI로 챗봇·RAG를 붙였는데 "이대로 배포해도 되나?"가 남은 Python 백엔드 개발자

  • LangChain 에이전트에 도구를 붙였는데 남의 데이터에 손대지 않을지 불안한 개발자

  • 외부 LLM API 요금이 하루아침에 폭주할까 걱정되는 1인 서비스 운영자

  • LLM 기능 PR을 무엇으로 통과시킬지 기준이 없는 QA·팀 리드

  • 답이 매번 달라지는 LLM 기능을 어떻게 시험해야 할지 막막한 분

선수 지식,
필요할까요?

  • FastAPI로 간단한 REST API를 만들어 본 경험이 필요합니다.

  • Python 3.11 이상을 설치하고 가상 환경(venv)을 만들 수 있어야 합니다.

  • LLM API를 한 번이라도 불러 본 경험이 있으면 좋습니다. LangChain은 1-7 수업에서 필요한 만큼 다시 봅니다.

  • git과 터미널 기본 명령을 쓸 수 있어야 합니다. GitHub Actions는 섹션 12에서 처음부터 설명합니다.

  • 외부 LLM API 키는 필요 없습니다. 기본 실습은 가짜 LLM 서버로 합니다.

안녕하세요
아프로입니다.

커리어인증

IT 산업의 격변기였던 Y2K 시절, 서버 개발자로 첫발을 내디뎠다. 이후 다양한 업종의 현장에서 개발자와 인프라 엔지니어 역할을 넘나들며 기술의 기초부터 복잡한 인프라 생태계까지 온몸으로 체득했다. 수많은 시스템을 구축하고 다듬어온 경험을 발판 삼아, 최근에는 IT 보안 및 융합 기술 영역에서 새로운 가치를 만들어가고 있다.

커리큘럼

전체

85개 ∙ (6시간 9분)

해당 강의에서 제공:

수업자료
강의 게시일: 
마지막 업데이트일: 

수강평

아직 충분한 평가를 받지 못한 강의입니다.
모두에게 도움이 되는 수강평의 주인공이 되어주세요!

비슷한 강의

같은 분야의 다른 강의를 만나보세요!

얼리버드 할인 중

₩55,000

37%

₩88,000