채널톡 아이콘

Spring 개발자를 위한 실전 LLM 서비스 개발

Spring Boot 환경에서 OpenAI API와 Spring AI를 활용해 RAG 기반 문서 검색 시스템을 구축하는 실전 강의입니다. Prompt Engineering, Vector Store, Embedding 개념부터 Dify를 활용한 빠른 프로토타이핑, MCP 도구 연동, 멀티모달, 가드레일까지, AI Assistant 개발의 전체 과정을 단계별로 학습합니다. 직접 구현 방식과 노코드 도구 활용 방식을 비교하며 실무 적용 전략을 익힐 수 있습니다.

21명 이 수강하고 있어요.

난이도 초급

수강기한 무제한

AI 코딩
AI 코딩
AI 활용법
AI 활용법
실습 중심
실습 중심
스프링ai
스프링ai
aiassitant
aiassitant
AI 코딩
AI 코딩
AI 활용법
AI 활용법
실습 중심
실습 중심
스프링ai
스프링ai
aiassitant
aiassitant

수강 후 이런걸 얻을 수 있어요

  • Spring AI로 ChatClient, 구조화된 출력, 스트리밍 응답을 구현하는 실전 감각

  • 벡터 스토어 기반 RAG 파이프라인을 설계부터 청킹 전략까지 직접 구축하는 능력

  • MCP 도구 연동, 멀티모달 처리, 가드레일 적용까지 프로덕션 수준 LLM 서비스를 완성하는 경험

  • Dify Knowledge 기반 AI Assistant 구성 및 Spring Boot 연동 방법

Spring으로 완성하는 LLM 서비스, RAG부터 프로덕션까지

이 강의는 Spring Boot 개발자가 실무에서 바로 활용할 수 있는 LLM 서비스 개발 역량을 갖추는 것을 목표로 합니다. Spring AI의 ChatClient 기본 사용법구조화된 출력, 스트리밍 응답 구현으로 시작해, RAG 파이프라인 구축(벡터 스토어 연동, 청킹 전략, 검색 품질 개선), MCP를 활용한 외부 도구 연동, 이미지 등 멀티모달 입력 처리, Dify 연동, 그리고 서비스 안정성을 위한 가드레일 적용까지 단계적으로 다룹니다. 마지막에는 배운 내용을 통합한 미니 프로젝트로 실제 서비스 형태의 결과물을 완성합니다.

  • 사내 문서/지식 검색: RAG 파이프라인으로 사내 문서, 매뉴얼, 위키를 검색 가능한 챗봇으로 전환

  • 커머스/리테일 AI 연동: MCP 기반 도구 연동으로 주문 조회, 상품 추천 같은 백엔드 기능을 LLM이 직접 호출하도록 구성 (실제 대형 리테일 MCP 커머스 연동 프로젝트에서 쓰인 패턴을 반영)

  • 금융/엔터프라이즈 AI 서비스: 가드레일 적용으로 응답 신뢰성과 안정성이 중요한 금융권 AI 서비스 구조 설계

  • 멀티모달 문서 처리: 이미지가 포함된 문서(계약서, 보고서 등)를 함께 분석하는 서비스

이 강의의 특징

📌 이론 설명에 그치지 않고 실행 가능한 Spring Boot 예제 프로젝트로 직접 실습

📌 RAG 파이프라인을 만들며 겪을 수 있는 실제 문제(청킹 전략, 검색 품질 저하 등)와 해결 과정을 그대로 공유

📌 MCP, 멀티모달, Dify 연동 등 최신 생태계 흐름을 실무 관점에서 반영

📌 미니 프로젝트를 통해 개별 기능이 아닌 하나의 완성된 서비스 구조를 경험 :)

이런 분들께 추천해요

LLM 개발로 레벨업하고 싶어요.
Spring 백엔드 경험은 있지만 LLM 서비스는 어디서부터 시작해야 할지 막막한 분

RAG 서비스 구축에 관심있어요.
RAG를 개념으로만 알고 있고, 직접 구현하며 원리를 체득하고 싶은 분

Spring AI 개발 과정이 궁금해요.
사내 문서 검색, 챗봇, AI 어시스턴트 기능을 Spring 기반으로 만들어야 하는 실무 담당자

수강 후에는

  • Spring AI 생태계 핵심 구성 요소를 활용해 나만의 LLM 서비스를 설계·구현할 수 있게 됩니다. ChatClient, 벡터 스토어, MCP, 가드레일을 조합해 아이디어를 서비스 구조로 옮기는 감각을 갖추게 됩니다.

  • RAG 파이프라인에서 발생하는 문제를 스스로 진단하고 개선할 수 있게 됩니다. 검색 품질이 떨어지는 원인을 청킹 전략, 프롬프트, 벡터 검색 파라미터 단위로 나눠 점검하고 고치는 실무 디버깅 역량을 갖추게 됩니다.

  • 사내 문서·매뉴얼을 검색 가능한 챗봇으로 전환하는 작업을 직접 맡아 진행할 수 있게 됩니다. RAG 기반 지식 검색 시스템을 요구사항 분석부터 구현까지 처음부터 끝까지 설계할 수 있는 수준이 됩니다.

  • MCP를 활용해 LLM이 백엔드 기능(조회, 추천, 처리 등)을 직접 호출하는 통합 작업을 설계할 수 있게 됩니다. 커머스, 사내 시스템 등 기존 API를 LLM 워크플로우에 연결하는 구조를 스스로 그릴 수 있습니다.

  • 가드레일과 안정성 기준이 필요한 AI 서비스(금융, 사내 규정 준수 등)의 초기 아키텍처를 리드할 수 있게 됩니다. "동작하는 데모"가 아니라 "믿고 쓸 수 있는 서비스" 기준으로 설계 논의에 참여할 수 있게 됩니다.

이런 내용을 배워요.

1. Spring AI 핵심 기초

  • ChatClient의 기본 구조와 호출 방식, 프롬프트 템플릿 구성

  • 구조화된 출력(Structured Output)으로 LLM 응답을 자바 객체로 안전하게 매핑하는 방법

  • 스트리밍 응답 구현 — 실시간으로 답변이 출력되는 채팅형 UI를 지원하는 백엔드 설계

2. 도구·멀티모달 확장

  • MCP(Model Context Protocol)를 활용해 LLM이 외부 도구(조회, 처리, 추천 등 백엔드 기능)를 직접 호출하도록 연동

  • 이미지 등 멀티모달 입력을 함께 처리하는 서비스 구조(계약서·보고서 등 문서+이미지 혼합 분석 예시 포함)

  • Dify와의 연동을 통해 노코드 워크플로우와 Spring 백엔드를 결합하는 방법


3. RAG 파이프라인 구축

  • 벡터 스토어 연동 및 임베딩 저장/검색 구조 설계

  • 문서 청킹 전략 비교(토큰 단위 vs 문단 단위)와 상황별 선택 기준 — 실제 검색 품질 저하를 겪고 전략을 바꾼 사례 소개

  • 검색 품질을 떨어뜨리는 원인(의미 단위 손상, 관련도 낮은 청크 혼입 등)을 진단하고 개선하는 방법


4. 서비스 안정화와 실전 프로젝트

  • 가드레일 적용으로 잘못된 응답, 악용 가능한 입력을 걸러내는 방법

  • 금융권 등 신뢰성이 중요한 도메인에서 요구되는 안정성 설계 기준

  • 지금까지 배운 요소(ChatClient, RAG, MCP, 멀티모달, 가드레일)를 하나로 통합하는 미니 프로젝트 진행

이 강의를 만든 사람

"머리속의 지식은 지식이 아니다."라는 생각으로 제가 가지고 있는 작은 경험과 지식을 잘 포장하고, 보다 이해하기 쉽도록 설명하기 위해 노력하고 있습니다. Java와 Spring Framework 기술을 기반으로 LLM, AI 분야에도 관심이이어지는 분들이라고 하면 보다 쉽게 이해할 수 있는 강의가 될 것이라고 생각합니다.

  • 26년 동안의 강의, 컨설팅 및 개발 경력을 바탕으로, 실무적인 경험과 노하우를 이해하기 위한 설명으로 강의를 진행하고 있습니다.

  • 아키텍트·엔지니어로서의 현재: GraphRAG 기반 지식 그래프 시스템과 엔터프라이즈 AI 플랫폼을 직접 설계·개발하고 있습니다.

    • 2023 ~ 현재: (주)엔제이원컴퍼니 대표


    • ) 동국대학교 국제정보대학원 정보보호학과 대우교수

    • ) JP Morgan Chase AMJ Tech consultant (일본)

    • ) 삼성 SDS CMS 사업본부 책임 엔지니어

  • 금융권 AI/LLM 프로젝트 수행: AI·LLM 관련 금융권 프로젝트를 재차 수행하며, 신뢰성과 안정성이 특히 중요한 금융 도메인에서 LLM 서비스를 설계·구현하는 실무 경험을 쌓았습니다.

  • 다년간의 MSA·클라우드 네이티브·AI 강의: Spring Boot, Spring Cloud, MSA, Kafka, Blockchain, Machine Learning, Deep Learning, DevOps 분야에서 강의 하고 있습니다.

  • 기업 강의 및 커리큘럼 설계: 클라우드/MSA/보안/AI 과정 등 다수의 기업·부트캠프 커리큘럼을 설계하고 직접 강의해 왔으며, 이론에 그치지 않고 실제 프로젝트 수행 경험을 강의에 녹여내는 것을 원칙으로 삼고 있습니다.


궁금한 점이 있나요?

Q. AI나 머신러닝을 전혀 몰라도 들을 수 있나요?

A. 네, 가능합니다. 이 강의는 Spring 개발자의 관점에서 LLM 서비스 개발을 다루며, AI 관련 개념은 필요한 시점마다 설명합니다.

Q. 실습에 비용이 발생하나요?

A. LLM API 사용에 따라 비용이 발생할 수 있으며, 로컬 모델(Ollama 등)을 활용한 실습 방법도 함께 안내합니다. 전체 강의를 수강하는 데에는 실습의 실행 횟수에 따라 달라질 수 있지만, 대략 $1~$2정도의 API 비용이 발생될 수 있습니다. 강의에서는 OpenAI에서 제공되는 모델을 사용합니다.

Q. RAG나 MCP를 처음 접해도 따라갈 수 있나요?

A. 네, 개념 설명부터 실습까지 단계적으로 구성되어 있어 처음 접하는 경우에도 무리 없이 따라올 수 있습니다.

Q. 강의를 완주하면 실제 서비스에 적용할 수 있나요?

A. 강의 후반부의 미니 프로젝트가 실제 서비스 구조를 반영하고 있어, 사내 프로젝트나 개인 서비스에 바로 응용할 수 있습니다.

수강 전 참고 사항

실습 환경

  • 강의는 MacOS(Sequoia 15.7.4 기준으로 설명합니다만, 윈도우 OS를 사용하시는 분들도 쉽게 따라오실 수 있습니다.

  • 강의에서는 OpenJDK 21+을 기반으로 IntelliJ IDEA와 Postman을 이용하여 실습을 진행합니다.

  • 빌드 도구로 Maven 또는 Gradle을 사용합니다.

  • PGVector 실습을 위해 도커 컨테이너 실행을 위한 Docker Desktop 설치가 필요합니다.

  • 구현한 API를 테스트하고 스트리밍 응답 등을 직접 호출해 확인하기 위해 Postman을 사용합니다.

학습 자료

  • 섹션별 슬라이드 자료(한글) 제공 (PDF 파일)

  • 실행 가능한 Spring Boot 예제 프로젝트 제공 (Github repo 제공)

선수 지식 및 유의사항

  • Spring Boot 기본 사용 경험 필요 (REST API의 이해)

  • AI/LLM 관련 사전 지식은 필요하지 않음

  • 실습을 위해 LLM API 키(또는 로컬 모델 실행 환경)가 필요할 수 있음 (실습 예제에서 상세히 설명 드립니다)

이런 분들께
추천드려요

학습 대상은
누구일까요?

  • Spring Boot 경험은 있지만 LLM/AI 서비스 개발은 처음인 백엔드 개발자

  • RAG, 벡터 검색 등을 튜토리얼 수준이 아니라 실무 프로젝트에 적용하고 싶은 개발자

  • RAG와 LLM 기술을 실습 중심으로 이해하고 싶은 AI 서비스 기획자

  • 사내 AI 기능(챗봇, 문서 검색, 추천 등)을 Spring 기반으로 직접 구현해야 하는 실무자

선수 지식,
필요할까요?

  • Spring Boot 기본 문법과 REST API 개념 이해

  • Java 프로그래밍 기초 지식 및 객체지향 개념 이해

  • HTTP 통신과 JSON 데이터 처리에 대한 기본 이해

안녕하세요
Dowon Lee입니다.

인프런인증

30,934

수강생

1,757

수강평

1,381

답변

4.8

강의 평점

9

강의

저는 IT 엔지니어입니다. 언젠가 직업란에 "회사원?", "개발자?", "강사?" 어떤 단어를 선택해야 할 지 고민이 되었던 때가 있었습니다. 그러다가, IT 엔지니어라는 표현이 제가 잘 어울리는 직업명이라는 생각이 들어 지금까지도 직업란에는 "IT 엔지니어"라고 적고 있습니다.

직업이라는 것은 자신의 일을 나타내는 것이고, 일이라는 것은 재미있고, 도움이 되는 일이면 좋겠다는 생각을 가지고 있습니다. 누구나 다 원하는대로 일을 하며 살수는 없지만, 저는 제가 하는 있는 이 일을 좋아하는 있고, 잘하고 싶어하는 사람입니다. 개발자로써, 강사로써, 컨설턴트로써의 역할을 해 오면서, 매번 새롭게 출시되고 변화하는 IT 신기술을 따라가기에 급급하지만, 그래도, 남들보다 조금이라도 먼저 접하고, 전파하고, 사용하고 싶은 사람 중 한명입니다. 

최근 관심을 가지고 있는 분야는 온라인 교육 컨설팅입니다. 그리고 관심있는 기술은 Cloud Native Architecture, Blockchain, Machine Learning, Kafka, Kuberbetes 등입니다. 이러한 기술은 실제로 강의도 하고 있고 업무에 적용해서 사용도 하고 있습니다. 하지만, 워낙 방대한 주제이다 보니, 아직까지도 계속 공부하고 있습니다.

머리속에 가지고 있는 것은 진정한 지식이 아니라고 합니다. 저는 제가 가진 지식과 경험을 다양한 방벙을 통해 공유하려 합니다. 그리고, 새로운 분야, 새로운 기술에 계속 도전하고 있는 IT 엔지니어가 될 것입니다.  

 

 

  • ) 엔제이원컴퍼니 대표 

  • ) 동국대학교 국제정보대학원 정보보호학과 대우교수

  • ) JP Morgan Chase AMJ Tech consultant (일본)

  • ) 삼성 SDS CMS 사업본부 책임 엔지니어

 

 

더보기

커리큘럼

전체

124개 ∙ (19시간 38분)

해당 강의에서 제공:

수업자료
강의 게시일: 
마지막 업데이트일: 

수강평

아직 충분한 평가를 받지 못한 강의입니다.
모두에게 도움이 되는 수강평의 주인공이 되어주세요!

Dowon Lee님의 다른 강의

지식공유자님의 다른 강의를 만나보세요!

비슷한 강의

같은 분야의 다른 강의를 만나보세요!

얼리버드 할인 중

₩19,470

70%

₩64,900

평생교육이용권 지원 강의