시스템 디자인 첫걸음 with LLM: 운영 가능한 AI 서비스(RAG·AI Agent) 아키텍처 설계하기
기존 백엔드에 LLM이 결합되면 아키텍처가 어떻게 달라질까? 단순한 LLM API 호출을 넘어, Model Router, LLM Gateway, Vector DB 등 AI 서비스의 핵심 컴포넌트를 이해하고, RAG와 AI Agent를 포함한 운영 가능한 AI 서비스 아키텍처를 단계적으로 설계하는 시스템 디자인 입문 강의입니다. 자신만의 LLM 기반 AI 서비스를 만들고 싶은 분들을 위해 설계 흐름을 빠르게 익힐 수 있도록 돕습니다.
수강생 76명
난이도 초급
수강기한 무제한
🚀 LLM을 사용한 애플리케이션 아키텍처를 설계하는 여정을 함께해요!
안녕하세요, 성장랜턴입니다.
오랜만에 새로운 강의 「시스템 디자인 첫걸음 with LLM: 운영 가능한 AI 서비스(RAG·AI Agent) 아키텍처 설계하기」로 인사드립니다.
지난 강의 「시스템 디자인 첫걸음」은 백엔드 개발을 시작했거나 준비하고 계신 분들이 시스템을 설계할 때 알아야 하는 전체적인 아키텍처의 큰 그림을 빠르게 잡을 수 있도록 돕기 위해 만든 강의였습니다.
강의를 만들고 난 뒤, 다음에는 어떤 이야기를 해보면 좋을까 고민하다가 자연스럽게 LLM을 활용한 서비스에 대한 이야기를 해보고 싶다는 생각이 들었습니다.
요즘 LLM이나 AI에 대한 관심은 점점 커지고 있고, 직접 AI 서비스를 만드는 것도 예전보다 훨씬 쉬워졌습니다. 주변에서도 사이드 프로젝트로 LLM을 활용한 서비스를 만들어보는 개발자분들을 어렵지 않게 볼 수 있습니다.
그렇지만 막상 AI라는 새로운 영역에 처음 진입하려고 하면 어디서부터 시작해야 할지, 특히 기존에 엔지니어링 백그라운드를 가지고 계신 분들이라면 이 분야에서 어떤 것들을 알아두면 나에게 도움이될지 막막하게 느껴지는 것 같습니다.
AI를 공부한다고 하면 자연스럽게 모델의 원리나 학습, 튜닝 방법처럼 AI 모델 자체에 대한 내용이 많이 이야기되는 것 같습니다. 하지만 최근에는 이미 만들어진 LLM을 활용해 실제 서비스를 만들고 운영하는 AI 엔지니어링 영역도 빠르게 발전하고 있습니다.
어떤 모델을 선택할지부터 요청과 상태를 어떻게 관리할지, 필요한 데이터를 어떻게 검색하고 모델에 전달할지, 여러 컴포넌트와 도구를 어떻게 연결할지 등 실제 서비스 개발에는 다양한 엔지니어링적인 고민이 필요합니다.
아무래도 제가 백엔드 개발자로 일하고 있다 보니, 이번 강의에서는 이런 엔지니어링 영역에 좀 더 초첨을 맞춰서 LLM을 활용한 서비스를 어떻게 설계하고 운영할 수 있는지를 다뤄보고 싶었습니다. 사실 처음에는 이전 강의에 몇 개의 추가강의로 올려보려고했는데, 만들다보니 설명하고 싶은 내용이 계속 늘어나서 😅 결국 이렇게 별도의 강의로 출시하게 되었습니다.
최대한 입문자 분들도 전체적인 큰 그림을 빠르게 잡을 수 있도록 내용을 구성했습니다. 혹시 강의를 들으시면서 궁금한 점이나, "이 부분은 조금 더 설명이 필요할 것 같다" 싶은 내용이 있다면 질문 게시판이나 수강평을 통해 편하게 피드백 남겨주시면 감사하겠습니다!
피드백을 통해서 실제로 성장에 도움이 될 수 있는 좋은 콘텐츠가 될 수 있도록 더 발전시키겠습니다.
이번 강의가 AI 서비스를 공부하고 만들어보고 싶지만 어디서부터 시작해야 할지 막막한 분들에게, 전체적인 그림을 잡고 앞으로 어떤 고민들을 해나가야 할지 알려주는 작은 길잡이가 되었으면 좋겠습니다.
그럼 오늘도 새로운 지식에 호기심을 가지고 공부하고 계신 여러분들, 정말 고생 많으셨습니다!
새로운 강의도 잘부탁드립니다 😊




