NEW

RAG를 활용한 LLM Application 개발 (feat. LangChain)

(5.0) 수강평 4

수강생 67

Thumbnail

초급자를 위해 준비한
[AI · ChatGPT 활용, RAG] 강의입니다.

실리콘밸리 GenAI 해커톤 우승자에게 배우는 RAG. 현업 노하우를 가득 담았습니다

이런 걸
배워요!

  • LangChain

  • Large Language Model

  • Vector Database

  • Retrieval Augmented Generation(RAG)

실리콘밸리 GenAI 해커톤 우승자가 말아주는 RAG

  • 데이터 전처리 및 효율적인 Retrieval: RAG 구성을 위해 필요한 데이터 전처리 기술과 키워드를 활용하여 검색 효율을 극대화하는 방법을 배웁니다.

  • 효율적인 프롬프트 작성방법: LLM 성능이 좋아져서 한국어로도 프롬프트를 작성해도 좋은 결과를 얻을 수 있습니다. LangChain의 PromptTemplate을 활용해서 한국어 프롬프트 작성 방법을 배웁니다.

  • LLM 성능 평가와 서비스 최적화: 서비스 배포 후 LLM 평가를 통해 모델의 성능, 신뢰성, 정확성을 체계적으로 측정하고 최적화하는 방법을 익힙니다.

RAG? 검색 증강 생성?

RAG는 검색 증강 생성(Retrieval Augmented Generation)으로 대규모 언어 모델(LLM)의 성능을 향상시키는 기술입니다. LLM은 방대한 텍스트 데이터를 학습하여 뛰어난 언어 이해와 생성 능력을 가지지만, 편향성과 사실 관계 오류 등의 한계가 있습니다. RAG는 실시간 정보 검색을 통해 이러한 한계를 보완하고 정확성과 신뢰성을 높일 수 있습니다.

이 강의의 특징

📌 현업에서 LLM Application 개발/배포/운영 중 몸으로 부딛히면서 배운 노하우들을 담았습니다

📌 이론 10% 실습 90%. 필수 이론만 가볍게 설명하고 모든 강의는 라이브 코딩으로 이루어집니다

📌 에러를 의도적으로 편집하지 않았습니다. LLM 서비스 개발 중 디버깅 하는 방법을 배울 수 있습니다

📌 강의질문 해결 100%! 질의응답을 통해 강의 내용이나 현업에서 마주친 어려움을 같이 해결합니다

이런 분들께 추천해요

어디서부터 시작할지 모르겠어요.
LLM을 사용한 서비스를 만들고 싶은데, 어디서부터 시작해야
할지 막막한 개발자/개발팀

RAG가 뭐에요?
RAG가 뭔지, 왜 중요한지 궁금해요. 최신 기술을 이해하고 이를 활용해 나만의 AI 응용 프로그램을 개발하고 싶은 분.

더이상 뭘 해야 할까요?
LLM Application 개발 중
Hallucination 문제를
해결해야하는 개발자/개발팀

수강 후에는

  • 데이터 전처리 및 키워드 활용: RAG 구성을 위해 필요한 데이터 전처리 기술과 키워드를 활용하여 검색 효율을 극대화하는 방법을 배울 수 있어요.

  • 모델 성능 평가: LLM 평가를 통해 모델의 성능, 신뢰성, 정확성을 체계적으로 측정하고 최적화하는 방법을 익히게 돼요. 평가 결과를 통해 모델의 품질을 향상시키는 방법을 배워요.

  • 서비스 배포 및 유지보수: Streamlit과 같은 도구를 사용하여 애플리케이션을 배포하고 유지보수하는 방법을 익히고, 실무에 바로 적용할 수 있는 스킬을 갖추게 돼요.

  • Hallucination 문제 해결: LLM 모델이 생성하는 부정확한 정보를 최소화하고, 더 신뢰성 있는 정보를 제공하기 위한 기술을 배우게 돼요.

  • 최신 AI 기술 이해 및 응용: RAG와 같은 최신 AI 기술을 이해하고 이를 활용하여 나만의 AI 응용 프로그램을 개발할 수 있어요

이런 내용을 배워요.

LLM 답변 Streaming

LLM이 답변을 생성하는 동안 사용자가 계속해서
로딩 화면을 보고있다면 서비스 속도가 느린것처럼 느끼게 됩니다. Streaming을 통해 사용자 경험을
개선하는 방법을 배웁니다

답변의 출처 제공

LLM 서비스에서 가장 문제가 되는 Hallucination.
답변을 생성하면서 답변의 출처를 사용자에게 같이 제공해서 답변의 신뢰도를 향상시키는 방법을
배웁니다

LangSmith를 활용한 LLM Evaluation

서비스 운영중에 Knowledge Base도 변경되고,
프롬프트도 수정해야 합니다. 업데이트 할 때마다
개발자가 하나씩 테스트 할 수는 없습니다.
안정적인 서비스 운영을 위해 LangSmith 활용해서 모델의 정확도를 검증하는 방법을 배웁니다

LangChain Expression Language (LCEL)

LangChain은 다양한 chain들을 연결해서 사용할 수 있다는 걸 아시나요? LCEL 문법을 활용해서
다양한 기능을 하는 chain들을 구현하고 연결시켜 사용하는 방법을 배웁니다

Vector Database(Chroma, Pinecone)

LangChain을 활용해서 Chroma, Pinecone과
같은 Vector Database를 활용해서 데이터를 저장하고, 유사도 검색을 통해 관련있는 문서를 가져오는 방법을 배웁니다

이 강의를 만든 사람



수강 전 참고 사항

실습 환경

  • 강의는 MacOS 기준으로 설명합니다.

    • 윈도우, Linux 환경에서도 파이썬이 구동된다면 따라오실 수 있습니다


학습 자료

  • 소스코드 GitHub Repository (Jupyter Notebook, Streamlit)

  • 보충 설명을 위한 GitBook

선수 지식 및 유의사항

  • Python 기본문법

  • ChatGPT를 한번이라도 사용해보신 분들은 쉽게 이해하실 수 있습니다

  • LLM Application 개발 중 어려움을 겪으신 분들께 가장 많은 도움이 될 것 같습니다

이런 분들께
추천드려요!

학습 대상은
누구일까요?

  • LLM 서비스를 만들어보고 싶은 개발자

  • LLM Application 개발 경험이 있는 개발자

  • RAG 구성중 어려움을 겪는 개발자

선수 지식,
필요할까요?

  • 파이썬

커리큘럼

전체

23 ∙ 3시간 6분

수업 자료

가 제공되는 강의입니다.

강의 게시일: 2024년 06월 28일
마지막 업데이트일: 2024년 07월 13일

수강평

아직 충분한 평가를 받지 못한 강의입니다.
모두에게 도움이 되는 수강평의 주인공이 되어주세요!