Inflearn brand logo image
Inflearn brand logo image
AI 개발

/

AI에이전트 개발

메이드 인 RAG(로컬 LLM QA시스템) With Docker + ollama + R2R

Docker + ollama + R2R 프레임워크를 이용해서 실습 2시간만에 로컬 LLM with RAG기반 QA 시스템을 구축합니다. (사내/인하우스 QA 시스템, 개인 포트폴리오, AI 활용 업무능력, 상용서비스까지 가능합니다)

7명 이 수강하고 있어요.

이런 걸 배울 수 있어요

  • 로컬에서 LLM을 운용하는 방법을 알게됩니다.

  • 말로만 듣던 AI Q&A 시스템을 로컬에 구현합니다.

  • 특정 도메인 지식을 기반으로 AI Q&A 시스템을 구축합니다.

  • Docker 기반 AI 시스템을 구축하는 방법을 배우게됩니다.

  • AI 오픈소스 프로젝트를 활용하는 방법을 배우게됩니다.

  • 사내/인하우스에서 사용할 수 있는 로컬(또는 생성형AI API) LLM 기반 RAG 시스템을 구현하게됩니다.

  • 멀게만 느껴지던 AI 시스템 구현에 한걸음 다가서게됩니다.

  • LLM 오픈 프레임워크의 끝판왕 'ollama'에 대해 알게됩니다.

LLM 기반 QA시스템을 만들어보고 싶은데... 어떻게 만들지?

한없이 어렵게만 느껴지는 AI 기술 개발!

1) Docker, ollama, R2R 프레임워크를 이용한 로컬 LLM QA 시스템으로 AI 세계로 초대합니다!

2) 가벼운 발걸음으로 빠르게 AI 인프라 기술 부터, 실무에 적용가능한 오픈소스 프로젝트 활용까지!

3) 사내/인하우스 사용에도 보안 걱정없는 On-premise 구축을 할 수 있습니다!

이 강의의 특징

📌 강의 수강 후, 바로 실무에서 사용할 수 있는 사내 Local 및 상용 LLM 기반 RAG 시스템을 구축!

📌 인공지능(AI) 관련 오픈소스 프로젝트에 대한 감각을 기를 수 있습니다.

📌 멀게만 느껴지는 AI 기술 개발 활용에 대한 기회를 얻게 됩니다.

📌 인공지능(AI) 기술 인프라에 필요한 Docker, WSL와 같은 인프라 및 운영체제 개념을 체험하게됩니다.

이런 분들께 추천해요

사내에 AI 및 인공지능 기술 활용을 해보고 싶어요.

여기저기서 들려오는 AI 활용을 해보고 싶지만 어디서부터 해야할지 모르는 프로그래머!

프로그래머 포트폴리오에 AI 이력도 추가해보고 싶어요~
AI 시대에 단 1번도 관련 기술을 사용해본적이 없어 내심 두려운 프로그래머 및 취업준비생!

AI 관련 오픈소스 프로젝트가 궁금해요!
AI 시대에 관련 오픈소스 프로젝트를 어떻게 사용할지 궁금한 개발자!

수강 후에는

  • 어느새 AI 기술 활용에 한걸음 딛게된 자신을 보게됩니다.

  • 사내에서 AI 시스템을 구축한 개발자로 이름을 날리게됩니다.

  • AI 개발이 이렇게나 가까운곳에 있었던거야!? 라고 놀라는 자신을 보게됩니다.

  • 인공지능 그리고 AI에 대한 개념에 대해 한층 더 깊게 이해하게 됩니다.

  • wsl, Docker등 인프라에 필요한 개념 및 활용법을 알게됩니다.

  • LLM 기반 RAG 시스템을 통해 AI Q&A 시스템에 대해 알게됩니다.

이런 내용을 배워요.

R2R dashboard를 통해 편리한 임베딩 작업

QA시스템에 필요한 도메인 지식 임베딩을 편리하게 작업합니다.

멀게만 느껴지는 LLM 기반 QA 시스템을 구축!

ollama, docker, wsl을 바탕으로 만들어진 LLM QA시스템을 경험해보세요!

이 강의를 만든 사람

  • 현재 대기업 게임 N 사 혼모노 프로그래머.

  • 시스템/프로그래밍/게임 개발/데브옵스/서브컬처/드로잉에 관심이 많은 사람.

  • AI 및 서브컬처가 세상을 바꿀거란 믿음이 확고한 사람.


  • 실수와 실패에서 진정한 성장의 씨앗이 있다고 생각하는 사람.

수강 전 참고 사항

실습 환경

  • 강의는 Windows10 기준으로 진행합니다.

  • 윈도우에서 제공되는 리눅스 커널 기반 가상머신을 이용하게 됩니다. (WSL)

  • WLS에 Docker 시스템을 설치 후 이용하게됩니다.

학습 자료

이런 분들께
추천드려요!

학습 대상은
누구일까요?

  • AI 시스템을 구현해보고 싶은 프로그래머

  • AI 시스템을 포트폴리오로 구성하고 싶은 프로그래머 지망생

  • 사내/인하우스에서 특정 도메인 기반 AI Q&A 시스템을 구축하고 싶은 프로그래머

  • 로컬에서 LLM을 운영해보고 싶은 사람

  • AI 흐름에 몸을 맡겨보고 싶은 프로그래머

  • Docker 기반 AI 시스템을 구축해보고 싶은 프로그래머 및 지망생

  • AI 오픈소스 프로젝트를 처음 해보는 사람

  • AI 오픈소스 프로젝트를 실무에 적용해보고 싶은 프로그래머

선수 지식,
필요할까요?

  • Docker

  • LLM에 대한 기본적인 개념

  • AI 활용 능력을 향상시키고 싶은 마음과 의지

  • AI 시스템 인프라 구축에 대한 관심

  • 오픈소스 프로젝트에 대한 관심

안녕하세요
입니다.

828

수강생

20

수강평

4.9

강의 평점

4

강의

 

 

장송의 프리렌 그림.jpg.webp

 

※ 현재 대기업 게임 N사에서 프로그래머로 살고 있습니다.

※ 시스템/게임 개발/프로그래밍/데브옵스/드로잉/서브컬처/AI에 관심이 많습니다.

※ 서브컬처와 AI가 세상을 바꿀 수 있다고 믿고 있습니다.

※ 깃허브 >> https://github.com/kojeomstudio

※ 도커 허브 >>https://hub.docker.com/repositories/kojeomstudio

 

커리큘럼

전체

7개 ∙ (1시간 47분)

  • 2. LLM 그리고 프레임워크

    11:10

강의 게시일: 
마지막 업데이트일: 

수강평

아직 충분한 평가를 받지 못한 강의입니다.
모두에게 도움이 되는 수강평의 주인공이 되어주세요!

코점스튜디오님의 다른 강의

지식공유자님의 다른 강의를 만나보세요!

비슷한 강의

같은 분야의 다른 강의를 만나보세요!