강의

멘토링

커뮤니티

AI 기술

/

AI에이전트 개발

메이드 인 RAG(로컬 LLM Q&A시스템) With Docker + ollama + R2R

Docker + ollama + R2R 프레임워크를 이용해서 실습 2시간만에 로컬 LLM with RAG기반 Q&A 시스템을 구축합니다. (사내/인하우스 QA 시스템, 개인 포트폴리오, AI 활용 업무능력, 상용서비스까지 가능합니다)

(5.0) 수강평 3개

수강생 27명

난이도 초급

수강기한 무제한

  • 코점스튜디오

먼저 경험한 수강생들의 후기

수강 후 이런걸 얻을 수 있어요

  • 로컬에서 LLM을 운용하는 방법을 알게됩니다.

  • 말로만 듣던 AI Q&A 시스템을 로컬에 구현합니다.

  • 특정 도메인 지식을 기반으로 AI Q&A 시스템을 구축합니다.

  • Docker 기반 AI 시스템을 구축하는 방법을 배우게됩니다.

  • AI 오픈소스 프로젝트를 활용하는 방법을 배우게됩니다.

  • 사내/인하우스에서 사용할 수 있는 로컬(또는 생성형AI API) LLM 기반 RAG 시스템을 구현하게됩니다.

  • 멀게만 느껴지던 AI 시스템 구현에 한걸음 다가서게됩니다.

  • LLM 오픈 프레임워크의 끝판왕 'ollama'에 대해 알게됩니다.

LLM 기반 Q&A시스템을 만들어보고 싶은데... 어떻게 만들지?

한없이 어렵게만 느껴지는 AI 기술 개발!

1) Docker, ollama, R2R 프레임워크를 이용한 로컬 LLM Q&A 시스템으로 AI 세계로 초대합니다!

2) 가벼운 발걸음으로 빠르게 AI 인프라 기술 부터, 실무에 적용가능한 오픈소스 프로젝트 활용까지!

3) 사내/인하우스 사용에도 보안 걱정없는 On-premise 구축을 할 수 있습니다!

이 강의의 특징

📌 강의 수강 후, 바로 실무에서 사용할 수 있는 사내 Local 및 상용 LLM 기반 RAG 시스템을 구축!

📌 인공지능(AI) 관련 오픈소스 프로젝트에 대한 감각을 기를 수 있습니다.

📌 멀게만 느껴지는 AI 기술 개발 활용에 대한 기회를 얻게 됩니다.

📌 인공지능(AI) 기술 인프라에 필요한 Docker, WSL와 같은 인프라 및 운영체제 개념을 체험하게됩니다.

이런 분들께 추천해요

사내에 AI 및 인공지능 기술 활용을 해보고 싶어요.

여기저기서 들려오는 AI 활용을 해보고 싶지만 어디서부터 해야할지 모르는 프로그래머!

프로그래머 포트폴리오에 AI 이력도 추가해보고 싶어요~
AI 시대에 단 1번도 관련 기술을 사용해본적이 없어 내심 두려운 프로그래머 및 취업준비생!

AI 관련 오픈소스 프로젝트가 궁금해요!
AI 시대에 관련 오픈소스 프로젝트를 어떻게 사용할지 궁금한 개발자!

수강 후에는

  • 어느새 AI 기술 활용에 한걸음 딛게된 자신을 보게됩니다.

  • 사내에서 AI 시스템을 구축한 개발자로 이름을 날리게됩니다.

  • AI 개발이 이렇게나 가까운곳에 있었던거야!? 라고 놀라는 자신을 보게됩니다.

  • 인공지능 그리고 AI에 대한 개념에 대해 한층 더 깊게 이해하게 됩니다.

  • wsl, Docker등 인프라에 필요한 개념 및 활용법을 알게됩니다.

  • LLM 기반 RAG 시스템을 통해 AI Q&A 시스템에 대해 알게됩니다.

이런 내용을 배워요.

R2R dashboard를 통해 편리한 임베딩 작업

Q&A시스템에 필요한 도메인 지식 임베딩을 편리하게 작업합니다.

멀게만 느껴지는 LLM 기반 Q&A 시스템을 구축!

ollama, docker, wsl을 바탕으로 만들어진 LLM Q&A시스템을 경험해보세요!

이 강의를 만든 사람

강사 소개

수강 전 참고 사항

실습 환경

  • 강의는 Windows10 기준으로 진행합니다.

  • 윈도우에서 제공되는 리눅스 커널 기반 가상머신을 이용하게 됩니다. (WSL)

  • WLS에 Docker 시스템을 설치 후 이용하게됩니다.


강의 내용 기준으로는 R2R의 경우 포함된 버전(3.6.0)으로 진행해주시면 좋습니다.

다만 R2R프레임워크가 앞으로 계속 개선된다는 가정하에 최신 버전으로 진행해도 큰 문제는 없습니다. (일부 명령어나 세팅이 변경될 수 있는점을 고려하셔야합니다.)

3.6.0의 경우 R2R 공식 깃허브 리포지터리에서 Release Tags를 참고하시거나 저자가 별도로 아카이브한 링크를 참조해주세요.

github

docker hub : docker pull kojeomstudio/r2r:3.6.0

  • 3.6.0 버전을 직접 땡기셔도됩니다. (저자가 만든 이미지)


p.s. R2R-dashboard의 경우 변동사항이 적으므로 최신 버전을 이용해도 좋습니다.

p.s2 만약 mac os 환경에서 강의 진행을 원하시는 경우, mac os 기준 세팅 과정을 "커뮤니티 -> 자주 묻는 질문"에 정리했으니 참고 부탁드립니다! :)

학습 자료

이런 분들께
추천드려요

학습 대상은
누구일까요?

  • AI 시스템을 구현해보고 싶은 프로그래머

  • AI 시스템을 포트폴리오로 구성하고 싶은 프로그래머 지망생

  • 사내/인하우스에서 특정 도메인 기반 AI Q&A 시스템을 구축하고 싶은 프로그래머

  • 로컬에서 LLM을 운영해보고 싶은 사람

  • AI 흐름에 몸을 맡겨보고 싶은 프로그래머

  • Docker 기반 AI 시스템을 구축해보고 싶은 프로그래머 및 지망생

  • AI 오픈소스 프로젝트를 처음 해보는 사람

  • AI 오픈소스 프로젝트를 실무에 적용해보고 싶은 프로그래머

선수 지식,
필요할까요?

  • Docker

  • LLM에 대한 기본적인 개념

  • AI 활용 능력을 향상시키고 싶은 마음과 의지

  • AI 시스템 인프라 구축에 대한 관심

  • 오픈소스 프로젝트에 대한 관심

안녕하세요
입니다.

1,087

수강생

35

수강평

2

답변

4.9

강의 평점

5

강의

 

 

장송의 프리렌 그림.jpg.webp

 

강사 소개

커리큘럼

전체

7개 ∙ (1시간 47분)

강의 게시일: 
마지막 업데이트일: 

수강평

전체

3개

5.0

3개의 수강평

  • 이성수님의 프로필 이미지
    이성수

    수강평 2

    평균 평점 5.0

    5

    43% 수강 후 작성

    • 최성동님의 프로필 이미지
      최성동

      수강평 5

      평균 평점 4.0

      5

      43% 수강 후 작성

      설명이 쉽고 잘 이해가 되요

      • 류하경님의 프로필 이미지
        류하경

        수강평 2

        평균 평점 5.0

        5

        100% 수강 후 작성

        월 ₩321,817

        5개월 할부 시

        ₩77,000

        코점스튜디오님의 다른 강의

        지식공유자님의 다른 강의를 만나보세요!

        비슷한 강의

        같은 분야의 다른 강의를 만나보세요!