Làm hệ thống QA LLM cục bộ bằng RAG (Retrieval-Augmented Generation) với Docker + ollama + R2R

Name: Làm hệ thống QA LLM cục bộ bằng RAG (Retrieval-Augmented Generation) với Docker + ollama + R2R
Price: 77000 KRW
Rating: 5 (3 reviews)

Sử dụng Docker + ollama + R2R framework, xây dựng hệ thống QA dựa trên RAG với LLM cục bộ chỉ trong 2 giờ thực hành. (Có thể áp dụng cho hệ thống QA nội bộ/in-house, portfolio cá nhân, năng lực làm việc ứng dụng AI, và cả dịch vụ thương mại.)

(5.0) 3 đánh giá

23 học viên

kojeomstudio

실습 중심

Docker

wsl

LLM

Đánh giá từ những học viên đầu tiên

Bạn sẽ nhận được điều này sau khi học.

Sẽ học được cách chạy LLM cục bộ.
Triển khai cục bộ hệ thống AI Q&A chỉ nghe danh.
Xây dựng hệ thống AI Q&A dựa trên kiến thức chuyên ngành.
Bạn sẽ được học cách xây dựng hệ thống AI dựa trên Docker.
Học cách sử dụng các dự án mã nguồn mở AI.
Triển khai hệ thống RAG nền tảng LLM cục bộ (hoặc API AI tạo sinh) dùng nội bộ.
Đã tiến thêm một bước đến việc triển khai hệ thống AI từng tưởng chừng xa vời.
Bạn sẽ được biết đến 'ollama', ông vua của LLM open framework.

Tôi muốn tạo một hệ thống QA dựa trên LLM... nhưng làm thế nào để tạo?

Phát triển công nghệ AI vốn cảm thấy vô cùng khó khăn!

1) Chào mừng bạn đến với thế giới AI thông qua hệ thống QA LLM cục bộ sử dụng Docker, ollama và framework R2R!

2) Với bước chân nhẹ nhàng, nhanh chóng từ công nghệ hạ tầng AI đến ứng dụng các dự án mã nguồn mở có thể áp dụng vào thực tế!

3) Có thể xây dựng hệ thống On-premise an toàn cho sử dụng nội bộ công ty/in-house!

Đặc điểm của khóa học này

📌 Sau khi hoàn thành khóa học, bạn có thể xây dựng ngay hệ thống RAG dựa trên LLM Local nội bộ và LLM thương mại để sử dụng trong công việc thực tế!

📌 Bạn có thể rèn luyện khả năng nhận thức về các dự án mã nguồn mở liên quan đến Trí tuệ nhân tạo (AI).

📌 Bạn sẽ có cơ hội tiếp cận và ứng dụng công nghệ AI vốn cảm thấy xa vời.

📌 Trải nghiệm các khái niệm về cơ sở hạ tầng và hệ điều hành như Docker, WSL cần thiết cho cơ sở hạ tầng công nghệ trí tuệ nhân tạo (AI).

Sau khi học xong

Bạn sẽ thấy mình đã bước thêm một bước trong việc ứng dụng công nghệ AI.
Bạn sẽ trở nên nổi tiếng trong công ty với tư cách là nhà phát triển đã xây dựng hệ thống AI.
Bạn sẽ thấy mình ngạc nhiên rằng: "Phát triển AI lại gần gũi đến vậy sao!?"
Bạn sẽ hiểu sâu hơn một tầng về khái niệm trí tuệ nhân tạo và AI.
WSL, Docker và các khái niệm cần thiết cho hạ tầng cũng như cách sử dụng chúng sẽ được tìm hiểu.
Bạn sẽ tìm hiểu về hệ thống AI Q&A thông qua hệ thống RAG dựa trên LLM.

Người tạo ra khóa học này

Giới thiệu giảng viên

Lý lịch
- Hiện tại tôi đang làm lập trình viên game tại công ty game lớn N.
- Lọt vào vòng chung kết 2025 KAKAO AI_TOP_100!
Sở thích
- Tôi rất quan tâm đến hệ thống/phát triển game/lập trình/DevOps/vẽ/văn hóa phụ/AI.
Điều muốn nói
- Tôi tin rằng văn hóa phụ và AI có thể thay đổi thế giới.
- Tôi tin rằng hạt giống của sự phát triển thực sự nằm trong những sai lầm và thất bại.
Repository & Nền tảng Mạng xã hội
- GitHub: https://github.com/kojeomstudio
- Docker Hub: https://hub.docker.com/repositories/kojeomstudio
- YouTube : https://youtube.com/@kojeomstudio?si=1UzGf9_6-B8NBYnr

Môi trường thực hành

Khóa học được tiến hành dựa trên Windows 10.
Bạn sẽ sử dụng máy ảo dựa trên nhân Linux được cung cấp bởi Windows. (WSL)
Bạn sẽ cài đặt hệ thống Docker trên WSL và sử dụng nó.

Dựa trên nội dung bài giảng, với R2R thì nên tiến hành với phiên bản đã bao gồm (3.6.0).

Tuy nhiên, với giả định rằng framework R2R sẽ tiếp tục được cải thiện, việc tiến hành với phiên bản mới nhất cũng không có vấn đề gì lớn. (Bạn cần lưu ý rằng một số lệnh hoặc cài đặt có thể thay đổi.)

Đối với phiên bản 3.6.0, vui lòng tham khảo Release Tags trên repository GitHub chính thức của R2R hoặc tham khảo link archive riêng của tác giả.

github

3.6.0 : AI/llm/rag/archive/R2R-3.6.0.zip tại main · kojeomstudio/AI
release : https://github.com/kojeomstudio/R2R

docker hub : docker pull kojeomstudio/r2r:3.6.0

Bạn cũng có thể tải trực tiếp phiên bản 3.6.0. (hình ảnh do tác giả tạo)

p.s. Trong trường hợp R2R-dashboard, do có ít thay đổi nên bạn có thể sử dụng phiên bản mới nhất.

Tài liệu học tập

Các lệnh được sử dụng trong khóa học được tổng hợp dưới dạng file pdf trong github repo của tác giả.
- toy_workspace/Documents/WSL2_Docker_설치_가이드.pdf tại main · kojeomstudio/toy_workspace
- toy_workspace/AI/LLM/rag/r2r-3.6.0/my_r2r_config.toml tại main · kojeomstudio/toy_workspace
Nếu bạn quan tâm nhiều hơn đến việc sử dụng AI, hãy tham khảo repo dưới đây của tác giả.
- kojeomstudio/AI: ML, RL, DL và nhiều thứ khác

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

Lập trình viên muốn triển khai hệ thống AI
Lập trình viên tương lai muốn tạo hệ thống AI làm portfolio.
Lập trình viên muốn xây dựng hệ thống AI Q&A dựa trên domain cụ thể trong nội bộ/in-house
Người muốn thử chạy LLM trên máy local.
Lập trình viên muốn hòa mình vào xu hướng AI
Lập trình viên và những người có nguyện vọng muốn xây dựng hệ thống AI dựa trên Docker
Người mới làm dự án mã nguồn mở AI
Lập trình viên muốn áp dụng dự án mã nguồn mở AI vào thực tế.

Cần biết trước khi bắt đầu?

Docker
Khái niệm cơ bản về LLM
Mong muốn và ý chí nâng cao năng lực sử dụng AI
Quan tâm đến xây dựng hạ tầng hệ thống AI
Quan tâm đến dự án mã nguồn mở

Xin chào
Đây là

1,067

Học viên

Đánh giá

Trả lời

4.9

Xếp hạng

Các khóa học

강사 소개

이력
- 현재 대기업 게임 N사에서 게임 프로그래머로 살고 있습니다.
- 2025 KAKAO AI_TOP_100 본선 진출!
관심사
- 시스템/게임 개발/프로그래밍/데브옵스/드로잉/서브컬처/AI에 관심이 많습니다.
하고 싶은 말
- 서브컬처와 AI가 세상을 바꿀 수 있다고 믿고 있습니다.
- 실수와 실패에서 진정한 성장의 씨앗이 있다고 믿습니다.
리포지터리 & 소셜 플랫폼
- 깃허브 : https://github.com/kojeomstudio
- 도커 허브 : https://hub.docker.com/repositories/kojeomstudio
- 유튜브 : https://youtube.com/@kojeomstudio?si=1UzGf9_6-B8NBYnr

Chương trình giảng dạy

Tất cả

7 bài giảng ∙ (1giờ 47phút)

Phần 1. Cứ xem qua hệ thống RAG dựa trên LLM local.

1 bài giảng ∙ (6phút)

1. Buổi học đầu tiên là OT
06:32

Phần 2. Cấu hình cơ bản và khởi động

2 bài giảng ∙ (25phút)

2. LLM và Framework
11:10
3. Hướng dẫn cài đặt và thiết lập
14:39

Phần 3. Cấu hình nền tảng hệ thống AI: WSL, Docker

1 bài giảng ∙ (16phút)

4. WSL và Docker
16:23

Phần 4. Thế giới R2R Framework

2 bài giảng ∙ (48phút)

Phần 5. Chiến lược nâng cấp RAG thực chiến

1 bài giảng ∙ (10phút)

Ngày đăng:

Cập nhật lần cuối:

Đánh giá

Tất cả

3 đánh giá

5.0

3 đánh giá

이성수
Đánh giá 2
∙
Đánh giá trung bình 5.0
5
43% đã tham gia
최성동
Đánh giá 4
∙
Đánh giá trung bình 4.0
5
43% đã tham gia
설명이 쉽고 잘 이해가 되요
류하경
Đánh giá 2
∙
Đánh giá trung bình 5.0
5
100% đã tham gia

1.612.758 ₫

Khóa học khác của kojeomstudio

Hãy khám phá các khóa học khác của giảng viên!

고스트 인 더 N8N (AI Automaition Workflow)

코점스튜디오

Ghost In the N8N - AI Automation Workflow (N8N 프레임워크를 통해 AI 자동화 흐름) AI 시대에 필요한 실무 & 업무 자동화에 필요한 기초 지식과 실무에서 바로 사용할 수 있는 가이드를 얻게됩니다!

Basic

Docker, 업무 생산성, 인공지능(AI)

고스트 인 더 N8N (AI Automaition Workflow)

코점스튜디오

나 혼자만 파이썬 레벨업

코점스튜디오

"나 혼자만 파이썬 레벨업!" 파이썬 기초부터 시작해서 2D 게임 만들기와 Ollama 기반 AI 챗봇까지! 변수, 조건문, 함수 같은 핵심 문법을 배우고, 직접 만들어보며 실력을 키우는 실습 중심 입문 강의입니다.

Basic

Python, programming-languages, 업무 생산성

나 혼자만 파이썬 레벨업

코점스튜디오

제로부터 시작하는 게임 프로그래머 세상!

코점스튜디오

게임 프로그래머를 꿈꾸는 분들에게 단비가 되고자 하는 강의입니다. 1) 취업에 필요한 이력서 & 자기소개서, 포트폴리오, 면접에 대한 노하우를 공유합니다. 2) 제로부터 시작해서 주니어 입문, 그 이후로까지 이어지는 이야기를 공유합니다.

Beginner

이력서, 면접, 기술면접

제로부터 시작하는 게임 프로그래머 세상!

코점스튜디오

팀시티로 시작하는 CI/CD 배포 요정이 되어보자!

코점스튜디오

현대 프로젝트 개발에 있어 없어서는 안될 CI/CD 환경. 현장에서 가장 많이 쓰이는 도구인 팀시티와 함께 (혼모노)배포 요정이 되어봅시다!!

Basic

CI/CD, teamcity, 업무 생산성

팀시티로 시작하는 CI/CD 배포 요정이 되어보자!

코점스튜디오

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Spring WebFlux + LLM 실전 구현

John H

Spring WebFlux로 여러 기능을 만듭니다. 이 강의를 통해 WebFlux의 필수 개념과 실전 구현을 익힐 수 있습니다.

Basic

Java, Spring, webflux

Spring WebFlux + LLM 실전 구현

John H

RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)

판다스 스튜디오

이 강의는 LangChain을 활용한 RAG(Retrieval-Augmented Generation) 시스템의 기본 개념과 구현 방법을 다룹니다. 참가자들은 RAG의 핵심 원리를 이해하고, LangChain을 통해 실제로 시스템을 구축하며 성능을 평가하는 방법을 배우게 됩니다.

Basic

RAG, LangChain, LLM

RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)

판다스 스튜디오

프로젝트로 배우는 Python 챗봇 & RAG - LangChain, Gradio 활용

판다스 스튜디오

파이썬 기본 문법과 라이브러리를 활용해서 나만의 AI 챗봇을 직접 만들어 보세요. PDF 문서 기반의 RAG 등 5개의 프로젝트를 단계별로 수행하고, 웹 서비스로 배포하는 과정을 학습합니다.

Basic

RAG, LangChain, LLM

프로젝트로 배우는 Python 챗봇 & RAG - LangChain, Gradio 활용

판다스 스튜디오

AWS 배포 완벽가이드 (feat. Lightsail, Docker, ECS)

김시훈 (도도소프트)

이 강의에서는 Container Orchestration 대표기술중 하나인 AWS ECS를 배우게됩니다! Github Action으로 CICD도 구축합니다. 하지만 처음부터 ECS를 배우지 않아요. ECS는 DevOps 끝판왕이라고 할 수 있어서 너무 어렵게 느껴질 수 있거든요. 그래서 강의 초반에는 전통적인 가상서버 중에서도 비교적 learning curve가 낮은 AWS Lightsail로 기본기를 먼저 다집니다. 기존 방식의 한계점과 불편한점들도 체감할 수 있어요. 이렇게 기본기와 “Why”로 빌드업을 해서 자연스럽게 Docker Container와 ECS를 배우게 됩니다!

Basic

Docker, CI/CD, AWS

AWS 배포 완벽가이드 (feat. Lightsail, Docker, ECS)

김시훈 (도도소프트)

비전공자도 이해할 수 있는 Docker 입문/실전

JSCODE 박재성

비전공자 입장에서도 쉽게 이해할 수 있고, 실전에서 바로 적용 가능한 Docker 입문/실전 강의를 만들어봤습니다!

Basic

Docker, container, docker-compose

비전공자도 이해할 수 있는 Docker 입문/실전

JSCODE 박재성

비전공자도 이해할 수 있는 CI/CD 입문·실전

JSCODE 박재성

비전공자 입장에서도 쉽게 이해할 수 있고, 실전에서 바로 적용 가능한 CI/CD 입문 강의를 만들어봤습니다!

Basic

CI/CD, github-actions, AWS

비전공자도 이해할 수 있는 CI/CD 입문·실전

JSCODE 박재성

Spring AI 실전 가이드: RAG 챗봇 만들기

Sionic AI

Spring AI로 AI를 다루는 가장 쉬운 방법을 배워봅니다. RAG 챗봇을 만들어보면서 Spring AI를 배워봅시다.

Basic

Spring AI, LLM, RAG

Spring AI 실전 가이드: RAG 챗봇 만들기

Sionic AI

[LLM 101] LLM 초보를 위한 Llama SFT 강의 (feat. ChatApp Poc)

꿈꾸는범블비

LLM을 위해 필요한 기초지식부터 실전에서 쓰일법한 팁까지 핵심적인 내용위주로 빠르게 현직자가 전달합니다!

Basic

NLP, ChatGPT, LLM

[LLM 101] LLM 초보를 위한 Llama SFT 강의 (feat. ChatApp Poc)

꿈꾸는범블비

[Sionic MCP 시리즈 1] Model Context Protocol 을 이용하여 IntelliJ 와 코딩해보자!

Sionic AI

Model Context Protocol (MCP) 를 이용하여 IntelliJ와 연동하여 빠르게 개발할 수 있는 방법에 대해 핸즈온 하는 튜토리얼입니다.

Beginner

IntelliJ IDEA, LLM, 인공지능(AI)

[Sionic MCP 시리즈 1] Model Context Protocol 을 이용하여 IntelliJ 와 코딩해보자!

Sionic AI

CrewAI와 LLM으로 인공지능 판사 만들기

아리가람

LLM 기반 다중 에이전트 기술을 구현할 수 있게 하는 CrewAI, 지식 그래프, 추론 시스템을 결합해 인공지능 판사를 만들어 봅니다.

Intermediate

인공지능(AI), LLM, AI Agent

CrewAI와 LLM으로 인공지능 판사 만들기

아리가람

chatGPT를 활용한 실무 활용 ALL-IN ONE 패키지

코멘토

생성형AI의 기초 활용법 부터 자동화 및 실무용 맞춤형 AI 챗봇 제작까지 모든 과정을 한번에 학습할 수 있습니다.

Intermediate

챗봇, 인공지능(AI), ChatGPT

chatGPT를 활용한 실무 활용 ALL-IN ONE 패키지

코멘토

코딩 없이 AI 자동화 전문가가 되는 법, n8n 완벽 가이드

남박사

요즘도 직접 코딩하시나요? 이젠 바이브 코딩도 귀찮은 시대! 코딩 없이 n8n으로 AI 자동화 전문가가 되어보세요. 실무에 바로 적용 가능한 자동화 워크플로우 설계 가이드 업무 효율을 극대화하는 실전 중심의 자동화 전략. n8n으로 직관적인 워크플로우를 구축하며, 업무 혁신을 경험해보세요

Beginner

n8n, 인공지능(AI), RAG

코딩 없이 AI 자동화 전문가가 되는 법, n8n 완벽 가이드

남박사

진짜 현장에서 통하는 OCR, 이렇게 만듭니다.

데이비드최

현업에서 진짜 쓰이는 OCR 기술, 제대로 배워보고 싶다면 이 강의 하나로 끝! 비정형 문서와 복잡한 레이아웃에서도 98% 이상의 정확도를 목표로, 최신 SOTA 모델과 실전 노하우를 바탕으로 기업 수준의 OCR 프로젝트를 함께 만들어갑니다.

Basic

Python, 인공지능(AI), openai

진짜 현장에서 통하는 OCR, 이렇게 만듭니다.

데이비드최

AWS로 쉽고 빠르지만 아주 견고한 서버 환경을 구축하는 방법

Burger

예제 이커머스 서비스를 AWS에 배포하고, 계속해서 견고하고 효율적인 환경으로 개선해나가는 과정을 빠르게 경험하실 수 있습니다.

Basic

AWS, Docker, MSA

AWS로 쉽고 빠르지만 아주 견고한 서버 환경을 구축하는 방법

Burger

하루만에 만드는 나만의 비주얼 노벨 게임

Neo

React, Javascript, SpringAI, Springboot를 통해서 나만의 비주얼 노벨 게임을 만들어 보세요. SpringAI와 React 를 통하여 웹기반 비주얼 노벨 게임을 만드는 법을 알려드립니다!

Basic

React, Spring Boot, 인공지능(AI)

하루만에 만드는 나만의 비주얼 노벨 게임

Neo

코딩 없이 AI 앱 만들기: Dify 노코드 완전 정복

멀티코어

코딩 없이 나만의 AI 서비스를 만들고 싶다면, 이 강의가 완벽한 해결책입니다. Dify 노코드 플랫폼을 활용해 아이디어만으로도 완성도 높은 AI 앱을 만들 수 있습니다. 복잡한 이론 대신 실전 프로젝트 중심으로 구성되어, AI 입문자와 직장인 누구나 실무 역량을 키울 수 있습니다.

Beginner

프롬프트엔지니어링, LLM, RAG

코딩 없이 AI 앱 만들기: Dify 노코드 완전 정복

멀티코어

사례로 배우는 Make 자동화의 모든 것

챗대리

클릭한번에 AI 업무 자동화 + 부수입창출!!! 업무 자동화의 끝판왕 Make, 복잡한 설정과 기능으로 시작하기 망설여지셨나요? 초보자도 쉽게 따라할 수 있는 단계별 강의로 내가 꿈꾸던 자동화를 직접 구현해보세요.

Beginner

No-code, 인공지능(AI), make

사례로 배우는 Make 자동화의 모든 것

챗대리

AI 에이전트 입문 치트키, Claude MCP로 끝내는 업무 자동화

Masocampus

AI가 내 Slack, Notion에 대신 글을 써준다고? 기존 AI의 한계를 뛰어넘은 MCP로 똑똑하게 일하세요!

Beginner

MCP, AI Agent, AI 활용 (AX)

AI 에이전트 입문 치트키, Claude MCP로 끝내는 업무 자동화

Masocampus

FastAPI: Python으로 3배 빠르게, 2배 정확한, 10배 빠른 API 만들기

해여

FastAPI로 현대적인 백엔드 API를 구축하는 완벽 가이드! 🚀 이 강의는 FastAPI 기초부터 Pydantic 데이터 검증, SQLAlchemy를 이용한 DB 연동과 Alembic 마이그레이션까지 체계적으로 다룹니다. 실전 ToDo 프로젝트를 통해 JWT 인증/인가 보안을 구현하고, 비동기 처리와 성능 최적화까지 경험해보세요. 마지막으로 Docker 컨테이너화와 AWS 배포 실습을 통해, 이 강의 하나만으로 실무에 바로 투입될 수 있는 백엔드 개발자로 성장할 수 있습니다!

Basic

FastAPI, Python, SQLAlchemy

FastAPI: Python으로 3배 빠르게, 2배 정확한, 10배 빠른 API 만들기

해여

VS Code를 활용한 Remote 개발환경 만들기

SQL뱅크

VS Code 및 확장팩을 활용해 원격 개발 환경을 만들고, 더불어 WSL과 웹 상에서 사용하는 VS Code인 code-server에 대해 학습합니다.

Basic

wsl, VSCode, code-server

VS Code를 활용한 Remote 개발환경 만들기

SQL뱅크

Làm hệ thống QA LLM cục bộ bằng RAG (Retrieval-Augmented Generation) với Docker + ollama + R2R

Đánh giá từ những học viên đầu tiên

Bạn sẽ nhận được điều này sau khi học.

Tôi muốn tạo một hệ thống QA dựa trên LLM... nhưng làm thế nào để tạo?

Đặc điểm của khóa học này

Khóa học này phù hợp với những ai

Sau khi học xong

Bạn sẽ học những nội dung như thế này.

Người tạo ra khóa học này

Giới thiệu giảng viên

Lưu ý trước khi học

Môi trường thực hành

Tài liệu học tập

Khuyến nghị cho
những người này

Xin chào
Đây là

강사 소개

Chương trình giảng dạy

Đánh giá

Khóa học khác của kojeomstudio

Khóa học tương tự

Làm hệ thống QA LLM cục bộ bằng RAG (Retrieval-Augmented Generation) với Docker + ollama + R2R

Đánh giá từ những học viên đầu tiên

Bạn sẽ nhận được điều này sau khi học.

Tôi muốn tạo một hệ thống QA dựa trên LLM... nhưng làm thế nào để tạo?

Đặc điểm của khóa học này

Khóa học này phù hợp với những ai

Sau khi học xong

Bạn sẽ học những nội dung như thế này.

Người tạo ra khóa học này

Giới thiệu giảng viên

Lưu ý trước khi học

Môi trường thực hành

Tài liệu học tập

Khuyến nghị cho những người này

Xin chàoĐây là .css-1q3zd4q{text-decoration-line:underline;text-underline-position:under;text-underline-offset:1px;}

강사 소개

Chương trình giảng dạy

Đánh giá

Khóa học khác của kojeomstudio

Khóa học tương tự

Khuyến nghị cho
những người này

Xin chào
Đây là