Made in RAG (Hệ thống Q&A LLM cục bộ) với Docker + ollama + R2R

Xây dựng hệ thống Q&A dựa trên Local LLM với RAG chỉ trong 2 giờ thực hành bằng cách sử dụng Docker + ollama + R2R framework. (Có thể ứng dụng làm hệ thống Q&A nội bộ, portfolio cá nhân, nâng cao năng lực làm việc bằng AI, cho đến các dịch vụ thương mại)

(5.0) 3 đánh giá

38 học viên

Độ khó Cơ bản

Thời gian Không giới hạn

Docker
Docker
AI
AI
wsl
wsl
LLM
LLM
Docker
Docker
AI
AI
wsl
wsl
LLM
LLM

Đánh giá từ những học viên đầu tiên

5.0

5.0

최성동

43% đã tham gia

Giải thích dễ hiểu và rất dễ tiếp thu

Bạn sẽ nhận được điều này sau khi học.

  • Bạn sẽ biết cách vận hành LLM tại địa phương.

  • Triển khai hệ thống AI Q&A vốn chỉ được nghe qua lời kể vào môi trường local.

  • Xây dựng hệ thống AI Q&A dựa trên kiến thức lĩnh vực cụ thể.

  • Bạn sẽ được học cách xây dựng hệ thống AI dựa trên Docker.

  • Bạn sẽ được học cách tận dụng các dự án mã nguồn mở AI.

  • Chúng tôi sẽ triển khai hệ thống RAG dựa trên LLM cục bộ (hoặc API AI tạo sinh) có thể sử dụng nội bộ trong công ty.

  • Bạn sẽ tiến thêm một bước gần hơn tới việc hiện thực hóa hệ thống AI vốn dĩ từng cảm thấy xa vời.

  • Bạn sẽ tìm hiểu về 'ollama', trùm cuối của các framework mã nguồn mở LLM.

Tôi muốn thử tạo một hệ thống Q&A dựa trên LLM... nhưng phải làm thế nào đây?

Phát triển công nghệ AI vốn luôn cảm thấy khó khăn vô tận!

1) Chào mừng bạn đến với thế giới AI bằng hệ thống Q&A LLM cục bộ sử dụng Docker, ollama và framework R2R!

2) Từ việc nhanh chóng nắm bắt kỹ thuật hạ tầng AI với những bước đi nhẹ nhàng, cho đến việc ứng dụng các dự án mã nguồn mở có thể áp dụng vào thực tế!

3) Có thể xây dựng hệ thống On-premise mà không lo ngại về bảo mật ngay cả khi sử dụng trong nội bộ công ty!

Đặc điểm của bài giảng này

📌 Sau khi hoàn thành khóa học, bạn có thể xây dựng ngay hệ thống RAG dựa trên LLM thương mại và Local nội bộ để áp dụng trực tiếp vào thực tế!

📌 Bạn có thể rèn luyện cảm quan về các dự án mã nguồn mở liên quan đến trí tuệ nhân tạo (AI).

📌 Bạn sẽ có cơ hội tiếp cận và ứng dụng phát triển công nghệ AI vốn dĩ cảm thấy xa vời.

📌 Bạn sẽ được trải nghiệm các khái niệm về hệ điều hành và cơ sở hạ tầng như Docker, WSL cần thiết cho hạ tầng công nghệ trí tuệ nhân tạo (AI).

Đề xuất cho những người sau đây

Tôi muốn thử ứng dụng công nghệ AI và trí tuệ nhân tạo trong công ty.

Các lập trình viên muốn thử ứng dụng AI đang nghe thấy ở khắp mọi nơi nhưng không biết phải bắt đầu từ đâu!

Tôi muốn thêm kinh nghiệm về AI vào danh mục dự án (portfolio) của mình~
Những lập trình viên và sinh viên đang tìm việc cảm thấy lo lắng vì chưa từng sử dụng các công nghệ liên quan trong thời đại AI!

Tôi tò mò về các dự án mã nguồn mở liên quan đến AI!
Những nhà phát triển đang thắc mắc về cách sử dụng các dự án mã nguồn mở liên quan trong thời đại AI!

Sau khi hoàn thành khóa học

  • Bạn sẽ thấy mình đã tiến thêm một bước trong việc vận dụng công nghệ AI từ lúc nào không hay.

  • Bạn sẽ trở thành một nhà phát triển nổi tiếng vì đã xây dựng hệ thống AI trong nội bộ công ty.

  • Bạn sẽ thấy mình phải ngạc nhiên thốt lên rằng: "Hóa ra phát triển AI lại ở gần ngay trước mắt thế này sao!?"

  • Bạn sẽ hiểu sâu hơn về các khái niệm liên quan đến trí tuệ nhân tạo và AI.

  • Bạn sẽ hiểu được các khái niệm và cách sử dụng các cơ sở hạ tầng cần thiết như WSL, Docker.

  • Thông qua hệ thống RAG dựa trên LLM, bạn sẽ hiểu rõ về hệ thống AI Q&A.

Bạn sẽ học được những nội dung này.

Thực hiện công việc nhúng (embedding) tiện lợi thông qua bảng điều khiển R2R

Thực hiện công việc nhúng (embedding) kiến thức chuyên môn cần thiết cho hệ thống Q&A một cách tiện lợi.

Xây dựng hệ thống Q&A dựa trên LLM vốn dĩ cảm thấy xa vời!

Hãy trải nghiệm hệ thống LLM Q&A được xây dựng dựa trên ollama, docker và wsl!

Người tạo ra bài giảng này

Giới thiệu giảng viên

  • Lịch sử / Kinh nghiệm làm việc

    • Hiện tại tôi đang là lập trình viên game tại công ty game lớn N.

    • Lọt vào vòng chung kết KAKAO AI_TOP_100 năm 2025!

    • Tham gia vòng loại 2026 KRAFTON AI R&D Hackathon

  • Sở thích (Quan tâm)

    • Tôi rất quan tâm đến Hệ thống/Phát triển Game/Lập trình/DevOps/Hội họa/Subculture/AI.

  • Lời muốn nói


    • Tôi tin rằng văn hóa tiểu văn hóa (subculture) và AI có thể thay đổi thế giới.


    • Tôi tin rằng hạt giống của sự trưởng thành thực sự nằm ở những sai lầm và thất bại.

  • Kho lưu trữ & Nền tảng mạng xã hội

     

Lưu ý trước khi học

Môi trường thực hành

  • Bài giảng được thực hiện dựa trên Windows 10.

  • Bạn sẽ sử dụng máy ảo dựa trên nhân Linux được cung cấp trên Windows. (WSL)

  • Bạn sẽ cài đặt và sử dụng hệ thống Docker trên WSL.


Dựa trên nội dung bài giảng, đối với R2R, tốt nhất bạn nên tiến hành với phiên bản đi kèm (3.6.0).

Tuy nhiên, với giả định rằng khung R2R sẽ tiếp tục được cải thiện trong tương lai, việc tiến hành với phiên bản mới nhất cũng không gặp vấn đề gì lớn. (Bạn cần lưu ý rằng một số lệnh hoặc cài đặt có thể thay đổi.)

Đối với phiên bản 3.6.0, vui lòng tham khảo Release Tags trên kho lưu trữ GitHub chính thức của R2R hoặc tham khảo liên kết lưu trữ riêng của tác giả.

github

docker hub : docker pull kojeomstudio/r2r:3.6.0

  • Bạn cũng có thể trực tiếp kéo phiên bản 3.6.0 về. (Hình ảnh do tác giả tạo)


p.s. Đối với R2R-dashboard, vì có ít thay đổi nên bạn có thể sử dụng phiên bản mới nhất.

p.s2 Nếu bạn muốn thực hiện bài giảng trên môi trường Mac OS, tôi đã tổng hợp quy trình thiết lập cho Mac OS trong phần "Cộng đồng -> Câu hỏi thường gặp", vui lòng tham khảo nhé! :)

Tài liệu học tập

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Lập trình viên muốn thử triển khai hệ thống AI

  • Người lập trình đầy tham vọng muốn xây dựng hệ thống AI thành danh mục hồ sơ năng lực (portfolio) của mình.

  • Lập trình viên muốn xây dựng hệ thống AI Q&A dựa trên tên miền cụ thể trong nội bộ công ty.

  • Những người muốn vận hành LLM tại địa phương (local)

  • Lập trình viên muốn hòa mình vào dòng chảy AI

  • Lập trình viên và những người khao khát muốn xây dựng hệ thống AI dựa trên Docker

  • Người lần đầu tiên thực hiện dự án mã nguồn mở AI

  • Lập trình viên muốn áp dụng các dự án AI mã nguồn mở vào thực tế công việc

Cần biết trước khi bắt đầu?

  • Docker

  • Các khái niệm cơ bản về LLM

  • Tâm thế và ý chí muốn nâng cao năng lực vận dụng AI

  • Sự quan tâm đến việc xây dựng cơ sở hạ tầng hệ thống AI

  • Sự quan tâm đến các dự án nguồn mở

Xin chào
Đây là kojeomstudio

1,172

Học viên

39

Đánh giá

2

Trả lời

4.8

Xếp hạng

6

Các khóa học

 

 

장송의 프리렌 그림.jpg.webp

 

Giới thiệu giảng viên

  • Kinh nghiệm làm việc

    • Hiện tại tôi đang làm lập trình viên trò chơi tại công ty game lớn N.

    • Lọt vào vòng chung kết Top 100 KAKAO AI 2025

    • Tham gia vòng loại 2026 KRAFTON AI R&D Hackathon

  • Sở thích (Quan tâm)

    • Tôi rất quan tâm đến hệ thống/phát triển game/lập trình/robot/hội họa/văn hóa tiểu văn hóa (subculture)/AI.

  • Lời muốn nói

     

    • Tôi tin rằng văn hóa tiểu văn hóa (subculture) và AI có thể thay đổi thế giới.

       

    • Tôi tin rằng hạt giống của sự trưởng thành thực sự nằm ở những sai lầm và thất bại.

  • Kho lưu trữ & Nền tảng mạng xã hội

     

Thêm

Chương trình giảng dạy

Tất cả

7 bài giảng ∙ (1giờ 47phút)

Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

3 đánh giá

5.0

3 đánh giá

  • sund님의 프로필 이미지
    sund

    Đánh giá 5

    Đánh giá trung bình 4.0

    5

    43% đã tham gia

    Giải thích dễ hiểu và rất dễ tiếp thu

    • kaciaryu9603님의 프로필 이미지
      kaciaryu9603

      Đánh giá 4

      Đánh giá trung bình 5.0

      5

      100% đã tham gia

      • ssyi4412님의 프로필 이미지
        ssyi4412

        Đánh giá 3

        Đánh giá trung bình 5.0

        5

        43% đã tham gia

        Khóa học khác của kojeomstudio

        Hãy khám phá các khóa học khác của giảng viên!

        Khóa học tương tự

        Khám phá các khóa học khác trong cùng lĩnh vực!