강의

멘토링

로드맵

AI Development

/

AI Agent Development

Làm hệ thống QA LLM cục bộ bằng RAG (Retrieval-Augmented Generation) với Docker + ollama + R2R

Sử dụng Docker + ollama + R2R framework, xây dựng hệ thống QA dựa trên RAG với LLM cục bộ chỉ trong 2 giờ thực hành. (Có thể áp dụng cho hệ thống QA nội bộ/in-house, portfolio cá nhân, năng lực làm việc ứng dụng AI, và cả dịch vụ thương mại.)

(5.0) 1 đánh giá

18 học viên

  • kojeomstudio
실습 중심
Docker
AI
wsl
LLM

Dịch cái này sang tiếng Việt

  • Sẽ học được cách chạy LLM cục bộ.

  • Triển khai cục bộ hệ thống AI Q&A chỉ nghe danh.

  • Xây dựng hệ thống AI Q&A dựa trên kiến thức chuyên ngành.

  • Bạn sẽ được học cách xây dựng hệ thống AI dựa trên Docker.

  • Học cách sử dụng các dự án mã nguồn mở AI.

  • Triển khai hệ thống RAG nền tảng LLM cục bộ (hoặc API AI tạo sinh) dùng nội bộ.

  • Đã tiến thêm một bước đến việc triển khai hệ thống AI từng tưởng chừng xa vời.

  • Bạn sẽ được biết đến 'ollama', ông vua của LLM open framework.

Tôi muốn tạo một hệ thống QA dựa trên LLM... nhưng làm thế nào để tạo ra nó?

Việc phát triển công nghệ AI luôn cảm thấy vô cùng khó khăn!

1) Chúng tôi mời bạn vào thế giới AI với hệ thống QA LLM cục bộ sử dụng Docker, ollama và framework R2R!

2) Với bước chân nhẹ nhàng, từ công nghệ hạ tầng AI nhanh chóng đến việc ứng dụng các dự án mã nguồn mở có thể áp dụng trong thực tế!

3) Có thể xây dựng On-premise không lo lắng về bảo mật ngay cả khi sử dụng nội bộ/in-house!

Đặc điểm của khóa học này

📌 Sau khi hoàn thành khóa học, bạn có thể ngay lập tức xây dựng hệ thống RAG dựa trên LLM Local nội bộ và thương mại để sử dụng trong thực tế công việc!

📌 Bạn có thể phát triển cảm giác về các dự án mã nguồn mở liên quan đến trí tuệ nhân tạo (AI).

📌 Bạn sẽ có cơ hội tiếp cận việc phát triển và ứng dụng công nghệ AI vốn cảm thấy xa vời.

📌 Bạn sẽ được trải nghiệm các khái niệm về hạ tầng và hệ điều hành như Docker, WSL cần thiết cho hạ tầng công nghệ trí tuệ nhân tạo (AI).

Tôi khuyên dùng cho những người như thế này

Tôi muốn thử ứng dụng công nghệ AI và trí tuệ nhân tạo trong công ty.

Những lập trình viên muốn thử ứng dụng AI mà nghe nói khắp nơi nhưng không biết nên bắt đầu từ đâu!

Tôi cũng muốn thêm kinh nghiệm AI vào portfolio lập trình viên của mình~
Những lập trình viên và sinh viên chuẩn bị việc làm đang thầm lo lắng vì chưa từng sử dụng công nghệ liên quan nào trong thời đại AI này!

Tôi tò mò về các dự án mã nguồn mở liên quan đến AI!
Một lập trình viên tò mò về cách sử dụng các dự án mã nguồn mở liên quan trong thời đại AI!

Sau khi hoàn thành khóa học

  • Bạn sẽ thấy mình đã tiến thêm một bước trong việc ứng dụng công nghệ AI mà không hay biết.

  • Bạn sẽ nổi tiếng trong công ty với tư cách là nhà phát triển đã xây dựng hệ thống AI.

  • Bạn sẽ thấy mình ngạc nhiên rằng "Phát triển AI lại ở gần đến vậy sao!?"

  • Bạn sẽ hiểu sâu hơn một bước về khái niệm trí tuệ nhân tạo và AI.

  • Bạn sẽ học được các khái niệm và cách sử dụng cần thiết cho hạ tầng như wsl, Docker.

  • Bạn sẽ tìm hiểu về hệ thống AI Q&A thông qua hệ thống RAG dựa trên LLM.

Bạn sẽ học những nội dung như thế này.

Công việc embedding thuận tiện thông qua R2R dashboard

Hệ thống QA làm việc thuận tiện với việc nhúng kiến thức miền cần thiết.

Xây dựng hệ thống QA dựa trên LLM vốn cảm thấy xa vời!

Hãy trải nghiệm hệ thống LLM QA được xây dựng dựa trên ollama, docker, wsl!

Người tạo ra khóa học này

  • Hiện tại là lập trình viên chính thức tại công ty game đại tập đoàn N.

  • Người có nhiều sở thích về hệ thống/lập trình/phát triển game/devops/văn hóa phụ/vẽ.

  • Người có niềm tin vững chắc rằng AI và văn hóa phụ sẽ thay đổi thế giới.


  • Người tin rằng hạt giống của sự phát triển thực sự nằm trong những sai lầm và thất bại.

Những điều cần lưu ý trước khi học

Môi trường thực hành

  • Khóa học được tiến hành dựa trên Windows10.

  • Bạn sẽ sử dụng máy ảo dựa trên nhân Linux được cung cấp bởi Windows. (WSL)

  • Bạn sẽ cài đặt hệ thống Docker trên WLS và sử dụng nó.


Dựa trên nội dung bài giảng, đối với R2R thì nên tiến hành với phiên bản đã bao gồm (3.6.0).

Tuy nhiên, với giả định rằng framework R2R sẽ tiếp tục được cải thiện, việc tiến hành với phiên bản mới nhất cũng không có vấn đề gì lớn. (Bạn cần lưu ý rằng một số lệnh hoặc cài đặt có thể thay đổi.)

Đối với phiên bản 3.6.0, vui lòng tham khảo Release Tags trong repository GitHub chính thức của R2R hoặc tham khảo liên kết được tác giả lưu trữ riêng.

github

docker hub : docker pull kojeomstudio/r2r:3.6.0

  • Bạn có thể pull trực tiếp phiên bản 3.6.0. (image do tác giả tạo)


p.s. Trong trường hợp R2R-dashboard có ít thay đổi nên có thể sử dụng phiên bản mới nhất.

Tài liệu học tập

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Lập trình viên muốn triển khai hệ thống AI

  • Lập trình viên tương lai muốn tạo hệ thống AI làm portfolio.

  • Lập trình viên muốn xây dựng hệ thống AI Q&A dựa trên domain cụ thể trong nội bộ/in-house

  • Người muốn thử chạy LLM trên máy local.

  • Lập trình viên muốn hòa mình vào xu hướng AI

  • Lập trình viên và những người có nguyện vọng muốn xây dựng hệ thống AI dựa trên Docker

  • Người mới làm dự án mã nguồn mở AI

  • Lập trình viên muốn áp dụng dự án mã nguồn mở AI vào thực tế.

Cần biết trước khi bắt đầu?

  • Docker

  • Khái niệm cơ bản về LLM

  • Mong muốn và ý chí nâng cao năng lực sử dụng AI

  • Quan tâm đến xây dựng hạ tầng hệ thống AI

  • Quan tâm đến dự án mã nguồn mở

Xin chào
Đây là

989

Học viên

29

Đánh giá

4.8

Xếp hạng

5

Các khóa học

 

 

장송의 프리렌 그림.jpg.webp

 

※ 현재 대기업 게임 N사에서 프로그래머로 살고 있습니다.

※ 시스템/게임 개발/프로그래밍/데브옵스/드로잉/서브컬처/AI에 관심이 많습니다.

※ 서브컬처와 AI가 세상을 바꿀 수 있다고 믿고 있습니다.

※ 깃허브 >> https://github.com/kojeomstudio

※ 도커 허브 >>https://hub.docker.com/repositories/kojeomstudio

 

Chương trình giảng dạy

Tất cả

7 bài giảng ∙ (1giờ 47phút)

Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

1 đánh giá

5.0

1 đánh giá

  • kaciaryu9603님의 프로필 이미지
    kaciaryu9603

    Đánh giá 2

    Đánh giá trung bình 5.0

    5

    100% đã tham gia

    1.611.656 ₫

    Khóa học khác của kojeomstudio

    Hãy khám phá các khóa học khác của giảng viên!

    Khóa học tương tự

    Khám phá các khóa học khác trong cùng lĩnh vực!