“Tôi đã có thể hiểu được những nguyên lý cốt lõi giúp agent hoạt động thông qua việc tự mình triển khai chúng.”핵심 원리 이해
RAG cho dịch vụ LLM của nhà phát triển AI tại Thung lũng Silicon
Giới hạn của LLM? Chúng tôi sẽ chia sẻ cách giải quyết vấn đề thực tiễn dựa trên những thử nghiệm, sai lầm và bí quyết vận hành RAG trong thực tế tại Thung lũng Silicon.
133 học viên
Độ khó Nhập môn
Thời gian Không giới hạn
Đánh giá từ những học viên đầu tiên
5.0
5.0
Deck
Vì đây là nội dung rất hot dạo gần đây nên tôi đã rất quan tâm và theo dõi khóa học. Dù bắt đầu từ con số không nhưng tôi đã học hỏi được rất nhiều điều bổ ích. Thị trường dạo này đang rất khó khăn, nhưng dựa trên những nội dung này, tôi nghĩ mình có thể xây dựng được danh mục đầu tư phù hợp.. ㅎㅎ Xin cảm ơn!!
5.0
02년생 개발자
Phần trực tiếp cho thấy những gì không hoạt động cùng với nội dung kiểm chứng thực sự rất ấn tượng. Tôi đã dành trọn ngày nghỉ để xem hết tất cả các bài giảng mới mở gần đây - Cho đến tận bài giảng về AI Agent!! Tôi nghĩ đây là một chủ đề tuyệt vời để nắm bắt được khung sườn tổng quát về việc phát triển nền tảng hay dịch vụ AI cần cân nhắc những yếu tố nào, cũng như kết hợp những tính năng và dịch vụ gì. Đối với những bạn đang chuẩn bị xin việc hay những người đang có ý định chuyển sang lĩnh vực này, tôi nghĩ nó sẽ giúp ích rất nhiều trong việc định hướng.
5.0
식케이
Đối với một người vốn chỉ biết về các cơ sở dữ liệu thông thường như tôi, đây là một chủ đề cực kỳ hữu ích. Vì đây không phải là những chủ đề phổ biến như MySQL hay MongoDB nên nó càng bổ ích hơn, giúp tôi học hỏi được rằng "À, thì ra cũng có công nghệ như thế này sao??" hay "Cũng có góc nhìn như thế này nữa à??". Tôi cảm thấy tầm nhìn của mình đã được mở rộng hơn. Cảm ơn bạn vì nội dung tuyệt vời này.
Bạn sẽ nhận được điều này sau khi học.
Khả năng tự triển khai hệ thống tìm kiếm ngữ nghĩa dựa trên ChromaDB
Kinh nghiệm xây dựng máy chủ API RAG dạng tải tài liệu lên
Khả năng áp dụng tái xếp hạng và tìm kiếm lai để cải thiện chất lượng tìm kiếm
Năng lực hiểu và giải thích được cấu trúc DB vector, embedding và HNSW
Năng lực thiết kế và vận hành kiến trúc RAG ở cấp độ thực tiễn
Khóa học được xây dựng cùng nhà phát triển AI ở Thung lũng Silicon
Chinh phục RAG toàn diện
Khóa học này là khóa học thực hành, trong đó bạn sẽ tự xây dựng hoàn chỉnh dịch vụ tìm kiếm vector và RAG (Retrieval-Augmented Generation) từ đầu đến cuối bằng TypeScript và ChromaDB. Bạn sẽ hoàn thiện một dịch vụ RAG có khả năng trả lời dựa trên nội dung tài liệu sau khi tải tài liệu lên, đồng thời thực hiện toàn bộ quy trình cục bộ, từ cơ sở dữ liệu vector đến tối ưu hóa nâng cao, mà không phải trả phí cho các API bên ngoài.
Không có từ khóa, tại sao vẫn tìm ra được??
Đây là kết quả thực tế chạy trong bài giảng 5.1. Trong truy vấn không có từ “cà phê”.
Khoảng cách càng nhỏ thì càng gần · Khoảng cách cosine
Giữa truy vấn và tài liệu không có bất kỳ từ nào trùng nhau.
Nếu là tìm kiếm từ khóa thì sẽ không có kết quả nào.
Các kết quả được sắp xếp theo thứ tự gần nhau về mặt ngữ nghĩa, và “độ gần” đó được thể hiện bằng một con số.
Hãy bắt đầu từ cách đọc con số này.
RAG (Retrieval-Augmented Generation) là gì?
Trong một câu, đó là việc gắn cho LLM đôi mắt để đọc dữ liệu của chúng ta.
Chỉ dùng LLM thì
“Hãy tóm tắt báo cáo doanh thu quý 4 năm ngoái cho tôi.”
Chỉ biết kiến thức tại thời điểm được đào tạo.
Không thể xem tài liệu nội bộ mà bạn vừa tải lên.
Nếu tích hợp RAG lsvc
“Hãy tóm tắt báo cáo doanh thu quý 4 năm ngoái cho tôi”
Tìm tài liệu đó và dùng làm căn cứ.
Câu trả lời được đính kèm nguồn.
Với tutorial, bạn có thể nhanh chóng tạo ra một bản demo hoạt động.
Nguyên lý
Tại sao embedding và cơ sở dữ liệu vector lại hoạt động như vậy
Triển khai và vận hành
Xây dựng tìm kiếm ngữ nghĩa bằng ChromaDB và vận hành máy chủ
Đo lường
Đo lường và cải thiện chất lượng tìm kiếm bằng các con số
Hoàn thiện
Kết hợp LLM để xây dựng dịch vụ RAG hoàn chỉnh từ đầu đến cuối
Bạn đã từng có những trăn trở như thế này chưa?
Biết rằng RAG quan trọng, nhưng nếu bạn vẫn chưa biết bắt đầu từ đâu — thì đây chính là khóa học giải đáp phần đó.
Chỉ với khóa học này, bạn sẽ liền mạch đi từ khái niệm → dịch vụ thực tế → tối ưu hóa nâng cao.
Thà tự mình xem trực tiếp còn hơn nghe trăm lời giải thích..
Hãy xem trước qua video và màn hình sản phẩm được tạo ra trong khóa học cũng như cách khóa học được 진행 hành.
Học xong khóa học này, bạn có thể làm được những việc như thế này.
Mục tiêu không phải là “đã hiểu” mà là kết thúc với khả năng “tự mình tạo ra”.
Tự tay hiểu rõ nguyên lý của cơ sở dữ liệu vector và embedding Bạn sẽ có thể giải thích tại sao “những ý nghĩa tương đồng lại nằm ở các vector gần nhau”.
Tự mình triển khai tìm kiếm dựa trên ngữ nghĩa bằng ChromaDBXây dựng bằng mã nguồn một công cụ tìm kiếm theo “ý nghĩa” thay vì từ khóa.
Vận hành máy chủ ổn định, lưu trữ dữ liệu bền vững và sao lưuKhông chỉ dùng cho học tập mà còn ở dạng có thể triển khai lên dịch vụ thực tế.
Cách đo lường và nâng cao chất lượng tìm kiếmCải thiện kết quả bằng tập đánh giá, tìm kiếm lai và tái xếp hạng.
Hoàn thiện dịch vụ RAG với Express + LLM Tự xây dựng API trả lời dựa trên nội dung tài liệu được tải lên.
Từ tinh chỉnh HNSW, tái xếp hạng đến các mẫu RAG nâng cao, bạn sẽ thành thạo các mẫu thực tế như HyDE, Multi-Query, Self-Querying.
Tại sao phải là khóa học này?
Trên thị trường có rất nhiều khóa học về RAG. Nhưng khóa học này khác biệt ở bốn điểm.
Góc nhìn thực tiễn của chuyên gia đang làm việc tại Silicon Valley
Không phải là đoạn mã “chạy được”, mà bài giảng được thiết kế từ góc nhìn của một nhà phát triển AI đang làm việc trong ngành, người hiểu rõ điều gì thực sự quan trọng trong môi trường production, đồng thời chỉ ra các thiết kế và sự đánh đổi.
Không chỉ giải thích, mà trực tiếp xây dựng
Mỗi bài giảng, bạn sẽ trực tiếp chạy mã và tận mắt kiểm tra kết quả. Khi kết thúc, bạn sẽ có trong tay "dịch vụ RAG do chính mình xây dựng".
Nhập môn → Vận hành → Nâng cao, một mạch xuyên suốt
Không kết thúc chỉ với việc tìm hiểu khái niệm, cũng không đột ngột nhảy ngay lên phần nâng cao. Từ nền tảng đến thực hành và tối ưu hóa, mọi nội dung được nối tiếp liền mạch trong một khóa học.
Không cần API trả phí bên ngoài, tất cả đều chạy cục bộ
Cả Embedding và LLM đều được chạy cục bộ bằng Ollama. Không cần khóa API, cũng không phải lo lắng về những khoản phí phát sinh khổng lồ, bạn có thể thoải mái thực hành.
Giới thiệu giảng viên
Lập trình viên Thung lũng Silicon Waddy
Tôi là Waddy, một nhà phát triển máy chủ backend với 13 năm kinh nghiệm. Sau khi làm việc tại nhiều công ty trong nước, gần đây tôi đã chuyển việc sang Thung lũng Silicon và hiện đang phát triển các sản phẩm liên quan đến AI. Tôi có cơ duyên quen biết một người bạn là lập trình viên của Toss và nhờ đó đã gia nhập đội ngũ này. Tôi rất hứng thú với việc có thể cung cấp nhiều thông tin khác nhau trong môi trường Internet. Tôi sẽ cố gắng hết sức để truyền đạt những kiến thức mình biết theo cách dễ hiểu và thoải mái nhất.
"Tôi dành phần lớn thời lượng khóa học để giúp bạn nắm được thứ tự phán đoán cần kiểm tra trước tiên khi kết quả tìm kiếm hiển thị bất thường. Trong quá trình làm theo mã, bạn sẽ tự nhiên thành thạo cách viết mã."
Hãy theo dõi từ bây giờ qua góc nhìn của một nhà phát triển đang làm việc tại Thung lũng Silicon
Từ nguyên lý tìm kiếm vector đến hoàn thiện dịch vụ RAG, mọi thứ được kết nối liền mạch trong một quy trình thống nhất.
커리큘럼 자세히 보기Trước và sau khi học, điều gì sẽ thay đổi?
Dù cùng xử lý RAG, sau khi học khóa này, chiều sâu trong cách nhìn của bạn sẽ khác đi.
Trước khi học
- "RAG được triển khai như thế nào?" Khi được hỏi, chỉ liệt kê các bước đã làm theo hướng dẫn trong tutorial.
- Xác định kích thước chunk và giá trị top-k theo cảm tính, không thể giải thích căn cứ.
- Chưa bao giờ kiểm tra bằng số liệu xem chất lượng tìm kiếm đã tốt lên hay kém đi.
- Tôi đã thử clone và chạy ví dụ, nhưng chưa từng tự xây dựng từ đầu bằng dữ liệu của mình.
Sau khi hoàn thành khóa học
- Tôi có thể giải thích nguyên lý của embedding và tìm kiếm vector bằng lời của mình.
- Đo lường chất lượng tìm kiếm bằng các con số và quyết định cần thay đổi điều gì.
- Tự mình vận hành dịch vụ RAG có đầy đủ cả backend
- Nâng cao chất lượng bằng reranking, HNSW và các mẫu RAG nâng cao.
Sau khi kết thúc khóa học này, bạn sẽ tạo ra điều này..
Dịch vụ tìm kiếm RAG của riêng bạn, có thể trả lời câu hỏi dựa trên tài liệu khi người dùng tải tài liệu lên.
Dịch vụ RAG hỏi đáp dựa trên tài liệu
Đây không chỉ là một bản demo đơn giản mà là một backend hoạt động đầy đủ, bao gồm API ingest, tìm kiếm ngữ nghĩa, phản hồi từ LLM, thiết kế prompt và hiển thị nguồn trích dẫn. Ngoài ra, chúng ta còn tích hợp reranking và các mẫu RAG nâng cao để nâng cao chất lượng tìm kiếm.
Công nghệ này, trong thực tế được sử dụng như thế này
Các hệ thống tìm kiếm vector và RAG mà bạn xây dựng đang được vận hành hằng ngày tại những nơi như thế này.
Gom các tài liệu rời rạc chỉ bằng một dòng lệnh
Dù wiki, hướng dẫn sử dụng và quy định nằm rải rác ở hàng trăm nơi, chỉ cần một câu như "Chính sách hoàn tiền là thế nào nhỉ?" là có thể trả lời kèm căn cứ chính xác. Đây là giải pháp giúp giảm đáng kể chi phí đào tạo nhân viên mới và xử lý các câu hỏi lặp đi lặp lại.
Chatbot tư vấn hiển thị cả nguồn tham khảo
Tự động hóa khâu phản hồi ban đầu dựa trên tài liệu sản phẩm và FAQ. Đồng thời hiển thị tài liệu nào đã được tham khảo cùng với câu trả lời, giúp người dùng tin tưởng và kiểm chứng.
Rút ngắn thời gian đọc tài liệu dài
Khi tải lên báo cáo, bài luận hoặc hợp đồng, công cụ sẽ trở thành trợ lý giúp bạn hỏi đáp về những nội dung cốt lõi. Bạn có thể đặt những câu hỏi như: "Hãy chỉ tóm tắt các điều khoản phạt vi phạm trong hợp đồng này".
"Tính năng đó ở đâu nhỉ?"
Mã cũng được tìm kiếm theo ý nghĩa. Ngay cả khi không nhớ ra từ khóa, chỉ với mô tả như "phần xử lý hủy thanh toán", bạn vẫn có thể tìm thấy đoạn mã liên quan. (Trong khóa học, nội dung này được hướng dẫn trực tiếp thông qua việc phân đoạn mã.)
Tự học qua YouTube và tài liệu chính thức khác gì so với khóa học này?
Giảm thời gian tìm kiếm thông tin rời rạc và đi thẳng đến thực hành trong một lần.
| So sánh | Tự học một mình (YouTube·blog·tài liệu chính thức) | Khóa học này |
|---|---|---|
| Hình thức thông tin | Phân tán khắp nơi, phải tự mình chắp ghép lại. | Nhập môn → Vận hành → Nâng cao, được hệ thống hóa trong một mạch xuyên suốt |
| Độ sâu | Dễ dừng lại ở mức “bản demo hoạt động được” | Đến tận cùng: vận hành, đo lường và cải thiện chất lượng |
| Khi gặp bế tắc | Tự tìm kiếm và rút kinh nghiệm qua quá trình thử sai | Cung cấp góc nhìn xử lý sự cố và trình tự chẩn đoán |
| Sản phẩm cuối cùng | Các đoạn mã ví dụ rời rạc | Dịch vụ RAG tự vận hành |
| Tiêu chuẩn | Mỗi nguồn một kiểu khác nhau | Tiêu chuẩn thực tiễn từ người đang làm việc tại Thung lũng Silicon |
Chương trình học RAG·ChromaDB
Từ nền tảng tìm kiếm vector đến vận hành thực tế ChromaDB, RAG và các mẫu tìm kiếm nâng cao, tất cả được kết nối thành một mạch liền mạch. Hãy nhấn vào tiêu đề để mở rộng và xem nội dung.
섹션 1Giới thiệu khóa học và lộ trình học tập tổng thể
Nắm bắt tổng quan trong nháy mắt về những gì bạn sẽ học trong khóa học này và cách chúng liên kết với nhau theo trình tự A → B → C.
Giới thiệu khóa học và lộ trình học tập tổng thể
Nắm bắt tổng quan trong nháy mắt về những gì bạn sẽ học trong khóa học này và cách chúng liên kết với nhau theo trình tự A → B → C.
- Giới thiệu khóa học — Hướng dẫn về sản phẩm sẽ tạo, toàn bộ quy trình và lộ trình học tập
섹션 2Tìm kiếm theo ngữ nghĩa — nguyên lý của embedding và cơ sở dữ liệu vector
Từ những hạn chế của tìm kiếm từ khóa đến nguyên lý hoạt động của embedding, độ tương đồng và cơ sở dữ liệu vector, cùng phần giới thiệu về ChromaDB.
Tìm kiếm theo ngữ nghĩa — nguyên lý của embedding và cơ sở dữ liệu vector
Từ những hạn chế của tìm kiếm từ khóa đến nguyên lý hoạt động của embedding, độ tương đồng và cơ sở dữ liệu vector, cùng phần giới thiệu về ChromaDB.
- Tìm kiếm dựa trên ngữ nghĩa và embedding — ý tưởng xử lý ngữ nghĩa dưới dạng tọa độ
- Nguyên lý mô hình embedding và đo độ tương đồng — Cách đo mức độ gần nhau của các vector
- Cơ sở dữ liệu vector so với cơ sở dữ liệu truyền thống — Sự khác biệt và các trường hợp ứng dụng thực tế
- Giới thiệu về ChromaDB — Tổng quan các thành phần và ngăn xếp dự án
섹션 3Thiết lập môi trường phát triển — Chuẩn bị mô hình embedding Ollama
Tự cài đặt và chạy máy chủ embedding cục bộ Ollama, đồng thời chuẩn bị cả gói client.
Thiết lập môi trường phát triển — Chuẩn bị mô hình embedding Ollama
Tự cài đặt và chạy máy chủ embedding cục bộ Ollama, đồng thời chuẩn bị cả gói client.
- Cài đặt và chạy Ollama — Khởi động máy chủ embedding cục bộ
- Thực hành mô hình embedding — Kiểm tra việc gọi mô hình và cài đặt gói máy khách
섹션 4Nền tảng ChromaDB — CRUD bộ sưu tập, hàm embedding và tài liệu
Lưu dữ liệu ở chế độ bền vững, gắn hàm embedding và thoải mái thao tác với tài liệu.
Nền tảng ChromaDB — CRUD bộ sưu tập, hàm embedding và tài liệu
Lưu dữ liệu ở chế độ bền vững, gắn hàm embedding và thoải mái thao tác với tài liệu.
- Chế độ lưu trữ bền vững và CRUD bộ sưu tập — Lưu dữ liệu vào tệp và thao tác với bộ sưu tập
- Kết nối hàm embedding Ollama — Áp dụng và phân tích cách thức hoạt động
- Truy vấn và tạo tài liệu — Chức năng cốt lõi cơ bản nhất của API
- Chỉnh sửa và xóa tài liệu — hoàn thiện upsert và CRUD
섹션 5Bản demo mini về tìm kiếm tương đồng và công cụ tìm kiếm ngữ nghĩa đầu tiên
Nắm vững tìm kiếm query và các hàm khoảng cách, đồng thời tự hoàn thiện công cụ tìm kiếm ngữ nghĩa đầu tiên bằng kỹ thuật phân đoạn.
Bản demo mini về tìm kiếm tương đồng và công cụ tìm kiếm ngữ nghĩa đầu tiên
Nắm vững tìm kiếm query và các hàm khoảng cách, đồng thời tự hoàn thiện công cụ tìm kiếm ngữ nghĩa đầu tiên bằng kỹ thuật phân đoạn.
- Kiến thức cơ bản về tìm kiếm tương đồng — tìm kiếm query, hàm khoảng cách và diễn giải kết quả
- Chuyên sâu về tìm kiếm vector·độ tương đồng — con mắt đánh giá kết quả tìm kiếm
- Sự cần thiết của việc chia đoạn và bản demo nhỏ — Cắt tài liệu dài và tạo công cụ tìm kiếm đầu tiên
- Hoàn thiện bản demo — Các mẫu hậu xử lý và chẩn đoán tìm kiếm sai lệch
섹션 6Nâng cao chất lượng tìm kiếm — Bộ lọc siêu dữ liệu và tìm kiếm lai
Ôn lại HNSW và các hàm khoảng cách, đồng thời nâng cao chất lượng bằng bộ lọc siêu dữ liệu, bộ lọc nội dung và tìm kiếm lai.
Nâng cao chất lượng tìm kiếm — Bộ lọc siêu dữ liệu và tìm kiếm lai
Ôn lại HNSW và các hàm khoảng cách, đồng thời nâng cao chất lượng bằng bộ lọc siêu dữ liệu, bộ lọc nội dung và tìm kiếm lai.
- Ôn lại chỉ mục HNSW và hàm khoảng cách — Củng cố nền tảng cho tìm kiếm vector
- Thiết kế siêu dữ liệu và bộ lọc nội dung — sử dụng where_document
- Đánh giá tìm kiếm và tìm kiếm kết hợp — Thiết kế kết hợp vector + từ khóa
섹션 7Vận hành và thực chiến RAG — từ tích hợp backend đến kết hợp LLM
Hoàn thiện toàn bộ từ kỹ thuật chunking nâng cao, tối ưu hiệu năng đến backend Express, pipeline RAG và dịch vụ tích hợp LLM.
Vận hành và thực chiến RAG — từ tích hợp backend đến kết hợp LLM
Hoàn thiện toàn bộ từ kỹ thuật chunking nâng cao, tối ưu hiệu năng đến backend Express, pipeline RAG và dịch vụ tích hợp LLM.
- Chia đoạn nâng cao và di chuyển mô hình — Các mẫu thay thế mô hình embedding
- Xử lý dữ liệu khối lượng lớn — phân tích và đo lường hiệu năng với batch và phân trang
- Tích hợp backend Express — Triển khai dịch vụ tìm kiếm AI
- Cấu trúc RAG và quá trình nạp dữ liệu — Nạp tài liệu và cấu hình LLM
- Kết hợp LLM và thiết kế prompt — Tinh chỉnh prompt hệ thống và chất lượng đầu ra
- So sánh các cơ sở dữ liệu vector khác — Điểm khác biệt và tiêu chí lựa chọn so với ChromaDB
섹션 8Chiến lược chunking nâng cao và tinh chỉnh chỉ mục HNSW
Nâng cao độ chính xác tìm kiếm bằng cách tinh chỉnh việc chia đoạn Recursive·Semantic·Parent-Child và các tham số HNSW.
Chiến lược chunking nâng cao và tinh chỉnh chỉ mục HNSW
Nâng cao độ chính xác tìm kiếm bằng cách tinh chỉnh việc chia đoạn Recursive·Semantic·Parent-Child và các tham số HNSW.
- Chuyên sâu về chunking — Phân chia Recursive, phân tích cú pháp HTML·Markdown
- Phân đoạn Code·Semantic·Parent-Child — Mẫu phân chia giữ nguyên cấu trúc
- Tham số HNSW — Sự đánh đổi giữa M và ef_construction
- Tham số tìm kiếm ef — Tiêu chí đánh giá theo quy mô dữ liệu
섹션 9Các mẫu RAG nâng cao — từ tái xếp hạng đến Conversational RAG
Hoàn thiện bằng reranking cross-encoder và các mô hình RAG nâng cao như Query Rewriting, HyDE, Self-Querying.
Các mẫu RAG nâng cao — từ tái xếp hạng đến Conversational RAG
Hoàn thiện bằng reranking cross-encoder và các mô hình RAG nâng cao như Query Rewriting, HyDE, Self-Querying.
- Tái xếp hạng (Reranking) — Sự cần thiết và mô hình cross-encoder
- Cân bằng giữa đánh giá pipeline và chi phí — Cân bằng giữa độ chính xác và chi phí
- Query Rewriting·HyDE·Multi-Query — Tinh chỉnh truy vấn để tăng cường tìm kiếm
- Retrieval nâng cao — Parent-Child, Self-Querying, Conversational RAG
Nếu bạn đã xem hết cả chương trình học,
Từ nhập môn đến tối ưu hóa nâng cao, nội dung được kết nối liền mạch. Bạn có thể bắt đầu ngay bây giờ mà không cần thanh toán cho API bên ngoài.
지금 등록하고 실습 시작하기Tôi khuyên dùng cho những người như sau
Tôi đã viết một cách chân thực để chắc chắn mang lại sự trợ giúp thiết thực cho những người phù hợp.
Nếu bạn thuộc những đối tượng sau thì nhất định hãy tham gia
- Nhà phát triển muốn xây dựng ứng dụng AI·LLM
- Những người muốn hệ thống hóa bài bản về RAG và tìm kiếm vector một lần cho đúng cách
- Đã học xong các tutorial nhưng chưa thể chuyển sang “dịch vụ thực tế”
- Những người cần tư duy thực tiễn để đo lường và cải thiện chất lượng tìm kiếm
- Dành cho những ai muốn hiểu góc nhìn thiết kế của các chuyên gia đang làm việc thực tế tại Silicon Valley
Những người này có thể sẽ thấy khó khăn
- Dành cho người mới bắt đầu lập trình (giả định đã nắm được cú pháp cơ bản)
- Dành cho những người chỉ muốn đào sâu vào lý thuyết và chứng minh công thức (khóa học này tập trung vào “xây dựng”)
- Những người hoàn toàn không có thời gian để tự mình chạy thử mã nguồn
Làm quen thành thạo với những công cụ này, để sử dụng nhuần nhuyễn.
Stack mã nguồn mở được sử dụng trực tiếp trong thực tế. Toàn bộ hệ thống chạy cục bộ mà không cần API trả phí bên ngoài.
Cơ sở dữ liệu vector mã nguồn mở — trung tâm của tìm kiếm ngữ nghĩa
Ngôn ngữ triển khai toàn bộ quy trình
Embedding cục bộ · LLM (miễn phí)
Vận hành máy chủ cục bộ và sao lưu·khôi phục dữ liệu
Backend API tìm kiếm · RAG
Hai nền tảng mà khóa học này sử dụng
Cả hai đều là mã nguồn mở và đều chạy ngay trên laptop. Bạn có thể bắt đầu mà không cần tài khoản hay đăng ký thẻ.
Môi trường chạy mô hình cục bộ
Ollama
Xây dựng với các mô hình nguồn mở,
trên máy tính của bạn và trên đám mây
Ollama là công cụ cho phép bạn chạy và thử nghiệm các mô hình AI tùy ý trên máy cục bộ của mình mà không cần nhiều phần phụ thuộc. Bạn có thể tải mô hình xuống và gọi ngay chỉ bằng một dòng lệnh.
Trong bài giảng này, chúng tôi đã cấu hình dựa trên nền tảng này để không phát sinh thêm chi phí và không cần thiết lập môi trường bổ sung.
Cơ sở dữ liệu vector
ChromaDB
Hạ tầng tìm kiếm mã nguồn mở cho AI
ChromaDB là một nền tảng có thể được thiết lập nhanh chóng trên máy cục bộ mà không cần phụ thuộc vào các thành phần khác và không gặp nhiều khó khăn. Tài liệu chính thức giới thiệu như sau — “Chroma là cơ sở hạ tầng dữ liệu mã nguồn mở dành cho AI. Nó được tích hợp sẵn mọi thứ bạn cần để bắt đầu.”
Trong khóa học này, bạn có thể học các mẫu xử lý dữ liệu RAG bằng cách tận dụng nền tảng này, đồng thời đưa dữ liệu vào LLM và quản lý dữ liệu dựa trên đó.
Không sử dụng đám mây. Chroma cũng vận hành Chroma Cloud, một dịch vụ lưu trữ cung cấp tính năng tìm kiếm vector, tìm kiếm kết hợp và tìm kiếm chuyên dụng. Tuy nhiên, khóa học này được thực hiện hoàn toàn trên máy cục bộ từ đầu đến cuối, nên bạn có thể hoàn thành mà không cần đăng ký hay thanh toán. Bạn chỉ cần biết rằng sau này, khi chuyển sang vận hành thực tế, bạn sẽ có thêm một lựa chọn.
Kiến thức cần có & vật dụng cần chuẩn bị
Không cần chuẩn bị gì cầu kỳ. Chỉ cần một chiếc máy tính xách tay là bạn có thể bắt đầu.
Kiến thức cơ bản về TypeScript · Node.js
Chỉ cần biết về biến, hàm, async/await và import là đủ. Express cũng sẽ được hướng dẫn từng bước trong khóa học.
macOS
Khóa học được tiến hành trên macOS (zsh·Homebrew). Embedding·LLM đều được chạy miễn phí cục bộ (Ollama).
Thanh toán bên ngoài: 0 đồng
Bạn không cần khóa API trả phí như OpenAI. Bạn sẽ hoàn thành toàn bộ quá trình từ đầu đến cuối chỉ với mã nguồn mở và các mô hình chạy cục bộ.
Các câu hỏi thường gặp
Chúng tôi đã tổng hợp những điều mà bạn thường thắc mắc nhất trước khi tham gia khóa học.
Q.RAG(Retrieval-Augmented Generation)는 무엇인가요?⌄
Q.Python을 몰라도 들을 수 있나요?⌄
Q.OpenAI API 키나 결제가 필요한가요?⌄
Q.완전 초보도 따라갈 수 있나요?⌄
Q.앞에만 듣거나, 실습만 들어도 되나요?⌄
Q.실습 환경이 Windows인데 괜찮나요?⌄
Q.ChromaDB나 벡터 검색을 이미 좀 써봤는데, 그래도 들을 이유가 있나요?⌄
Ghi chép của học viên
Học viên trực tiếp triển khai đã đánh giá như sau
“Sau khi triển khai vòng lặp agent, việc xây dựng lại bằng SDK giúp tôi lần đầu tiên nhìn thấy được bên trong.”구조를 이해하는 실습
“Anh/chị đã giải thích những phần cốt lõi một cách dễ hiểu nên bài học càng hữu ích hơn.”쉬운 설명
“Tôi nghĩ ban đầu đây là nội dung khó, nhưng nhờ được giải thích một cách dễ hiểu nên tôi đã học rất thoải mái.”진입 장벽 완화
“Tôi có thể hiểu được những nguyên lý cốt lõi giúp agent hoạt động thông qua việc trực tiếp triển khai chúng.”핵심 원리 이해
“Sau khi tự triển khai vòng lặp agent rồi xây dựng lại bằng SDK, lần đầu tiên tôi đã có thể nhìn thấy những gì bên trong.”구조를 이해하는 실습
“Thầy/cô đã giải thích những phần cốt lõi một cách dễ hiểu, nên tôi càng thấy hữu ích hơn.”쉬운 설명
“Ban đầu tôi nghĩ đây là nội dung khó, nhưng nhờ được giải thích một cách dễ hiểu nên tôi đã học rất thoải mái.”진입 장벽 완화
Đánh giá này được trích từ một khóa học AI Agent riêng của cùng tác giả, không phải khóa học RAG. Chúng tôi hiển thị riêng để tránh hiểu nhầm đây là đánh giá về khóa học RAG.
Dịch vụ RAG trả lời khi bạn tải tài liệu lên,
hãy tự tay xây dựng ngay bây giờ
Từ nguyên lý tìm kiếm vector đến hoàn thiện dịch vụ RAG, cùng việc tinh chỉnh re-ranking và HNSW. Toàn bộ bài thực hành đều được thực hiện cục bộ mà không cần thanh toán API bên ngoài.
강의 시작하기Đừng để việc học kết thúc tại đó một mình
Việc học vẫn tiếp tục ngay cả bên ngoài khóa học. Chúng tôi đang vận hành một phòng trò chuyện mở trên KakaoTalk, nơi các nhà phát triển cùng nhau tự do chia sẻ những trăn trở về sự nghiệp, tình hình thực tế trong công việc và các câu chuyện công nghệ. Nếu gặp phần nào khó hiểu trong quá trình học, bạn cũng cứ thoải mái đặt câu hỏi nhé.
Từ câu chuyện nghề nghiệp, tình hình thực tế trong công việc đến những trăn trở về kỹ thuật.
Đây là không gian để thoải mái đặt câu hỏi và cùng nhau tìm câu trả lời.
open.kakao.com/o/ggBVZsai
Khuyến nghị cho
những người này
Khóa học này dành cho ai?
Những nhà phát triển đã làm theo hướng dẫn RAG nhưng không thể triển khai thành dịch vụ thực tế
Người chưa tìm ra nguyên nhân khiến chất lượng kết quả tìm kiếm kỳ lạ.
Lập trình viên backend chỉ mới “sử dụng” các tính năng AI chứ chưa từng tự mình xây dựng chúng
Những người luôn cảm thấy khái niệm DB vector và embedding khá mơ hồ
Xin chào
Đây là Hong
Xác minh Inflearn
Xác minh sự nghiệp
9,243
Học viên
590
Đánh giá
165
Trả lời
4.8
Xếp hạng
31
Các khóa học
Tôi bắt đầu học lập trình sau một thời gian dài lười biếng ở nhà và cảm thấy hứng thú với nó, hiện tại tôi đang đảm nhận việc phát triển máy chủ nền tảng (platform server) tại Pangyo. Tôi tiếp tục hoạt động với tư cách là người chia sẻ kiến thức vì muốn cung cấp cho các bạn phương pháp tôi đã học cũng như những vấn đề và giải pháp khác nhau mà các bạn có thể gặp phải trong thực tế.
Bài giảng không chỉ được tạo ra từ kiến thức của riêng tôi. Mọi bài giảng đều có sự đồng hành của những người cộng sự.
Choi, người đang làm nhà phát triển máy chủ và hoạt động với tư cách là người phỏng vấn tại Kakao
Nhà phát triển server đang làm việc tại Toss
Từng làm việc tại tập đoàn Shinsegae và hiện đang là nhà phát triển tại Naver, Ande
Nhà phát triển tại Thung lũng Silicon Waddy, người đã tham gia theo lời giới thiệu của một nhà phát triển từ Toss
[Kinh nghiệm của người chia sẻ kiến thức]
[Cựu] Nhà phát triển blockchain liên quan đến Sandbox IP
[Cựu] Nhà phát triển Backend Metaverse
[Hiện tại] Nhà phát triển server đang làm việc lâu năm tại Pangyo
[Lịch sử phỏng vấn]
[Yêu cầu khác]
[Trang web chính thức]
Chương trình giảng dạy
Tất cả
32 bài giảng ∙ (8giờ 51phút)
Tài liệu khóa học:
Đánh giá
Tất cả
3 đánh giá
5.0
3 đánh giá
hjun656416519Đánh giá 4
∙
Đánh giá trung bình 5.0
5
91% đã tham giaĐối với một người vốn chỉ biết về các cơ sở dữ liệu thông thường như tôi, đây là một chủ đề cực kỳ hữu ích. Vì đây không phải là những chủ đề phổ biến như MySQL hay MongoDB nên nó càng bổ ích hơn, giúp tôi học hỏi được rằng "À, thì ra cũng có công nghệ như thế này sao??" hay "Cũng có góc nhìn như thế này nữa à??". Tôi cảm thấy tầm nhìn của mình đã được mở rộng hơn. Cảm ơn bạn vì nội dung tuyệt vời này.
- jhongGiảng viên
Tôi nghĩ RAG thực sự là một chủ đề khá khó tiếp cận. Tuy nhiên, nếu bạn triển khai AX và xây dựng các dịch vụ AI thì đây là chủ đề không thể bỏ qua, vì vậy việc tìm hiểu sẽ mang lại rất nhiều lợi ích. Cảm ơn bạn đã để lại đánh giá tích cực!
gjsu540607534Đánh giá 15
∙
Đánh giá trung bình 5.0
5
94% đã tham giaPhần trực tiếp cho thấy những gì không hoạt động cùng với nội dung kiểm chứng thực sự rất ấn tượng. Tôi đã dành trọn ngày nghỉ để xem hết tất cả các bài giảng mới mở gần đây - Cho đến tận bài giảng về AI Agent!! Tôi nghĩ đây là một chủ đề tuyệt vời để nắm bắt được khung sườn tổng quát về việc phát triển nền tảng hay dịch vụ AI cần cân nhắc những yếu tố nào, cũng như kết hợp những tính năng và dịch vụ gì. Đối với những bạn đang chuẩn bị xin việc hay những người đang có ý định chuyển sang lĩnh vực này, tôi nghĩ nó sẽ giúp ích rất nhiều trong việc định hướng.
- jhongGiảng viên
Tôi nghĩ rằng việc cho thấy những điều không thể thực hiện được mới là nội dung thực sự mà một khóa học cần truyền đạt. Những đoạn mã ví dụ mà hầu hết các bạn sử dụng, nếu chỉ cần sao chép và dùng thì phần lớn sẽ hoạt động tốt. Nhưng khi không hoạt động thì cần kiểm tra như thế nào — tôi nghĩ đây mới là điều quan trọng. Tôi rất vui vì quan điểm này có vẻ đã được truyền đạt rõ ràng, hehe. Chúc các bạn một ngày tốt lành!!
jukascrow6433Đánh giá 11
∙
Đánh giá trung bình 5.0
5
94% đã tham giaVì đây là nội dung rất hot dạo gần đây nên tôi đã rất quan tâm và theo dõi khóa học. Dù bắt đầu từ con số không nhưng tôi đã học hỏi được rất nhiều điều bổ ích. Thị trường dạo này đang rất khó khăn, nhưng dựa trên những nội dung này, tôi nghĩ mình có thể xây dựng được danh mục đầu tư phù hợp.. ㅎㅎ Xin cảm ơn!!
- jhongGiảng viên
Thật vinh dự khi được đưa vào danh mục đầu tư... ㅠㅠ Từ nay tôi sẽ cố gắng truyền tải nhiều nội dung hữu ích hơn nữa.!!
Khóa học khác của Hong
Hãy khám phá các khóa học khác của giảng viên!
Khóa học tương tự
Khám phá các khóa học khác trong cùng lĩnh vực!







![[AI Cheat Key] Thiết lập cuộc chơi mới giữa Trí tuệ nhân tạo × Trí tuệ con ngườiHình thu nhỏ khóa học](https://cdn.inflearn.com/public/files/courses/340718/cover/ai/0/506ad926-381d-4363-882b-528c1409d7fb.png?w=420)









