Bước đầu thiết kế hệ thống với LLM: Thiết kế kiến trúc dịch vụ AI có khả năng vận hành (RAG·AI Agent)

Kiến trúc sẽ thay đổi như thế nào khi kết hợp LLM vào backend hiện có? Đây là khóa học nhập môn thiết kế hệ thống, giúp bạn hiểu rõ các thành phần cốt lõi của dịch vụ AI như Model Router, LLM Gateway, Vector DB thay vì chỉ gọi API LLM đơn thuần, từ đó từng bước thiết kế kiến trúc dịch vụ AI có khả năng vận hành thực tế, bao gồm cả RAG và AI Agent. Khóa học được thiết kế dành cho những ai muốn tạo ra dịch vụ AI dựa trên LLM của riêng mình, giúp bạn nhanh chóng nắm bắt quy trình thiết kế hệ thống.

12 học viên đang tham gia khóa học này

Độ khó Cơ bản

Thời gian Không giới hạn

Architecture
Architecture
software-design
software-design
system-design
system-design
LLM
LLM
RAG
RAG
Architecture
Architecture
software-design
software-design
system-design
system-design
LLM
LLM
RAG
RAG

Bạn sẽ nhận được điều này sau khi học.

  • Khả năng thiết kế kiến trúc hệ thống dựa trên LLM, RAG và AI Agent

  • Hiểu về các thành phần cốt lõi của dịch vụ LLM (Model Router, LLM Gateway, Vector DB, Retriever, v.v.)

  • Hiểu về các đánh đổi trong thiết kế (trade-off) khi cân nhắc đến hiệu suất, khả năng mở rộng và độ tin cậy của dịch vụ AI

Khởi đầu để phát triển thành một kỹ sư AI biết cách thiết kế các dịch vụ AI có khả năng vận hành 🚀


"Tôi muốn tạo một dịch vụ sử dụng LLM, nhưng nên thiết kế như thế nào đây?🤔"


Với sự ra đời của LLM, kỷ nguyên mà bất kỳ ai cũng có thể áp dụng các tính năng AI vào dịch vụ đã đến.

Giờ đây, chỉ cần kết nối các LLM API như ChatGPT, Claude là đã có thể nhanh chóng tạo ra nhiều dịch vụ AI đa dạng.

Tuy nhiên, không chỉ dừng lại ở việc gọi LLM API, khi bắt đầu xây dựng một dịch vụ AI có thể vận hành thực tế, những nỗi lo mới sẽ xuất hiện.

  • Nên chọn mô hình nào? Làm thế nào để điều hướng (routing) giữa nhiều mô hình khác nhau?


  • Làm thế nào để quản lý lịch sử hội thoại và ngữ cảnh?

  • Khi nào cần RAG và nên thiết kế như thế nào?

  • AI Agent bao gồm những thành phần nào và cần phải cân nhắc điều gì khi thiết kế?

  • Làm thế nào để có thể cải thiện chi phí, tốc độ phản hồi và chất lượng?


Khi LLM trở thành một thành phần hệ thống mới, kiến trúc hệ thống của các dịch vụ AI cũng đang thay đổi sang một hình thái khác so với các hệ thống backend truyền thống.

Khóa học này là khóa học về thiết kế hệ thống, nơi bạn sẽ học cách thiết kế các dịch vụ sử dụng LLM thành một hệ thống ổn định, có thể mở rộng và có thể vận hành được.

Bạn sẽ hiểu rõ vai trò của các thành phần cốt lõi như Model Router, LLM Gateway, Conversation Manager, Vector DB, đồng thời cùng tìm hiểu về kiến trúc RAG và AI Agent để nắm vững toàn bộ quy trình thiết kế một hệ thống AI có khả năng vận hành thực tế.

Khóa học này không phải là khóa học để trực tiếp phát triển mô hình AI hay học cách sử dụng một khung làm việc (framework) AI cụ thể. Đây là khóa học tập trung vào việc học cách thiết kế hệ thống AI dưới góc nhìn của một kỹ sư, người áp dụng và vận hành AI vào các dịch vụ thực tế.

Các mô hình và khung làm việc AI đang phát triển nhanh chóng và liên tục thay đổi, nhưng nguyên lý để thiết kế một hệ thống tốt thì không dễ dàng thay đổi.

Thông qua khóa học này, chúng ta sẽ cùng nhau học hỏi những nguyên lý cơ bản trong thiết kế hệ thống dịch vụ AI, từ đó xây dựng các tiêu chuẩn để bạn có thể tự mình thiết kế và đánh giá kiến trúc hệ thống AI phù hợp với từng tình huống, ngay cả khi các công nghệ mới xuất hiện.

#LLM #Hệ thống AI #Thiết kế hệ thống #RAG #AI Agent


🎉 Đang diễn ra chương trình giảm giá Early Bird 50% mừng ngày ra mắt 🎉

Nhân dịp ra mắt bài giảng mới, chương trình giảm giá Early Bird trong vòng một tháng sẽ được diễn ra từ ngày 15 tháng 8 đến ngày 13 tháng 9! 🚀

Bài giảng trước 「Bước đầu thiết kế hệ thống」 cũng đang được giảm giá 20% trong 2 tuần, nên nếu bạn quan tâm đến thiết kế hệ thống và kiến trúc dịch vụ AI, hãy cùng bắt đầu ngay trong cơ hội này nhé! 📚✨

🌟 Điểm khác biệt của bài giảng


📌 1. Thiết kế hệ thống dưới góc nhìn của một kỹ sư AI.

Khóa học này không phải là khóa học học cách viết prompt tốt hay cách sử dụng một AI framework cụ thể.

Bạn sẽ học cách thiết kế kiến trúc hệ thống AI có khả năng vận hành dưới góc nhìn của một kỹ sư Backend/AI đang xây dựng dịch vụ thực tế.


📌 2. Kết nối tất cả các thành phần cốt lõi cần thiết trong môi trường vận hành thực tế.

Thay vì học riêng lẻ các thành phần cốt lõi được sử dụng trong các dịch vụ AI thực tế như Model Router, LLM Gateway, Conversation Manager, Vector DB, RAG, AI Agent, bạn sẽ hiểu dưới góc độ kiến trúc về việc chúng được kết nối và hoạt động cùng nhau như thế nào trong một hệ thống thống nhất.


📌 3. Học các nguyên lý thiết kế vẫn luôn đúng ngay cả khi công nghệ thay đổi.

Các mô hình AI và framework liên tục thay đổi, nhưng nguyên lý thiết kế một hệ thống tốt thì không dễ dàng thay đổi.

Trong khóa học này, thay vì chỉ tập trung vào cách sử dụng một công nghệ cụ thể, chúng tôi tập trung vào việc nuôi dưỡng tư duy có thể tự thiết kế và đánh giá kiến trúc hệ thống AI phù hợp với từng tình huống ngay cả khi các công nghệ mới xuất hiện.

✏ Học về quy trình thiết kế hệ thống dịch vụ LLM

Phần 1. Tại sao phải học thiết kế hệ thống sử dụng LLM?

  • Chúng ta sẽ tìm hiểu về môi trường phát triển dịch vụ AI đang thay đổi do sự ra đời của LLM, và lý do tại sao chúng ta cần hiểu nó dưới góc độ thiết kế hệ thống thay vì chỉ đơn thuần là sử dụng LLM.

  • Chúng ta sẽ tìm hiểu về vai trò của nhà phát triển đã thay đổi như thế nào sau sự phát triển của AI, đồng thời học hỏi về cách thức thiết kế và các yếu tố cần cân nhắc thay đổi ra sao khi thành phần mới mang tên LLM được thêm vào kiến trúc hệ thống hiện có. and learn how design methods and considerations evolve as LLM is added as a new component to existing system architectures.



Phần 2. Hiểu về thiết kế hệ thống LLM

  • Chúng ta sẽ tìm hiểu thông qua nhiều trường hợp sử dụng khác nhau về những dịch vụ có thể tạo ra bằng cách tận dụng thành phần hệ thống mới mang tên LLM.

  • Hiểu được các mục tiêu cốt lõi của thiết kế hệ thống backend truyền thống như độ tin cậy, tính khả dụng, hiệu suất và khả năng mở rộng thay đổi như thế nào trong hệ thống dựa trên LLM, đồng thời xem xét các yếu tố bổ sung cần lưu ý dành riêng cho dịch vụ LLM.

  • Ngoài ra, chúng ta sẽ tìm hiểu về quá trình phát triển của LLM, nắm bắt các luồng công nghệ cốt lõi xoay quanh kiến trúc Transformer, từ đó tích lũy kiến thức cơ bản để thiết kế hệ thống dựa trên LLM.

Phần 3. Kiến trúc cơ bản ứng dụng LLM

  • Chúng ta sẽ tìm hiểu về kiến trúc dịch vụ cơ bản nhất sử dụng LLM, đồng thời hiểu rõ các thành phần cần thiết để tạo ra một dịch vụ AI có khả năng vận hành thực tế, thay vì chỉ dừng lại ở việc gọi API LLM đơn thuần.

  • Kỹ thuật gợi ý (Prompt Engineering), chiến lược lựa chọn và phục vụ mô hình, LLM Router & Gateway, Conversation Manager quản lý lịch sử hội thoại v.v. Bạn sẽ được học lý do tại sao các thành phần cốt lõi của dịch vụ dựa trên LLM lại cần thiết và cách ứng dụng chúng trong từng tình huống cụ thể.



Phần 4. Kiến trúc RAG

  • Tiến thêm một bước nữa từ kiến trúc cơ bản sử dụng LLM, chúng ta sẽ tìm hiểu về kiến trúc RAG nhằm giảm thiểu vấn đề ảo giác của LLM và tận dụng dữ liệu riêng của dịch vụ.

  • Tìm hiểu nguyên lý hoạt động của Embedding và Vector DB, đồng thời xem xét toàn bộ đường ống dữ liệu (data pipeline) của hệ thống RAG từ thu thập tài liệu đến tiền xử lý, chia nhỏ (chunking), lập chỉ mục (indexing) và tìm kiếm..

  • Ngoài ra, bạn sẽ được học các phương pháp thiết kế RAG cần cân nhắc trong môi trường vận hành thực tế, chẳng hạn như lập chỉ mục tăng dần (incremental indexing) để xử lý tài liệu quy mô lớn một cách hiệu quả, Hybrid RetrieverReranker để nâng cao chất lượng tìm kiếm.

Phần 5. Kiến trúc AI Agent (Công bố vào tháng 10)

  • Hiểu cấu trúc của hệ thống AI Agent, nơi LLM vượt xa khỏi RAG để tự đưa ra phán đoán, lựa chọn các công cụ cần thiết và thực hiện nhiều tác vụ khác nhau.

  • Tìm hiểu vai trò của các thành phần cốt lõi cấu thành nên Agent là Planning, Tool Calling, Memory, Agent Runtime

  • Tìm hiểu về các kiến trúc ứng dụng như kiến trúc Agentic RAG kết hợp giữa RAG và Agent.



Phần 6. Vận hành và tối ưu hóa dịch vụ AI dựa trên LLM (Công bố vào tháng 12)

  • Tìm hiểu về các phương pháp giám sát, bảo mật, đánh giá và cải thiện hiệu suất cần thiết để cung cấp dịch vụ LLM ổn định trong môi trường vận hành thực tế.

  • Hiểu cách đo lường và cải thiện chất lượng cũng như chi phí của dịch vụ LLM, đồng thời nắm vững các yếu tố cốt lõi cần thiết trong giai đoạn vận hành như Prompt/Response Logging, Evaluation, Guardrail.

  • Tìm hiểu phương pháp thiết kế hệ thống để tối ưu hóa tốc độ phản hồi và chi phí, đồng thời xem xét quá trình hoàn thiện một dịch vụ AI có thể vận hành được.

🙋 Đối tượng đề xuất

Tôi muốn tạo một dịch vụ sử dụng LLM, nhưng không biết phải bắt đầu thiết kế từ đâu

Những người muốn học về toàn bộ kiến trúc và luồng thiết kế của một dịch vụ AI có thể vận hành được, thay vì chỉ dừng lại ở việc gọi LLM API.

Tôi muốn áp dụng LLM vào các dự án hoặc công việc của công ty.


Nhà phát triển muốn thiết kế kiến trúc hệ thống AI có thể áp dụng vào thực tế như tự động hóa công việc nội bộ, thêm tính năng AI, phát triển dịch vụ AI, v.v.

Tôi muốn phát triển thành Kỹ sư AI hoặc Nhà phát triển dịch vụ AI.


Những người muốn rèn luyện tư duy để có thể tự mình thiết kế các dịch vụ AI, đồng thời cân nhắc đến hiệu suất, chi phí, chất lượng và khả năng mở rộng.

Lưu ý trước khi khóa học bắt đầu

📚 Tài liệu học tập

  • Cung cấp file PDF slide bài giảng. (Khoảng 220 trang (+dự kiến bổ sung))

📖 Kiến thức tiên quyết và lưu ý

  • Khóa học này là khóa học tập trung vào lý thuyết thiết kế kiến trúc hệ thống của các dịch vụ AI dựa trên LLM.

    Do đó, khóa học này không bao gồm hướng dẫn sử dụng hoặc thực hành triển khai mã nguồn cho các khung (framework) cụ thể như LangChain, LlamaIndex hay Spring AI.

  • Nếu bạn đã có kinh nghiệm phát triển backend cơ bản, bạn sẽ theo kịp khóa học dễ dàng hơn, và việc biết các nội dung dưới đây sẽ giúp ích cho quá trình học tập.

    • Nguyên lý hoạt động cơ bản của HTTP và REST API

    • Kinh nghiệm phát triển sử dụng cơ sở dữ liệu (RDB hoặc NoSQL)

    • Kinh nghiệm phát triển dịch vụ web hoặc backend

    • Kinh nghiệm sử dụng các LLM như ChatGPT, Claude hoặc kinh nghiệm gọi LLM API cơ bản

  • Bạn không cần kiến thức chuyên môn về LLM hay kinh nghiệm phát triển mô hình AI. Vì chúng tôi sẽ giải thích từng bước từ các khái niệm cơ bản của LLM đến cấu trúc hoạt động của các dịch vụ AI, nên ngay cả những nhà phát triển chưa có nhiều kinh nghiệm về AI cũng có thể hiểu và nắm bắt được toàn bộ luồng thiết kế hệ thống AI.


Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Nhà phát triển muốn tự tay thiết kế kiến trúc ổn định cho các dịch vụ AI dựa trên LLM

  • Sinh viên mới tốt nghiệp đang tìm việc muốn thực hiện dự án dựa trên LLM

  • Các nhà phát triển đang làm việc muốn áp dụng LLM vào công việc tại công ty, chẳng hạn như tự động hóa quy trình nghiệp vụ hoặc cải thiện nền tảng nội bộ.

  • Nhà phát triển backend cần thêm LLM vào hệ thống backend hiện có

Cần biết trước khi bắt đầu?

  • Hiểu biết về kiến trúc backend cơ bản (nguyên lý hoạt động cơ bản của backend như HTTP, RESTful API, Web Server, DB, v.v.)

  • Có sự quan tâm và kinh nghiệm cơ bản về LLM (Sẽ rất tốt nếu bạn đã từng ít nhất một lần gọi LLM API như ChatGPT hoặc Claude, hoặc có kinh nghiệm viết prompt)

Xin chào
Đây là mindlantern

Xác minh sự nghiệp

709

Học viên

52

Đánh giá

7

Trả lời

5.0

Xếp hạng

2

Các khóa học

Xin chào, tôi là nhà phát triển Seongjang Lantern.
Tôi đang làm việc tại một tập đoàn IT lớn trong nước và luôn mơ về một thế giới nơi bất kỳ ai cũng có thể trở thành nhà phát triển và tự tay tạo ra những gì mình tưởng tượng.

Tôi muốn truyền đạt những trăn trở trong công việc thực tế và các kỹ thuật đang được sử dụng sao cho ngay cả những người mới bắt đầu cũng có thể dễ dàng thấu hiểu.
Là một người yêu thích quá trình học hỏi và trưởng thành, tôi hy vọng những người tham gia bài giảng của mình cũng có thể cảm nhận được niềm vui cùng nhau phát triển.

 

Email: mindlantern.studio@gmail.com

Thêm

Chương trình giảng dạy

Tất cả

25 bài giảng ∙ (4giờ 20phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Ưu đãi có thời hạn

42.350 ₫

50%

1.778.153 ₫