inflearn logo

Bước đầu thiết kế hệ thống với LLM: Thiết kế kiến trúc dịch vụ AI có khả năng vận hành (RAG·AI Agent)

Kiến trúc sẽ thay đổi như thế nào khi kết hợp LLM vào backend hiện có? Đây là khóa học nhập môn thiết kế hệ thống, giúp bạn hiểu rõ các thành phần cốt lõi của dịch vụ AI như Model Router, LLM Gateway, Vector DB thay vì chỉ gọi API LLM đơn thuần, từ đó từng bước thiết kế kiến trúc dịch vụ AI có khả năng vận hành thực tế, bao gồm cả RAG và AI Agent. Khóa học được thiết kế dành cho những ai muốn tạo ra dịch vụ AI dựa trên LLM của riêng mình, giúp bạn nhanh chóng nắm bắt quy trình thiết kế hệ thống.

(4.3) 4 đánh giá

73 học viên

Độ khó Cơ bản

Thời gian Không giới hạn

Architecture
Architecture
software-design
software-design
system-design
system-design
LLM
LLM
RAG
RAG
Architecture
Architecture
software-design
software-design
system-design
system-design
LLM
LLM
RAG
RAG

Bạn sẽ nhận được điều này sau khi học.

  • Khả năng thiết kế kiến trúc hệ thống dựa trên LLM, RAG và AI Agent

  • Hiểu về các thành phần cốt lõi của dịch vụ LLM (Model Router, LLM Gateway, Vector DB, Retriever, v.v.)

  • Hiểu về các đánh đổi trong thiết kế (trade-off) khi cân nhắc đến hiệu suất, khả năng mở rộng và độ tin cậy của dịch vụ AI

Khởi đầu để phát triển thành một kỹ sư AI biết cách thiết kế các dịch vụ AI có khả năng vận hành 🚀


"Tôi muốn tạo một dịch vụ sử dụng LLM, nhưng nên thiết kế như thế nào đây?🤔"


Với sự ra đời của LLM, kỷ nguyên mà bất kỳ ai cũng có thể áp dụng các tính năng AI vào dịch vụ đã đến.

Giờ đây, chỉ cần kết nối các LLM API như ChatGPT, Claude là đã có thể nhanh chóng tạo ra nhiều dịch vụ AI đa dạng.

Tuy nhiên, không chỉ dừng lại ở việc gọi LLM API, khi bắt đầu xây dựng một dịch vụ AI có thể vận hành thực tế, những nỗi lo mới sẽ xuất hiện.

  • Nên chọn mô hình nào? Làm thế nào để điều hướng (routing) giữa nhiều mô hình khác nhau?


  • Làm thế nào để quản lý lịch sử hội thoại và ngữ cảnh?

  • Khi nào cần RAG và nên thiết kế như thế nào?

  • AI Agent bao gồm những thành phần nào và cần phải cân nhắc điều gì khi thiết kế?

  • Làm thế nào để có thể cải thiện chi phí, tốc độ phản hồi và chất lượng?


Khi LLM trở thành một thành phần hệ thống mới, kiến trúc hệ thống của các dịch vụ AI cũng đang thay đổi sang một hình thái khác so với các hệ thống backend truyền thống.

Khóa học này là khóa học về thiết kế hệ thống, nơi bạn sẽ học cách thiết kế các dịch vụ sử dụng LLM thành một hệ thống ổn định, có thể mở rộng và có thể vận hành được.

Bạn sẽ hiểu rõ vai trò của các thành phần cốt lõi như Model Router, LLM Gateway, Conversation Manager, Vector DB, đồng thời cùng tìm hiểu về kiến trúc RAG và AI Agent để nắm vững toàn bộ quy trình thiết kế một hệ thống AI có khả năng vận hành thực tế.

Khóa học này không phải là khóa học để trực tiếp phát triển mô hình AI hay học cách sử dụng một khung làm việc (framework) AI cụ thể. Đây là khóa học tập trung vào việc học cách thiết kế hệ thống AI dưới góc nhìn của một kỹ sư, người áp dụng và vận hành AI vào các dịch vụ thực tế.

Các mô hình và khung làm việc AI đang phát triển nhanh chóng và liên tục thay đổi, nhưng nguyên lý để thiết kế một hệ thống tốt thì không dễ dàng thay đổi.

Thông qua khóa học này, chúng ta sẽ cùng nhau học hỏi những nguyên lý cơ bản trong thiết kế hệ thống dịch vụ AI, từ đó xây dựng các tiêu chuẩn để bạn có thể tự mình thiết kế và đánh giá kiến trúc hệ thống AI phù hợp với từng tình huống, ngay cả khi các công nghệ mới xuất hiện.

#LLM #Hệ thống AI #Thiết kế hệ thống #RAG #AI Agent


🎉 Đang diễn ra chương trình giảm giá Early Bird 50% mừng ngày ra mắt 🎉

Nhân dịp ra mắt bài giảng mới, chương trình giảm giá Early Bird trong vòng một tháng sẽ được diễn ra từ ngày 15 tháng 8 đến ngày 13 tháng 9! 🚀

Bài giảng trước 「Bước đầu thiết kế hệ thống」 cũng đang được giảm giá 20% trong 2 tuần, nên nếu bạn quan tâm đến thiết kế hệ thống và kiến trúc dịch vụ AI, hãy cùng bắt đầu ngay trong cơ hội này nhé! 📚✨

🌟 Điểm khác biệt của bài giảng


📌 1. Thiết kế hệ thống dưới góc nhìn của một kỹ sư AI.

Khóa học này không phải là khóa học học cách viết prompt tốt hay cách sử dụng một AI framework cụ thể.

Bạn sẽ học cách thiết kế kiến trúc hệ thống AI có khả năng vận hành dưới góc nhìn của một kỹ sư Backend/AI đang xây dựng dịch vụ thực tế.


📌 2. Kết nối tất cả các thành phần cốt lõi cần thiết trong môi trường vận hành thực tế.

Thay vì học riêng lẻ các thành phần cốt lõi được sử dụng trong các dịch vụ AI thực tế như Model Router, LLM Gateway, Conversation Manager, Vector DB, RAG, AI Agent, bạn sẽ hiểu dưới góc độ kiến trúc về việc chúng được kết nối và hoạt động cùng nhau như thế nào trong một hệ thống thống nhất.


📌 3. Học các nguyên lý thiết kế vẫn luôn đúng ngay cả khi công nghệ thay đổi.

Các mô hình AI và framework liên tục thay đổi, nhưng nguyên lý thiết kế một hệ thống tốt thì không dễ dàng thay đổi.

Trong khóa học này, thay vì chỉ tập trung vào cách sử dụng một công nghệ cụ thể, chúng tôi tập trung vào việc nuôi dưỡng tư duy có thể tự thiết kế và đánh giá kiến trúc hệ thống AI phù hợp với từng tình huống ngay cả khi các công nghệ mới xuất hiện.

✏ Học về quy trình thiết kế hệ thống dịch vụ LLM

Phần 1. Tại sao phải học thiết kế hệ thống sử dụng LLM?

  • Chúng ta sẽ tìm hiểu về môi trường phát triển dịch vụ AI đang thay đổi do sự ra đời của LLM, và lý do tại sao chúng ta cần hiểu nó dưới góc độ thiết kế hệ thống thay vì chỉ đơn thuần là sử dụng LLM.

  • Chúng ta sẽ tìm hiểu về vai trò của nhà phát triển đã thay đổi như thế nào sau sự phát triển của AI, đồng thời học hỏi về cách thức thiết kế và các yếu tố cần cân nhắc thay đổi ra sao khi thành phần mới mang tên LLM được thêm vào kiến trúc hệ thống hiện có. and learn how design methods and considerations evolve as LLM is added as a new component to existing system architectures.



Phần 2. Hiểu về thiết kế hệ thống LLM

  • Chúng ta sẽ tìm hiểu thông qua nhiều trường hợp sử dụng khác nhau về những dịch vụ có thể tạo ra bằng cách tận dụng thành phần hệ thống mới mang tên LLM.

  • Hiểu được các mục tiêu cốt lõi của thiết kế hệ thống backend truyền thống như độ tin cậy, tính khả dụng, hiệu suất và khả năng mở rộng thay đổi như thế nào trong hệ thống dựa trên LLM, đồng thời xem xét các yếu tố bổ sung cần lưu ý dành riêng cho dịch vụ LLM.

  • Ngoài ra, chúng ta sẽ tìm hiểu về quá trình phát triển của LLM, nắm bắt các luồng công nghệ cốt lõi xoay quanh kiến trúc Transformer, từ đó tích lũy kiến thức cơ bản để thiết kế hệ thống dựa trên LLM.

Phần 3. Kiến trúc cơ bản ứng dụng LLM

  • Chúng ta sẽ tìm hiểu về kiến trúc dịch vụ cơ bản nhất sử dụng LLM, đồng thời hiểu rõ các thành phần cần thiết để tạo ra một dịch vụ AI có khả năng vận hành thực tế, thay vì chỉ dừng lại ở việc gọi API LLM đơn thuần.

  • Kỹ thuật gợi ý (Prompt Engineering), chiến lược lựa chọn và phục vụ mô hình, LLM Router & Gateway, Conversation Manager quản lý lịch sử hội thoại v.v. Bạn sẽ được học lý do tại sao các thành phần cốt lõi của dịch vụ dựa trên LLM lại cần thiết và cách ứng dụng chúng trong từng tình huống cụ thể.



Phần 4. Kiến trúc RAG

  • Tiến thêm một bước nữa từ kiến trúc cơ bản sử dụng LLM, chúng ta sẽ tìm hiểu về kiến trúc RAG nhằm giảm thiểu vấn đề ảo giác của LLM và tận dụng dữ liệu riêng của dịch vụ.

  • Tìm hiểu nguyên lý hoạt động của Embedding và Vector DB, đồng thời xem xét toàn bộ đường ống dữ liệu (data pipeline) của hệ thống RAG từ thu thập tài liệu đến tiền xử lý, chia nhỏ (chunking), lập chỉ mục (indexing) và tìm kiếm..

  • Ngoài ra, bạn sẽ được học các phương pháp thiết kế RAG cần cân nhắc trong môi trường vận hành thực tế, chẳng hạn như lập chỉ mục tăng dần (incremental indexing) để xử lý tài liệu quy mô lớn một cách hiệu quả, Hybrid Retriever và Reranker để nâng cao chất lượng tìm kiếm.

Phần 5. Kiến trúc AI Agent (Công bố vào tháng 10)

  • Hiểu cấu trúc của hệ thống AI Agent, nơi LLM vượt xa khỏi RAG để tự đưa ra phán đoán, lựa chọn các công cụ cần thiết và thực hiện nhiều tác vụ khác nhau.

  • Tìm hiểu vai trò của các thành phần cốt lõi cấu thành nên Agent là Planning, Tool Calling, Memory, Agent Runtime

  • Tìm hiểu về các kiến trúc ứng dụng như kiến trúc Agentic RAG kết hợp giữa RAG và Agent.



Phần 6. Vận hành và tối ưu hóa dịch vụ AI dựa trên LLM (Công bố vào tháng 12)

  • Tìm hiểu về các phương pháp giám sát, bảo mật, đánh giá và cải thiện hiệu suất cần thiết để cung cấp dịch vụ LLM ổn định trong môi trường vận hành thực tế.

  • Hiểu cách đo lường và cải thiện chất lượng cũng như chi phí của dịch vụ LLM, đồng thời nắm vững các yếu tố cốt lõi cần thiết trong giai đoạn vận hành như Prompt/Response Logging, Evaluation, Guardrail.

  • Tìm hiểu phương pháp thiết kế hệ thống để tối ưu hóa tốc độ phản hồi và chi phí, đồng thời xem xét quá trình hoàn thiện một dịch vụ AI có thể vận hành được.

🙋 Đối tượng đề xuất

Tôi muốn tạo một dịch vụ sử dụng LLM, nhưng không biết phải bắt đầu thiết kế từ đâu

Những người muốn học về toàn bộ kiến trúc và luồng thiết kế của một dịch vụ AI có thể vận hành được, thay vì chỉ dừng lại ở việc gọi LLM API.

Tôi muốn áp dụng LLM vào các dự án hoặc công việc của công ty.


Nhà phát triển muốn thiết kế kiến trúc hệ thống AI có thể áp dụng vào thực tế như tự động hóa công việc nội bộ, thêm tính năng AI, phát triển dịch vụ AI, v.v.

Tôi muốn phát triển thành Kỹ sư AI hoặc Nhà phát triển dịch vụ AI.


Những người muốn rèn luyện tư duy để có thể tự mình thiết kế các dịch vụ AI, đồng thời cân nhắc đến hiệu suất, chi phí, chất lượng và khả năng mở rộng.

Lưu ý trước khi khóa học bắt đầu

📚 Tài liệu học tập

  • Cung cấp file PDF slide bài giảng. (Khoảng 220 trang (+dự kiến bổ sung))

📖 Kiến thức tiên quyết và lưu ý

  • Khóa học này là khóa học tập trung vào lý thuyết thiết kế kiến trúc hệ thống của các dịch vụ AI dựa trên LLM.

    Do đó, khóa học này không bao gồm hướng dẫn sử dụng hoặc thực hành triển khai mã nguồn cho các khung (framework) cụ thể như LangChain, LlamaIndex hay Spring AI.

  • Nếu bạn đã có kinh nghiệm phát triển backend cơ bản, bạn sẽ theo kịp khóa học dễ dàng hơn, và việc biết các nội dung dưới đây sẽ giúp ích cho quá trình học tập.

    • Nguyên lý hoạt động cơ bản của HTTP và REST API

    • Kinh nghiệm phát triển sử dụng cơ sở dữ liệu (RDB hoặc NoSQL)

    • Kinh nghiệm phát triển dịch vụ web hoặc backend

    • Kinh nghiệm sử dụng các LLM như ChatGPT, Claude hoặc kinh nghiệm gọi LLM API cơ bản

  • Bạn không cần kiến thức chuyên môn về LLM hay kinh nghiệm phát triển mô hình AI. Vì chúng tôi sẽ giải thích từng bước từ các khái niệm cơ bản của LLM đến cấu trúc hoạt động của các dịch vụ AI, nên ngay cả những nhà phát triển chưa có nhiều kinh nghiệm về AI cũng có thể hiểu và nắm bắt được toàn bộ luồng thiết kế hệ thống AI.


Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Nhà phát triển muốn tự tay thiết kế kiến trúc ổn định cho các dịch vụ AI dựa trên LLM

  • Sinh viên mới tốt nghiệp đang tìm việc muốn thực hiện dự án dựa trên LLM

  • Các nhà phát triển đang làm việc muốn áp dụng LLM vào công việc tại công ty, chẳng hạn như tự động hóa quy trình nghiệp vụ hoặc cải thiện nền tảng nội bộ.

  • Nhà phát triển backend cần thêm LLM vào hệ thống backend hiện có

Cần biết trước khi bắt đầu?

  • Hiểu biết về kiến trúc backend cơ bản (nguyên lý hoạt động cơ bản của backend như HTTP, RESTful API, Web Server, DB, v.v.)

  • Có sự quan tâm và kinh nghiệm cơ bản về LLM (Sẽ rất tốt nếu bạn đã từng ít nhất một lần gọi LLM API như ChatGPT hoặc Claude, hoặc có kinh nghiệm viết prompt)

Xin chào
Đây là mindlantern

Xác minh sự nghiệp

811

Học viên

59

Đánh giá

9

Trả lời

4.9

Xếp hạng

2

Các khóa học

Xin chào, tôi là nhà phát triển 성장랜턴.
Hiện tôi đang làm việc tại một tập đoàn CNTT lớn trong nước và mơ ước về một thế giới nơi bất kỳ ai cũng có thể trở thành nhà phát triển và tự tay tạo ra những điều mình tưởng tượng.

Tôi muốn truyền đạt những trăn trở trong công việc thực tế và các công nghệ đang được sử dụng thực tế theo cách dễ hiểu ngay cả với những người mới bắt đầu học.
Là một người yêu thích quá trình học hỏi và trưởng thành qua những điều mới mẻ, tôi hy vọng những người tham gia khóa học của tôi cũng có thể cảm nhận được niềm vui cùng nhau trưởng thành.

 

Email: mindlantern.studio@gmail.com

Linktree: https://linktr.ee/mindlantern

Thêm

Chương trình giảng dạy

Tất cả

25 bài giảng ∙ (4giờ 20phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

4 đánh giá

4.3

4 đánh giá

  • seokjunwon7426님의 프로필 이미지
    seokjunwon7426

    Đánh giá 3

    ∙

    Đánh giá trung bình 4.0

    4

    60% đã tham gia

    Có vẻ sẽ rất hữu ích cho việc sử dụng AI.

    • mindlantern
      Giảng viên

      Cảm ơn anh Seokjun đã để lại đánh giá về khóa học! Tôi sẽ cố gắng để các phần 5, 6 sắp ra mắt cũng được xây dựng với những nội dung hữu ích hơn nữa cho việc thiết kế bằng AI~

  • kimyk01202305님의 프로필 이미지
    kimyk01202305

    Đánh giá 3

    ∙

    Đánh giá trung bình 3.0

    3

    32% đã tham gia

    • mindlantern
      Giảng viên

      Cảm ơn bạn Young-gwang đã để lại đánh giá khóa học. Nếu trong quá trình học, bạn cảm thấy có phần nào giải thích chưa đầy đủ hoặc cần được bổ sung, hãy thoải mái chia sẻ với chúng tôi qua bảng câu hỏi hoặc mindlantern.studio@gmail.com. Dựa trên những ý kiến bạn gửi, chúng tôi sẽ không ngừng cải thiện để khóa học ngày càng hữu ích hơn!

  • zndcvkln1372님의 프로필 이미지
    zndcvkln1372

    Đánh giá 1

    ∙

    Đánh giá trung bình 5.0

    5

    32% đã tham gia

    • suylee4596님의 프로필 이미지
      suylee4596

      Đánh giá 1

      ∙

      Đánh giá trung bình 5.0

      5

      32% đã tham gia

      • mindlantern
        Giảng viên

        Cảm ơn bạn Suyeon vì đã để lại đánh giá khóa học thật tích cực 😊 Mình đang cố gắng lấp đầy phần 5, 6 bằng những nội dung hữu ích, nên bạn hãy chờ thêm một chút nhé! Trong quá trình học, nếu có điều gì thắc mắc hoặc câu hỏi, bạn cứ thoải mái để lại câu hỏi bất cứ lúc nào nhé~!

    Khóa học tương tự

    Khám phá các khóa học khác trong cùng lĩnh vực!

    Giảm 25% cho thành viên mới

    1.324.874 ₫

    25%

    1.766.494 ₫