Bước đầu trong thiết kế hệ thống với LLM: Thiết kế kiến trúc dịch vụ AI có thể vận hành (RAG·AI Agent)

Khi LLM được tích hợp vào backend hiện có, kiến trúc sẽ thay đổi như thế nào? Đây là khóa học nhập môn về thiết kế hệ thống, giúp bạn hiểu các thành phần cốt lõi của dịch vụ AI như Model Router, LLM Gateway, Vector DB, vượt xa việc chỉ gọi API LLM đơn giản, đồng thời từng bước thiết kế kiến trúc dịch vụ AI có thể vận hành, bao gồm RAG và AI Agent. Khóa học giúp những ai muốn xây dựng dịch vụ AI dựa trên LLM của riêng mình nhanh chóng nắm bắt quy trình thiết kế.

(4.3) 6 đánh giá

86 học viên

Độ khó Cơ bản

Thời gian Không giới hạn

Architecture
Architecture
software-design
software-design
system-design
system-design
LLM
LLM
RAG
RAG
Architecture
Architecture
software-design
software-design
system-design
system-design
LLM
LLM
RAG
RAG

Bạn sẽ nhận được điều này sau khi học.

  • Năng lực thiết kế kiến trúc hệ thống dựa trên LLM, RAG và AI Agent

  • Hiểu về các thành phần cốt lõi của dịch vụ LLM (Model Router, LLM Gateway, cơ sở dữ liệu vector, Retriever, v.v.)

  • Hiểu các đánh đổi trong thiết kế, có cân nhắc đến hiệu năng, khả năng mở rộng, độ tin cậy, v.v. của dịch vụ AI

Khởi đầu để phát triển thành một kỹ sư AI có khả năng thiết kế các dịch vụ AI có thể vận hành 🚀


"Tôi muốn xây dựng một dịch vụ sử dụng LLM, nhưng nên thiết kế như thế nào?🤔"


Với sự xuất hiện của LLM, chúng ta đã bước vào thời đại mà bất kỳ ai cũng có thể áp dụng các tính năng AI vào dịch vụ của mình.

Giờ đây, chỉ cần kết nối các API LLM như ChatGPT, Claude là bạn đã có thể nhanh chóng tạo ra nhiều dịch vụ AI đa dạng.

Tuy nhiên, vượt ra ngoài việc chỉ gọi API LLM, khi bắt đầu xây dựng các dịch vụ AI có thể vận hành thực tế, bạn sẽ phải đối mặt với những vấn đề mới.

  • Nên chọn mô hình nào? Phải định tuyến giữa nhiều mô hình như thế nào?


  • Nên quản lý lịch sử hội thoại và ngữ cảnh như thế nào?

  • Khi nào cần RAG và nên thiết kế như thế nào?

  • AI Agent gồm những thành phần nào và khi thiết kế cần cân nhắc những gì?

  • Làm thế nào để cải thiện chi phí, tốc độ phản hồi và chất lượng?


Khi LLM trở thành một thành phần hệ thống mới, kiến trúc hệ thống của các dịch vụ AI cũng đang thay đổi theo một hình thức khác với các hệ thống backend truyền thống.

Khóa học này là khóa học về thiết kế hệ thống, nơi bạn học cách thiết kế các dịch vụ sử dụng LLM thành những hệ thống ổn định, có khả năng mở rộng và có thể vận hành.

Bạn sẽ hiểu vai trò của các thành phần cốt lõi như Model Router, LLM Gateway, Conversation Manager và Vector DB, đồng thời tìm hiểu về kiến trúc RAG và AI Agent để nắm được toàn bộ quy trình thiết kế một hệ thống AI có thể vận hành.

Khóa học này không phải là khóa học trực tiếp phát triển mô hình AI hay học cách sử dụng một framework AI cụ thể. Khóa học tập trung vào việc học cách thiết kế hệ thống AI từ góc nhìn của một kỹ sư triển khai và vận hành AI trong các dịch vụ thực tế.

Các mô hình và framework AI phát triển nhanh chóng và không ngừng thay đổi, nhưng nguyên tắc thiết kế một hệ thống tốt thì không dễ thay đổi.

Thông qua khóa học này, chúng ta sẽ cùng tìm hiểu những nguyên lý nền tảng của thiết kế hệ thống dịch vụ AI, đồng thời xây dựng tiêu chí để bạn có thể tự thiết kế và đánh giá kiến trúc hệ thống AI phù hợp với từng tình huống, ngay cả khi có công nghệ mới xuất hiện.

#LLM #Hệ thống AI #Thiết kế hệ thống #RAG #AI Agent


🌟 Điểm khác biệt của khóa học


📌 1. Thiết kế hệ thống từ góc nhìn của kỹ sư AI.

Khóa học này không nhằm dạy cách viết prompt hiệu quả hay sử dụng một framework AI cụ thể.

Từ góc nhìn của kỹ sư backend và AI xây dựng dịch vụ thực tế, bạn sẽ học cách thiết kế kiến trúc hệ thống AI có thể vận hành.


📌 2. Kết nối tất cả các thành phần cốt lõi cần thiết trong môi trường vận hành.

Không học riêng lẻ từng thành phần cốt lõi được sử dụng trong các dịch vụ AI thực tế như Model Router, LLM Gateway, Conversation Manager, Vector DB, RAG và AI Agent, mà hiểu từ góc độ kiến trúc cách chúng được kết nối và cùng hoạt động trong một hệ thống duy nhất.


📌 3. Học các nguyên tắc thiết kế vẫn phù hợp ngay cả khi công nghệ thay đổi.

Các mô hình AI và framework liên tục thay đổi, nhưng nguyên tắc thiết kế một hệ thống tốt thì không dễ thay đổi.

Trong khóa học này, thay vì tập trung vào cách sử dụng một công nghệ cụ thể, chúng tôi chú trọng phát triển tư duy giúp bạn tự thiết kế và đánh giá kiến trúc hệ thống AI phù hợp với từng tình huống, ngay cả khi công nghệ mới xuất hiện.

✏ Học về quy trình thiết kế hệ thống dịch vụ LLM

Phần 1. Tại sao cần học thiết kế hệ thống ứng dụng LLM?

  • Tìm hiểu về môi trường phát triển dịch vụ AI đang thay đổi với sự xuất hiện của LLM, cũng như lý do cần hiểu LLM dưới góc nhìn thiết kế hệ thống thay vì chỉ đơn thuần sử dụng nó.

  • Tìm hiểu vai trò của nhà phát triển đã thay đổi như thế nào sau sự phát triển của AI, đồng thời học cách phương thức thiết kế và các yếu tố cần cân nhắc đã thay đổi ra sao khi một thành phần mới mang tên LLM được bổ sung vào kiến trúc hệ thống hiện có.



Phần 2. Tìm hiểu về thiết kế hệ thống LLM

  • Tìm hiểu qua nhiều trường hợp ứng dụng các dịch vụ có thể xây dựng bằng cách tận dụng LLM, một thành phần hệ thống mới.

  • Hiểu cách các mục tiêu cốt lõi của thiết kế hệ thống backend truyền thống—độ tin cậy, tính sẵn sàng, hiệu năng và khả năng mở rộng—thay đổi như thế nào trong các hệ thống dựa trên LLM, đồng thời tìm hiểu những yếu tố cần cân nhắc bổ sung riêng cho các dịch vụ LLM.

  • Ngoài ra, bạn sẽ hiểu được dòng chảy công nghệ cốt lõi xoay quanh kiến trúc Transformer, cũng như cách LLM đã phát triển như thế nào, từ đó xây dựng kiến thức nền tảng để thiết kế các hệ thống dựa trên LLM.

Phần 3. Kiến trúc cơ bản sử dụng LLM

  • Tìm hiểu kiến trúc dịch vụ cơ bản nhất sử dụng LLM và hiểu các thành phần cần thiết để xây dựng một dịch vụ AI có thể vận hành, vượt ra ngoài việc chỉ gọi API LLM đơn thuần.

  • Bạn sẽ tìm hiểu vì sao các thành phần cốt lõi của dịch vụ dựa trên LLM như kỹ thuật prompt, chiến lược lựa chọn và cung cấp mô hình, LLM Router & Gateway, Conversation Manager quản lý lịch sử hội thoại lại cần thiết và được sử dụng trong những tình huống nào.



Phần 4. Kiến trúc RAG

  • Tiến thêm một bước so với kiến trúc cơ bản ứng dụng LLM, bạn sẽ hiểu kiến trúc RAG nhằm giảm thiểu vấn đề LLM tạo thông tin sai lệch và tận dụng dữ liệu riêng của dịch vụ.

  • Tìm hiểu nguyên lý hoạt động của embedding và Vector DB, đồng thời xem xét toàn bộ quy trình dữ liệu của hệ thống RAG từ thu thập tài liệu, tiền xử lý, chia nhỏ, lập chỉ mục đến tìm kiếm.

  • Ngoài ra, bạn sẽ học các phương pháp thiết kế RAG cần cân nhắc trong môi trường vận hành thực tế, chẳng hạn như lập chỉ mục tăng dần để xử lý hiệu quả các tài liệu quy mô lớn, bộ truy xuất kết hợp và bộ xếp hạng lại để nâng cao chất lượng tìm kiếm.

Mục 5. Kiến trúc AI Agent (ra mắt vào tháng 11)

  • Tìm hiểu cấu trúc hệ thống AI Agent vượt ra ngoài RAG, nơi LLM tự đưa ra quyết định, lựa chọn công cụ cần thiết và thực hiện nhiều tác vụ.

  • Tìm hiểu vai trò của Planning, Tool Calling, Memory và Agent Runtime, những thành phần cốt lõi cấu thành Agent.

  • Tìm hiểu các kiến trúc ứng dụng như kiến trúc Agentic RAG kết hợp RAG và Agent.



Phần 6. Vận hành và tối ưu hóa dịch vụ AI dựa trên LLM (Công khai vào tháng 12)

  • Tìm hiểu các phương pháp giám sát, bảo mật, đánh giá và cải thiện hiệu năng cần thiết để cung cấp dịch vụ LLM ổn định trong môi trường vận hành thực tế.

  • Tìm hiểu cách đo lường và cải thiện chất lượng cũng như chi phí của dịch vụ LLM, đồng thời nắm được các yếu tố cốt lõi cần thiết trong giai đoạn vận hành như Prompt/Response Logging, Evaluation, Guardrail.

  • Hãy tìm hiểu quy trình hoàn thiện một dịch vụ AI có thể vận hành, đồng thời học cách thiết kế hệ thống để tối ưu tốc độ phản hồi và chi phí.

🙋 Đối tượng phù hợp

Tôi muốn xây dựng một dịch vụ ứng dụng LLM nhưng không biết nên bắt đầu thiết kế từ đâu

Dành cho những ai muốn học về toàn bộ kiến trúc và quy trình thiết kế một dịch vụ AI có thể vận hành, vượt xa việc chỉ gọi API LLM.

Tôi muốn thử áp dụng LLM vào các dự án hoặc công việc của công ty.


Nhà phát triển muốn thiết kế kiến trúc hệ thống AI có thể ứng dụng trong thực tế, chẳng hạn như tự động hóa công việc nội bộ, bổ sung tính năng AI và phát triển dịch vụ AI.

Tôi muốn phát triển bản thân thành Kỹ sư AI hoặc nhà phát triển dịch vụ AI.


Hiểu được cách cân nhắc hiệu năng, chi phí, chất lượng và khả năng mở rộng để tự mình thiết kế các dịch vụ AI

Thông tin tham khảo trước khi tham gia khóa học

📚 Tài liệu học tập

  • Cung cấp PDF slide bài giảng. (Khoảng 220 trang (+sẽ bổ sung))

📖 Kiến thức cần có và lưu ý

  • Đây là khóa học thiên về lý thuyết, tập trung vào việc thiết kế kiến trúc hệ thống cho các dịch vụ AI dựa trên LLM.

    Do đó, khóa học không đề cập đến cách sử dụng hay thực hành triển khai mã nguồn của các framework cụ thể như LangChain, LlamaIndex, Spring AI.

  • Nếu bạn đã có kinh nghiệm phát triển backend cơ bản, bạn sẽ dễ dàng theo học hơn; nếu biết các nội dung dưới đây thì sẽ hữu ích cho việc học.

    • Nguyên lý hoạt động cơ bản của HTTP và REST API

    • Kinh nghiệm phát triển sử dụng cơ sở dữ liệu (RDB hoặc NoSQL)

    • Kinh nghiệm phát triển dịch vụ web hoặc backend

    • Kinh nghiệm sử dụng LLM như ChatGPT, Claude hoặc từng gọi API của LLM một cách đơn giản

  • Bạn không cần có kiến thức chuyên môn về LLM hay kinh nghiệm phát triển mô hình AI. Vì khóa học sẽ giải thích từng bước, từ các khái niệm cơ bản về LLM đến cấu trúc vận hành của các dịch vụ AI, nên ngay cả những nhà phát triển chưa có nhiều kinh nghiệm về AI cũng có thể hiểu và theo kịp toàn bộ quy trình thiết kế hệ thống AI.


Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Nhà phát triển muốn trực tiếp thiết kế kiến trúc ổn định cho dịch vụ AI dựa trên LLM

  • Ứng viên đang tìm việc muốn thực hiện một dự án dựa trên LLM

  • Các nhà phát triển đang làm việc muốn thử áp dụng LLM vào công việc tại công ty, chẳng hạn như tự động hóa nghiệp vụ hoặc cải thiện nền tảng nội bộ.

  • Lập trình viên backend cần tích hợp LLM vào hệ thống backend hiện có

Cần biết trước khi bắt đầu?

  • Hiểu biết cơ bản về kiến trúc back-end (các nguyên lý hoạt động nền tảng của back-end như HTTP, RESTful API, máy chủ web, DB, v.v.)

  • Mối quan tâm và kinh nghiệm cơ bản về LLM (sẽ tốt hơn nếu bạn đã từng gọi API LLM như ChatGPT hoặc Claude ít nhất một lần, hoặc có kinh nghiệm viết prompt)

Xin chào
Đây là mindlantern

Xác minh sự nghiệp

849

Học viên

63

Đánh giá

9

Trả lời

4.9

Xếp hạng

2

Các khóa học

Xin chào, tôi là nhà phát triển 성장랜턴.
Hiện tôi đang làm việc tại một tập đoàn CNTT lớn trong nước và mơ ước về một thế giới nơi bất kỳ ai cũng có thể trở thành nhà phát triển và tự tay tạo ra những điều mình tưởng tượng.

Tôi muốn truyền đạt những trăn trở trong công việc thực tế và các công nghệ đang được sử dụng thực tế theo cách dễ hiểu ngay cả với những người mới bắt đầu học.
Là một người yêu thích quá trình học hỏi và trưởng thành qua những điều mới mẻ, tôi hy vọng những người tham gia khóa học của tôi cũng có thể cảm nhận được niềm vui cùng nhau trưởng thành.

 

Email: mindlantern.studio@gmail.com

Linktree: https://linktr.ee/mindlantern

Thêm

Chương trình giảng dạy

Tất cả

25 bài giảng ∙ (5giờ 24phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

6 đánh giá

4.3

6 đánh giá

  • coen님의 프로필 이미지
    coen

    Đánh giá 84

    ∙

    Đánh giá trung bình 5.0

    5

    32% đã tham gia

    • seokjunwon7426님의 프로필 이미지
      seokjunwon7426

      Đánh giá 3

      ∙

      Đánh giá trung bình 4.0

      4

      60% đã tham gia

      Có vẻ sẽ rất hữu ích cho việc sử dụng AI.

      • mindlantern
        Giảng viên

        Cảm ơn anh Seokjun đã để lại đánh giá về khóa học! Tôi sẽ cố gắng để các phần 5, 6 sắp ra mắt cũng được xây dựng với những nội dung hữu ích hơn nữa cho việc thiết kế bằng AI~

    • zndcvkln1372님의 프로필 이미지
      zndcvkln1372

      Đánh giá 1

      ∙

      Đánh giá trung bình 5.0

      5

      32% đã tham gia

      • suylee4596님의 프로필 이미지
        suylee4596

        Đánh giá 1

        ∙

        Đánh giá trung bình 5.0

        5

        32% đã tham gia

        • mindlantern
          Giảng viên

          Cảm ơn bạn Suyeon vì đã để lại đánh giá khóa học thật tích cực 😊 Mình đang cố gắng lấp đầy phần 5, 6 bằng những nội dung hữu ích, nên bạn hãy chờ thêm một chút nhé! Trong quá trình học, nếu có điều gì thắc mắc hoặc câu hỏi, bạn cứ thoải mái để lại câu hỏi bất cứ lúc nào nhé~!

      • twlee4117님의 프로필 이미지
        twlee4117

        Đánh giá 5

        ∙

        Đánh giá trung bình 3.8

        4

        32% đã tham gia

        Khóa học tương tự

        Khám phá các khóa học khác trong cùng lĩnh vực!