inflearn logo

AI Agent, phương pháp thiết kế kiến trúc tạo ra lợi nhuận

Đây là khóa học gồm 5 mô-đun và 18 bài học giúp chuyển đổi các LLM Agent AI tạo sinh — vốn đang gây lãng phí chi phí API — thành một cấu trúc có thể kiểm soát chi phí và thực sự tạo ra lợi nhuận thông qua các kỹ thuật Model Routing, Cascading, Caching và Loop Guardrails. Bạn sẽ được trực tiếp thực hiện từ việc phân tích các trường hợp thực tế bị "bom chi phí", mô phỏng lãi lỗ, cho đến các dự án thiết kế kiến trúc. Khóa học này được đề xuất cho các nhà phát triển/maker AI đang cảm thấy gánh nặng về chi phí API, cũng như những người đang có kế hoạch vận hành hoặc thiết kế các dịch vụ dựa trên Agent.

2 học viên đang tham gia khóa học này

Độ khó Cơ bản

Thời gian Không giới hạn

Python
Python
AI
AI
AI Agent
AI Agent
Service Planning
Service Planning
LLM
LLM
Python
Python
AI
AI
AI Agent
AI Agent
Service Planning
Service Planning
LLM
LLM

Bạn sẽ nhận được điều này sau khi học.

  • Bạn có thể chẩn đoán nơi agent của mình đang tiêu tốn chi phí bằng cách áp dụng ghi nhật ký siêu dữ liệu theo đơn vị cuộc gọi, khả năng hiển thị 3 cấp độ Cuộc gọi/Yêu cầu/Bước và 3 nguyên tắc của FinOps.

  • Bạn có thể tự mình triển khai mã nguồn cho logic định tuyến mô hình (model routing), giúp phân chia việc gọi các mô hình giá rẻ hoặc giá cao tùy theo độ khó của tác vụ.

  • Bạn có thể cấu hình cấu trúc Model Cascading để xử lý trước bằng mô hình giá rẻ và chuyển sang mô hình cao cấp hơn nếu thất bại, đồng thời so sánh chi phí trước và sau khi áp dụng.

  • Bằng cách áp dụng Prompt Caching và Semantic Caching, bạn có thể giảm việc gọi lại các yêu cầu trùng lặp hoặc tương tự, đồng thời kiểm tra sự thay đổi về tốc độ phản hồi và chi phí.

  • Bạn có thể ngăn chặn vòng lặp vô hạn và tiêu thụ quá mức của agent bằng cách triển khai các rào chắn vòng lặp (loop guardrails) để thiết lập số lần lặp tối đa và ngân sách token.

  • Bạn có thể tự tạo mô phỏng lãi lỗ bằng cách nhập đơn giá token theo từng mô hình, phân bổ tần suất gọi, doanh thu dự kiến và chi phí thực tế sau khi áp dụng hạn mức sử dụng.

  • Tôi có thể thiết kế sơ đồ kiến trúc và kế hoạch triển khai kết hợp định tuyến, bộ nhớ đệm và rào chắn bảo vệ (guardrails) thành một, đồng thời lập báo cáo chẩn đoán cấu trúc chi phí.


LLM Agent kiếm được dù chỉ 1 đồng, phương pháp thiết kế kiến trúc tạo ra lợi nhuận

Tóm tắt bài giảng

Chẩn đoán nguyên nhân gây bùng nổ chi phí của LLM Agent (vòng lặp vô hạn, gọi mô hình không cần thiết, thiếu bộ nhớ đệm), và áp dụng định tuyến mô hình (routing), phân tầng (cascading), bộ nhớ đệm (caching), rào chắn (guardrails) để thiết kế kiến trúc tạo ra lợi nhuận. Đây là khóa học bao gồm 5 mô-đun với 18 bài học.

Chúng tôi sẽ trực tiếp thực hiện từ việc phân tích các trường hợp thực tế về bùng nổ chi phí đến mô phỏng lãi lỗ và dự án thiết kế kiến trúc. Khóa học này được đề xuất cho các nhà phát triển AI, những người tạo ra sản phẩm (makers) đang cảm thấy gánh nặng về chi phí API, cũng như những người đang có kế hoạch vận hành hoặc thiết kế các dịch vụ dựa trên Agent.

Khuyên dùng cho những đối tượng sau

Nhà phát triển dịch vụ, người sáng tạo

Nhà phát triển và người tạo AI đang cảm thấy gánh nặng về chi phí API: Những người đang vận hành LLM Agent và gặp phải tình trạng chi phí tăng cao ngoài tầm kiểm soát, cần tìm hiểu nguyên nhân và giải pháp.

Vận hành dịch vụ, Quy hoạch, PO, PM

Dành cho những người muốn vận hành và lập kế hoạch cho các dịch vụ dựa trên Agent: Những người muốn chẩn đoán tình trạng không tạo ra lợi nhuận với cấu trúc chi phí hiện tại do sự thay đổi của đơn giá quảng cáo hoặc môi trường doanh thu, và muốn thử lập mô phỏng lãi lỗ.

Người đi làm, người đang chuẩn bị xin việc

Những người làm chuyên môn đã có kinh nghiệm sử dụng LLM API và kiến thức lập trình cơ bản, muốn trực tiếp triển khai các kỹ thuật cắt giảm chi phí như định tuyến mô hình (model routing) hay bộ nhớ đệm (caching) bằng mã nguồn, và những người đang tìm việc muốn thể hiện tư duy logic kinh doanh trong các buổi phỏng vấn

Sau khi học xong?

  • Bạn sẽ có thể trực tiếp tính toán và chẩn đoán chi phí API đang bị rò rỉ ở đâu và tại sao.


  • Bạn sẽ có thể kiểm soát chi phí bằng cách triển khai định tuyến mô hình (routing), xếp tầng (cascading), bộ nhớ đệm (caching) và rào chắn bảo vệ (guardrails) thông qua mã nguồn.


  • Bạn sẽ nhận được kết quả đầu ra là bản mô phỏng lãi lỗ cho dịch vụ của mình, báo cáo chẩn đoán cấu trúc chi phí và bản thiết kế kiến trúc tích hợp.

Xem trước bài giảng

Frame 4

Ví dụ thông qua các trường hợp thực tế

Phương pháp quản lý cụ thể

Tại sao bạn cần biết phương pháp thiết kế này ngay bây giờ?

Khi các dịch vụ tích hợp LLM Agent ngày càng tăng, các trường hợp chi phí API tăng nhanh hơn tốc độ tăng doanh thu đang trở nên phổ biến, do việc gọi các mô hình đắt tiền cho mỗi yêu cầu hoặc xử lý lặp đi lặp lại cùng một yêu cầu.

Trong thời kỳ chi phí quảng cáo (CPA·CTR) biến động, nếu không thay đổi cấu trúc chi phí, bạn có thể rơi vào tình trạng doanh thu tăng nhưng không còn lợi nhuận.

Khóa học này sẽ chỉ ra vấn đề này thông qua các trường hợp vận hành thực tế, đồng thời hướng dẫn cách kết nối các biện pháp kỹ thuật giảm chi phí với các quyết định vận hành nhằm bảo vệ lợi nhuận.

Giới thiệu nội dung học tập

  • Module 1. Giới thiệu khóa học và thiết lập cơ bản — Điểm qua các mô hình điển hình của vấn đề chi phí Agent, cấp khóa API, thiết lập công cụ giám sát chi phí và môi trường thực hành, sau đó chẩn đoán cấu trúc chi phí cho Agent của bạn.

  • Module 2. Nguyên nhân gây bùng nổ chi phí và nguyên lý giải quyết — Tìm hiểu các tình huống bùng nổ chi phí thông qua các trường hợp vận hành thực tế, đồng thời nắm vững lý thuyết về nguyên lý điều hướng mô hình (model routing), phân tầng (cascading) và bộ nhớ đệm prompt/semantic (prompt/semantic caching).

  • Mô-đun 3. Thực hành: Áp dụng kiến trúc cắt giảm chi phí — Trực tiếp áp dụng thông qua 4 bài thực hành từ triển khai logic định tuyến, cấu hình luồng cascading và so sánh chi phí, áp dụng bộ nhớ đệm (caching), cho đến thiết lập rào chắn vòng lặp (loop guardrail) và ngân sách token.

  • Module 4. Kết nối với cấu trúc tạo lợi nhuận — Tổng kết lý do tại sao tối ưu hóa chi phí lại trở thành chiến lược lợi nhuận, tìm hiểu các trường hợp thiết kế lại cấu trúc chi phí để ứng phó với sự thay đổi của môi trường quảng cáo/doanh thu, sau đó tiến hành lập mô phỏng lãi lỗ.

  • Module 5. Dự án thực tế — Lập báo cáo chẩn đoán cấu trúc chi phí cho dịch vụ của bạn, thiết kế kiến trúc kết hợp routing, caching, guardrail và kết thúc bằng việc kiểm tra các điểm cần lưu ý thêm trong quá trình vận hành.

Bạn sẽ có thể làm được điều này.

  • Bạn sẽ có thể trực tiếp tính toán và chẩn đoán xem chi phí API đang bị rò rỉ ở đâu và tại sao.


  • Bạn sẽ có thể kiểm soát chi phí bằng cách triển khai định tuyến mô hình (routing), phân tầng (cascading), bộ nhớ đệm (caching) và rào chắn bảo vệ (guardrail) thông qua mã nguồn.


  • Bạn sẽ nhận được kết quả đầu ra là bản mô phỏng lãi lỗ cho dịch vụ của mình, báo cáo chẩn đoán cấu trúc chi phí và bản thiết kế kiến trúc tích hợp.


Người tạo ra bài giảng này

  • Xuất thân từ startup, hiện tại tôi đang làm trưởng nhóm phát triển (Dev Lead) tại một tập đoàn lớn. Tôi thực hiện các dự án không chỉ chú trọng vào phát triển kỹ thuật mà còn nhấn mạnh vào tư duy kinh doanh (business literacy).

  • Thông qua các dự án phụ, tôi đã hiểu rõ những điểm cần lưu ý khi sử dụng mô hình AI LLM, và tôi đã ghi chép lại một cách dễ hiểu, cụ thể để tiến hành một vài buổi giảng dạy trực tiếp. Nhận được yêu cầu nồng nhiệt về việc mở khóa học trực tuyến, tôi dự định sẽ để lại một loạt series về AI.

Lưu ý trước khi học

FAQ

Việc thanh toán API trả phí có thực sự cần thiết cho thực hành không?

- Vâng, bạn cần đăng ký phương thức thanh toán cho cả hai nơi là OpenAI và Anthropic. Bài giảng được hướng dẫn dựa trên tiêu chuẩn là bạn đã nhận được khóa (key) của cả hai công ty mô hình này (vì trong phần thực hành định tuyến mô hình (routing) và phân tầng (cascading) có nội dung so sánh hai mô hình, nên đây là nội dung cần thiết để thực hành).

Tôi có thể theo kịp ngay cả khi không biết nhiều về lập trình không?

- Sẽ dễ dàng theo dõi hơn nếu bạn đã có kinh nghiệm sử dụng môi trường Python hoặc Node cơ bản. Các bài thực hành được thiết kế ở mức độ triển khai các logic cốt lõi một cách ngắn gọn chứ không phải là một dự án khổng lồ.

Tài liệu học tập

  • Cung cấp mã nguồn để thực hiện từng đoạn mã

Kiến thức tiên quyết / Lưu ý trước khi khóa học

  • Nếu bạn đã có kinh nghiệm sử dụng LLM API (như OpenAI/Anthropic) và kiến thức lập trình cơ bản (như Python/Node), bạn sẽ dễ dàng theo kịp các bài thực hành.


  • Phù hợp với những cá nhân tự phát triển hoặc các nhóm quy mô nhỏ đang vận hành hoặc có kế hoạch vận hành dịch vụ đại lý.


  • Để phục vụ cho việc thực hành, bạn cần cấp khóa API LLM, thiết lập bảng điều khiển theo dõi chi phí và cài đặt môi trường thực hành cục bộ, các nội dung này sẽ được hướng dẫn trong bài học 1-3.


Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Nhà phát triển và người tạo AI đang cảm thấy gánh nặng về chi phí API: Những người đang vận hành LLM Agent và gặp phải tình trạng chi phí tăng cao ngoài tầm kiểm soát, cần tìm hiểu nguyên nhân và giải pháp.

  • Dành cho những ai đang vận hành hoặc lập kế hoạch cho các dịch vụ dựa trên đại lý: Những người muốn chẩn đoán tình trạng cấu trúc chi phí hiện tại không còn đem lại lợi nhuận do sự thay đổi của đơn giá quảng cáo hoặc môi trường doanh thu, và muốn xây dựng một mô phỏng lãi lỗ.

  • Người thực hành đã có kinh nghiệm sử dụng LLM API và kiến thức lập trình cơ bản, muốn trực tiếp triển khai các kỹ thuật tiết kiệm chi phí như định tuyến mô hình (model routing) và bộ nhớ đệm (caching) bằng mã nguồn.

Cần biết trước khi bắt đầu?

  • Nếu bạn đã có kinh nghiệm sử dụng LLM API (như OpenAI/Anthropic) và kiến thức lập trình cơ bản (như Python/Node), bạn sẽ dễ dàng theo kịp các bài thực hành.

  • Phù hợp với những cá nhân tự phát triển hoặc các nhóm quy mô nhỏ đang vận hành hoặc có kế hoạch vận hành dịch vụ đại lý.

  • Để phục vụ cho việc thực hành, bạn cần cấp khóa API LLM, thiết lập bảng điều khiển theo dõi chi phí và cài đặt môi trường thực hành cục bộ, các nội dung này sẽ được hướng dẫn trong bài học 1-3.

Xin chào
Đây là newnormal

Xác minh sự nghiệp

Chương trình giảng dạy

Tất cả

18 bài giảng ∙ (2giờ 24phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Ưu đãi có thời hạn

417.091 ₫

48%

804.390 ₫