inflearn logo

Phương pháp thiết kế kiến trúc tạo doanh thu cho tác nhân AI

Đây là khóa học gồm 5 mô-đun và 18 bài học, hướng dẫn biến các tác nhân AI LLM tạo sinh vốn chỉ làm phát sinh chi phí API thành một cấu trúc kiểm soát chi phí và thực sự tạo ra biên lợi nhuận nhờ định tuyến mô hình, cascading, bộ nhớ đệm và các guardrail cho vòng lặp. Bạn sẽ trực tiếp thực hiện mọi thứ, từ phân tích các trường hợp thực tế bị “bùng nổ chi phí”, mô phỏng lãi lỗ cho đến dự án thiết kế kiến trúc. Khóa học phù hợp với các nhà phát triển AI, maker cảm thấy gánh nặng chi phí API, cũng như những người muốn vận hành hoặc lập kế hoạch cho các dịch vụ dựa trên tác nhân.

(4.5) 6 đánh giá

50 học viên

Độ khó Cơ bản

Thời gian Không giới hạn

Python
Python
Interview
Interview
Service Planning
Service Planning
AI
AI
LLM
LLM
Python
Python
Interview
Interview
Service Planning
Service Planning
AI
AI
LLM
LLM

Bạn sẽ nhận được điều này sau khi học.

  • Khi phát triển dịch vụ AI, bạn có thể học các kỹ thuật cần thiết để xác định liệu dịch vụ của mình có thực sự kiếm ra tiền hay không, đồng thời tăng doanh thu vượt chi phí để tạo ra lợi nhuận.

  • Bạn có thể chẩn đoán tác nhân của mình đang tiêu tiền ở đâu bằng cách áp dụng tính năng ghi nhật ký siêu dữ liệu theo từng lượt gọi, khả năng quan sát ba cấp độ: lượt gọi/yêu cầu/bước, cùng với ba nguyên tắc FinOps.

  • Bạn có thể trực tiếp triển khai thông qua thực hành nhiều kỹ thuật khác nhau như định tuyến mô hình, phân tầng, bộ nhớ đệm và các rào chắn để tối ưu hóa chi phí LLM.

  • Bạn có thể thiết kế sơ đồ kiến trúc và kế hoạch triển khai kết hợp định tuyến, bộ nhớ đệm và các guardrail thành một thể thống nhất, đồng thời viết báo cáo chẩn đoán cơ cấu chi phí.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Nhà phát triển AI・maker cảm thấy gánh nặng về chi phí API: Đang vận hành tác nhân LLM nhưng chi phí tăng không thể kiểm soát và cần xác định nguyên nhân cũng như giải pháp

  • Dành cho những người muốn vận hành/lập kế hoạch dịch vụ dựa trên tác nhân: những người muốn chẩn đoán tình trạng không thể tạo ra lợi nhuận với cơ cấu chi phí hiện tại do sự thay đổi về đơn giá quảng cáo hoặc môi trường doanh thu, đồng thời xây dựng mô phỏng lãi lỗ.

  • Những người làm việc thực tế có kinh nghiệm sử dụng API LLM và kiến thức lập trình cơ bản, muốn trực tiếp triển khai bằng mã các kỹ thuật tiết kiệm chi phí như định tuyến mô hình và bộ nhớ đệm.

Cần biết trước khi bắt đầu?

  • Nếu có kinh nghiệm sử dụng LLM API (OpenAI/Anthropic, v.v.) và kiến thức lập trình cơ bản (Python/Node, v.v.) thì sẽ dễ dàng theo kịp phần thực hành.

  • Phù hợp với những người đang vận hành hoặc có kế hoạch vận hành dịch vụ tác nhân AI ở quy mô cá nhân hoặc nhóm nhỏ.

  • Để thực hành, cần cấp khóa API LLM, cài đặt bảng điều khiển theo dõi chi phí và môi trường thực hành cục bộ; các nội dung này sẽ được hướng dẫn trong buổi học 1-3.

Xin chào
Đây là newnormal

Xác minh sự nghiệp

159

Học viên

11

Đánh giá

4

Trả lời

4.7

Xếp hạng

3

Các khóa học

🏦 Cựu thành viên giai đoạn đầu của Toss · thành viên sáng lập Toss Payments | Lập trình viên backend từng phát triển nhiều loại API về quảng cáo, khoản vay, bảo hiểm và thanh toán

🚗 Cựu) Hệ thống lưu lượng lớn tại Kakao Mobility · Thành viên sáng lập kiêm CTO của VoltUp, liên doanh giữa LG U+ và Kakao Mobility

🛒 Cựu trưởng nhóm phát triển thương mại điện tử tại Peace Minor One, Carhartt và Worksout · Cựu CTO của Newploy

🚀 Cựu CEO startup thời đại học trong 5 năm (lọt Top 100 startup châu Á của Red Herring năm 2014) · Một mình phát triển “Bản đồ MERS” đạt DAU 100만, được truyền thông trong và ngoài nước đưa tin · Từng phát triển game indie lọt Top 10 thể loại game trên App Store (năm 2010)

🎓 Mentor Software Maestro | Tiến hành cố vấn 0-1 và giảng dạy về thiết kế hệ thống

🤖 Trong thời đại lập trình AI, tôi dạy các junior không phải “viết gì” mà là “vì sao senior lại chọn điều đó”

 

Thêm

Chương trình giảng dạy

Tất cả

20 bài giảng ∙ (2giờ 24phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

6 đánh giá

4.5

6 đánh giá

  • bluepicture081732님의 프로필 이미지
    bluepicture081732

    Đánh giá 3

    ∙

    Đánh giá trung bình 5.0

    5

    61% đã tham gia

    Nội dung về "cắt giảm chi phí" rất khó tìm thấy ở bất cứ đâu nên cực kỳ mới mẻ và giúp ích cho tôi rất nhiều! Tôi thực sự hy vọng những ai đang gặp khó khăn trong việc chi trả chi phí cho các dịch vụ đang vận hành, hoặc những ai đang lúng túng trong việc thiết lập các chỉ số giám sát cho các dịch vụ dựa trên Agent tương tự tại công ty nhất định sẽ nghe nội dung này!!

    • chococoditat님의 프로필 이미지
      chococoditat

      Đánh giá 2

      ∙

      Đánh giá trung bình 5.0

      5

      100% đã tham gia

      Tôi đang vận hành một dịch vụ tích hợp AI API như một dự án phụ. Sau khi học khóa này và áp dụng việc định tuyến mô hình cũng như caching bằng cách tận dụng agent, tôi thấy mức sử dụng giảm khoảng 20%, nhưng có lẽ vẫn cần thử nghiệm và ứng dụng thêm. Khóa học không chỉ đơn thuần liệt kê các mẹo mà còn giải thích dựa trên code vì sao cần làm như vậy, nên tôi đã hiểu được phần nào. Tuy nhiên, những kỹ thuật được đề cập trong khóa học thực ra là những nội dung mà trước khi xem khóa học, bản thân tôi cũng không để ý; nếu chịu khó tìm hiểu sau đó thì vẫn có thể thấy được. Dù vậy, không có nhiều tài liệu tổng hợp đầy đủ các nội dung này dựa trên những trường hợp thực tế. Vì thế, khóa học vẫn hữu ích ở chỗ giúp tôi nhanh chóng hệ thống lại từ đầu đến cuối những khái niệm mà mình chưa biết, hiểu cách sử dụng chúng để kiếm tiền, cũng như nắm được tầm quan trọng của chúng.

      • peace7335님의 프로필 이미지
        peace7335

        Đánh giá 1

        ∙

        Đánh giá trung bình 5.0

        5

        30% đã tham gia

        • sanghyukp2471님의 프로필 이미지
          sanghyukp2471

          Đánh giá 9

          ∙

          Đánh giá trung bình 5.0

          5

          63% đã tham gia

          • donghyeongo3481님의 프로필 이미지
            donghyeongo3481

            Đánh giá 6

            ∙

            Đánh giá trung bình 5.0

            5

            32% đã tham gia

            Khóa học tương tự

            Khám phá các khóa học khác trong cùng lĩnh vực!

            Giảm 25% cho thành viên mới

            594.109 ₫

            25%

            792.139 ₫