inflearn logo

LLM API trọn gói trong một lần: từ prompt, đầu ra có cấu trúc đến gọi công cụ

Tôi gửi cùng một yêu cầu hai lần nhưng nhận được hai câu trả lời khác nhau. Tôi có thể đưa câu trả lời nào vào chương trình của mình? Cùng xem lại trên màn hình nhật ký các lệnh gọi API thực tế đã gửi, lần lượt tìm hiểu cấu trúc yêu cầu và phản hồi, đầu ra có cấu trúc, truyền phát, gọi công cụ, lỗi và thử lại, cũng như chi phí. Thay vì chỉ dựa vào việc có văn bản được gửi về, hãy đặt ra tiêu chí quyết định chấp nhận hay tạm hoãn dựa trên trạng thái, định dạng, căn cứ và chi phí.

2 học viên đang tham gia khóa học này

Độ khó Cơ bản

Thời gian Không giới hạn

Python
Python
gemini
gemini
prompt engineering
prompt engineering
LLM
LLM
openAI API
openAI API
Python
Python
gemini
gemini
prompt engineering
prompt engineering
LLM
LLM
openAI API
openAI API

Bạn sẽ nhận được điều này sau khi học.

  • Bạn có thể đọc phản hồi theo từng phần gồm nội dung, trạng thái kết thúc và mức sử dụng, đồng thời nhận biết những phản hồi chưa kết thúc hoặc đang chờ thực thi công cụ ngay cả khi HTTP trả về 200.

  • Bạn có thể tìm lịch sử hội thoại và các yêu cầu trong yêu cầu, xem mức sử dụng token và giới hạn đầu ra để khắc phục thông tin còn thiếu và nguyên nhân khiến câu trả lời bị cắt ngắn.

  • Trong đầu ra có cấu trúc, bạn có thể lần lượt thiết lập các bước kiểm tra mức độ hoàn thành, định dạng và đối chiếu với bản gốc, đồng thời phân loại câu trả lời cần lưu và câu trả lời cần tạm giữ kèm theo lý do.

  • Trong ứng dụng, bạn có thể quản lý sự kiện hoàn tất của luồng và việc trao đổi qua lại call_id của lệnh gọi công cụ, đồng thời phân biệt yêu cầu của mô hình với quyền thực thi của ứng dụng.

  • Dựa trên nội dung lỗi, các header giới hạn, mức sử dụng và đơn giá chính thức, bạn có thể quyết định việc thử lại hay dừng, xác định chi phí và độ trễ cho mỗi tác vụ, rồi kiểm tra lại bằng cùng đầu vào sau khi thay đổi.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Dành cho những người biết sử dụng hàm và câu lệnh điều kiện, nhưng lần đầu thử kết nối API LLM với chương trình của mình.

  • Dành cho những người cần tiêu chí để biết có thể đưa câu trả lời nào vào tính năng, vì câu trả lời cho cùng một câu hỏi lại khác nhau đôi chút mỗi lần.

  • Những người đã từng sử dụng dịch vụ trò chuyện nhưng chưa bao giờ trực tiếp xem nội dung thô của yêu cầu API, cấu trúc phản hồi, token và chi phí.

  • Dành cho những ai muốn biết nên dừng ở đâu và cần kiểm tra những gì trước khi bổ sung đầu ra có cấu trúc, truyền phát trực tiếp, gọi công cụ và thử lại.

Cần biết trước khi bắt đầu?

  • Chỉ cần có thể đọc được biến, hàm, mảng, đối tượng và câu lệnh điều kiện trong một ngôn ngữ lập trình. Đoạn mã xuất hiện trên màn hình chủ yếu là những đoạn Python ngắn.

  • Các yêu cầu và phản hồi HTTP, JSON và xác thực bằng API key sẽ được giải thích ngay tại phần đầu tiên cần đến chúng.

  • Bạn không cần có kinh nghiệm về toán học trong học máy hay huấn luyện mô hình, cũng không cần học các khóa học khác. Phần tính toán chỉ gồm bốn phép tính cơ bản với token và chi phí.

Xin chào
Đây là haeyeomiso

Xác minh sự nghiệp

718

Học viên

23

Đánh giá

41

Trả lời

4.7

Xếp hạng

20

Các khóa học

Rất vui được gặp bạn!

Tôi là Haeyeo, người luôn muốn khám phá những khả năng vô tận của AI và kỹ thuật máy tính, đồng thời chia sẻ hành trình đó cùng các bạn.

Thời đại học, với niềm đam mê chuyên ngành lớn đến mức được gọi là "kẻ nghiện khoa học máy tính", tôi đã tốt nghiệp thủ khoa với điểm chuyên ngành trên 4.4. Sau đó, tôi đã nhận bằng Thạc sĩ chuyên ngành AI tại Đại học S và tiếp tục đào sâu chuyên môn thông qua chương trình Tiến sĩ.

Tuy nhiên, vì cảm thấy việc giải quyết các vấn đề thực tế bằng AI cũng đầy sức hút như việc nghiên cứu lý thuyết, tôi đã tạm dừng chương trình tiến sĩ để tích lũy những kinh nghiệm thực chiến quý báu thông qua các dự án về LLM và phân tích video dựa trên AI tại một startup.

Hiện tại, tôi đang làm việc với tư cách là nhà phát triển dự án LLM và PM tại một trong ba tập đoàn hàng đầu Hàn Quốc, góp phần tạo ra những thay đổi tích cực mà công nghệ AI mang lại cho cuộc sống của chúng ta. Tôi sẽ chia sẻ tận tình với các bạn quá trình trăn trở, giải quyết vấn đề cũng như những bí quyết thực tế sống động mà tôi đã tích lũy được tại hiện trường. Tôi sẽ là người dẫn đường tin cậy cho bạn trong hành trình khám phá thế giới AI đầy thú vị này.

Liên hệ và đề xuất: haeyeo.open@gmail.com

Thêm

Chương trình giảng dạy

Tất cả

30 bài giảng ∙ (4giờ 41phút)

Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học khác của haeyeomiso

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Ưu đãi có thời hạn

463.760 ₫

58%

1.130.414 ₫