Vượt ra ngoài việc thực hiện tốt một lần gọi LLM duy nhất, khóa học này đề cập đến Harness Engineering (Kỹ thuật Khung điều khiển) - thiết kế toàn bộ cấu trúc thực thi bên ngoài mô hình. Từ 6 thành phần cốt lõi bao gồm luồng điều khiển, công cụ, trạng thái, xác thực, hook và quyền hạn, cho đến các mẫu (pattern) then chốt như chaining, định tuyến, song song hóa, tối ưu hóa người đánh giá, điều phối viên-công nhân, ReAct, đa tác nhân (multi-agent), cũng như chi phí, độ tin cậy, đánh giá và bảo mật. Không phụ thuộc vào framework, bạn sẽ tự tay triển khai các nguyên lý bằng Python thuần túy, từ đó xây dựng năng lực kỹ thuật hệ thống LLM có thể áp dụng cho bất kỳ công cụ nào.
Những người đã từng tạo Prompt hoặc RAG nhưng lại gặp khó khăn khi chuyển sang gọi lặp lại, sử dụng công cụ, kiểm chứng hoặc đa tác nhân (multi-agent). Những người muốn thiết kế một hệ thống vận hành vượt xa hơn cả một lần gọi duy nhất.
Những người cần nâng tầm từ một bản demo hoạt động được thành một dịch vụ thực tế hội tụ đủ các yếu tố chi phí, độ tin cậy, đánh giá và bảo mật. Những người muốn giải quyết các vấn đề phát sinh trong quá trình vận hành dựa trên các nguyên lý cơ bản.
Những người muốn sử dụng các công cụ như LangGraph·Agent SDK, nhưng đồng thời muốn hiểu chuyện gì đang xảy ra bên dưới bằng cách tự mình lập trình trực tiếp bằng Python thuần (raw Python).
Những ai muốn hoàn thiện trọn vẹn ba vòng tròn đồng tâm, từ Prompt, Context cho đến Harness. Những ai muốn nắm vững cách sử dụng kết hợp cả ba phương pháp kỹ thuật này.
Không bị bó buộc vào bất kỳ thư viện cụ thể nào. Bạn sẽ tự tay lập trình vòng lặp, công cụ, trạng thái và xác thực bằng Python thuần túy, còn các framework sẽ chỉ được đề cập như một tài liệu tham khảo về cách "trừu tượng hóa các nguyên lý này".
Thiết lập các thành phần như luồng điều khiển, công cụ, trạng thái, xác thực, hook và quyền hạn trước, sau đó phân tích và lắp ghép các mô hình như chaining, routing, song song hóa, ReAct dựa trên câu hỏi "đó là sự kết hợp của những thành phần nào".
Nó kết nối với prompt và context trong cùng một hệ tọa độ. Trụ cột thứ ba này sẽ trả lời cho câu hỏi cuối cùng là "Làm thế nào để thực thi?" và liên kết cả ba trụ cột lại với nhau.
Định nghĩa về kỹ thuật Harness và cấu trúc ba lớp, giới hạn của Prompt và Context (tại sao cần Harness), mối quan hệ giữa Agent, Workflow và Orchestration, cùng với môi trường thực hành và vòng lặp Harness tối giản. Đây là điểm khởi đầu cho tất cả các phần sau này.
Kiểm soát luồng·Công cụ·Trạng thái·Kiểm chứng·Hook và Khả năng quan sát·Quyền hạn và An toàn, sáu thành phần này sẽ được chia thành các phần khái niệm và phần thực hành triển khai mã nguồn tương ứng để tự tay xây dựng bằng Python thuần (raw Python). Từ Vòng lặp·Điều kiện kết thúc, Gọi hàm·Điều hướng công cụ, Trí nhớ ngắn hạn·dài hạn, Guardrails·Tự hiệu chỉnh, cho đến Tracing·Metrics và HITL·Sandbox.
Chuỗi prompt (Prompt Chaining), Điều hướng (Routing), Song song hóa (Sectioning·Voting), Người đánh giá - Tối ưu hóa (Evaluator-Optimizer), Điều phối viên - Người thực hiện (Orchestrator-Worker), và Tác nhân tự trị (ReAct). Các mẫu này được sắp xếp theo thứ tự tính tự trị tăng dần, phân tích từng mẫu dưới dạng sự kết hợp của 6 thành phần chính, đồng thời đi kèm với các bài tập thực hành triển khai mã nguồn.
Bản chất của Multi-agent (không phải là nhiều nhân cách mà là phân tách ngữ cảnh), các mô hình hợp tác (Manager-Worker, Handoff, Thảo luận), cùng với việc triển khai Sub-agent và cô lập ngữ cảnh. Đi kèm với nguyên tắc "Bắt đầu từ đơn lẻ" và các cạm bẫy như lan truyền lỗi hay chi phí.
Agent lập trình (vòng lặp viết·chạy·sửa), Agent nghiên cứu (điều phối + cô lập), RAG harness (diễn giải lại RAG dưới dạng harness), quy trình hỗ trợ khách hàng (định tuyến·bàn giao·HITL). Phân tích từng trường hợp thành "thành phần hoặc mô hình nào".
Đảm bảo độ tin cậy thông qua việc thử lại (retry), bộ nhớ đệm (caching) và tối ưu hóa chi phí, cùng với cách đo lường Agent (hệ thống đánh giá - evaluation harness), theo dõi và gỡ lỗi, cho đến phòng chống tấn công Prompt Injection. Nội dung này đề cập đến ranh giới giữa bản thử nghiệm (prototype) và sản phẩm thực tế (production).
Tích hợp Prompt × Context × Harness trong cùng một mã nguồn, nắm vững toàn bộ quy trình thông qua dự án tổng hợp (Capstone RAG QA tài liệu), sau đó kết thúc bằng việc ôn tập lại bài giảng.
Có thể trực tiếp lập trình 6 thành phần chính gồm luồng điều khiển, công cụ, trạng thái, kiểm chứng, hook và quyền hạn bằng Python thuần (raw Python).
Chọn và lắp ghép các mô hình như chaining (chuỗi), routing (định tuyến), parallelization (song song hóa), ReAct, v.v. sao cho phù hợp với vấn đề.
Điều phối nhiều agent bằng các mô hình cộng tác và cô lập ngữ cảnh.
Vận hành harness thành dịch vụ thực tế với đầy đủ các yếu tố chi phí, độ tin cậy, đánh giá và bảo mật.
Python trung cấp (hàm·lớp·xử lý ngoại lệ). Kinh nghiệm sử dụng LLM API (khái niệm gọi hàm·token·system prompt). Hiểu biết cơ bản về Prompt Engineering/RAG. Không yêu cầu kiến thức chuyên sâu về Deep Learning.
Đã đăng trang giới thiệu bài giảng.
