강의

챌린지

멘토링

로드맵

커뮤니티

Thực chiến bảo mật LLM với FastAPI: dùng code để chặn prompt injection, chi phí tăng vọt và quyền truy cập công cụ; đưa 50 bài kiểm tra bảo mật thành cổng CI

Bảo vệ chatbot, RAG và các lệnh gọi công cụ tích hợp với FastAPI khỏi tấn công chèn prompt, hóa đơn tăng vọt và lạm dụng quyền hạn. Ngăn chặn bằng dependency, middleware và mã công cụ; kiểm tra bằng pytest cùng 50 bài kiểm thử bảo mật; quyết định phát hành thông qua cổng kiểm soát GitHub Actions. Hoàn thành với 84 bài thực hành mà không mất phí API.

2 học viên đang tham gia khóa học này

Độ khó Cơ bản

Thời gian Không giới hạn

Python
Python
Chatbot
Chatbot
FastAPI
FastAPI
LLM
LLM
LangChain
LangChain
Python
Python
Chatbot
Chatbot
FastAPI
FastAPI
LLM
LLM
LangChain
LangChain

Bạn sẽ nhận được điều này sau khi học.

  • Khả năng ngăn chặn prompt injection bằng dependency của FastAPI, middleware của LangChain và schema đầu ra.

  • Thiết kế ngăn chi phí API LLM tăng vọt bằng cách giới hạn tốc độ và số token cho từng người dùng

  • Khả năng áp dụng xác minh quyền sở hữu, hàng đợi chờ phê duyệt, biện pháp phòng chống SSRF và danh sách cho phép MCP cho các lệnh gọi công cụ.

  • Cách viết kiểm thử tấn công bằng pytest luôn cho cùng một kết quả với LLM giả lập

  • Bộ công cụ đánh giá để kiểm thử bên ngoài ứng dụng, gồm 50 câu hỏi bảo mật, bộ phân định quy tắc và giám khảo chấm điểm LLM.

  • Cổng kiểm soát phát hành GitHub Actions và báo cáo quyết định phát hành · danh sách kiểm tra gồm 20 mục

  • Tài liệu tóm tắt, hướng dẫn thực hành, checklist, tổng hợp lệnh và kho ví dụ chạy nguyên xi

Hãy xem trước phần giải thích các khái niệm cơ bản của khóa học này tại đây. https://velog.io/@bumicklee/series/owasp-llm


[Hướng dẫn bằng giọng nói AI]

  • Âm thanh của tất cả các bài học đều được tạo bằng giọng đọc AI.

[Tổng quan khóa học và câu hỏi trọng tâm]

  • Tình huống sự cố: Tất cả các bài kiểm thử pytest đều vượt qua, nhưng chatbot tư vấn thực tế lại đưa mã giảm giá không được phép tiết lộ vào câu trả lời.

  • Mục tiêu khóa học: đưa ra câu trả lời bằng mã cho hai câu hỏi: "Lẽ ra phải ngăn chặn ở đâu?" và "Tại sao các bài kiểm thử hiện có không phát hiện ra?"

[3 giai đoạn trọng tâm được đề cập trong khóa học]

  1. Ngăn chặn: chặn prompt injection, rò rỉ chỉ thị RAG, hóa đơn tăng vọt, hủy đơn hàng của người khác, SSRF, lộ thông tin cá nhân, v.v. bằng dependency của FastAPI, middleware của LangChain và mã công cụ.

  2. Kiểm thử: Xác minh bằng 50 câu hỏi kiểm thử bảo mật nội bộ (pytest) và bên ngoài; tính tỷ lệ vượt qua đối với những câu trả lời thiếu ổn định.

  3. Phát hành: Cho PR vượt qua cổng kiểm tra của GitHub Actions và quyết định có phát hành hay không (được phép/có điều kiện/tạm hoãn) dựa trên một bản báo cáo quyết định phát hành dài một trang.

[Điểm khác biệt của khóa học]

  • Không chỉ dừng lại ở việc tạo LLM đơn giản hay đánh giá thông thường, mà còn bao quát toàn bộ quy trình “ngăn chặn + kiểm thử + phát hành”

  • Cung cấp 50 bài kiểm tra bảo mật, biện pháp ngăn chi phí tăng đột biến (giới hạn tốc độ, giới hạn token), cổng CI và báo cáo quyết định phát hành.

  • Chỉ cần thay đổi tệp cấu hình là có thể áp dụng cùng một bài kiểm tra bảo mật cho các ứng dụng chatbot tư vấn khác.

[Cách thức tổ chức bài học]

  • Tổng cộng 14 phần, 84 bài học (thời lượng khoảng 6 giờ 50 phút)

  • Mỗi chủ đề được trình bày ngắn gọn; trong 15 giây đầu mỗi bài học, hãy giới thiệu trước màn hình kết quả hoặc câu hỏi trọng tâm.

[Tóm tắt chương trình học]

  • Phần 1 Bắt đầu (Mục 1): Kiểm tra bản hoàn chỉnh, chạy lab và tìm hiểu luồng yêu cầu.

  • Phần 2 Ngăn chặn (Mục 2–6): prompt injection, tấn công RAG, bùng nổ chi phí, quyền gọi công cụ/MCP, ngăn chặn đầu ra và che giấu thông tin cá nhân

  • Phần 3: Kiểm thử (mục 7–11): kiểm thử tấn công bằng pytest, 50 câu hỏi kiểm tra bảo mật, bộ chấm điểm dựa trên quy tắc/LLM, tính tỷ lệ đạt và sử dụng công cụ đánh giá.

  • Phần 4 Phát hành và vận hành (Mục 12–14): Thiết lập cổng phát hành CI, báo cáo quyết định phát hành/danh sách kiểm tra, thực hành tổng hợp (bảo vệ và phát hành công cụ cấp coupon)

Hãy xem trước phần giải thích các khái niệm cơ bản của khóa học này tại đây. https://velog.io/@bumicklee/series/owasp-llm

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Lập trình viên backend Python đã tích hợp chatbot và RAG bằng FastAPI nhưng vẫn băn khoăn: "Triển khai như thế này có ổn không?"

  • Nhà phát triển lo lắng không biết việc tích hợp công cụ vào tác tử LangChain có đụng đến dữ liệu của người khác hay không.

  • Người vận hành dịch vụ một mình lo lắng chi phí API LLM bên ngoài sẽ đột ngột tăng vọt chỉ sau một đêm.

  • QA và trưởng nhóm chưa có tiêu chí để quyết định dựa trên điều gì mà duyệt PR tính năng LLM.

  • Dành cho những ai đang loay hoay không biết nên kiểm thử tính năng LLM có câu trả lời khác nhau mỗi lần như thế nào.

Cần biết trước khi bắt đầu?

  • Cần có kinh nghiệm tạo một REST API đơn giản bằng FastAPI.

  • Cần cài đặt Python 3.11 trở lên và có thể tạo môi trường ảo (venv).

  • Sẽ tốt hơn nếu bạn từng gọi API LLM dù chỉ một lần. LangChain sẽ được ôn lại ở mức cần thiết trong các buổi học từ 1 đến 7.

  • Bạn cần biết sử dụng các lệnh cơ bản của Git và terminal. GitHub Actions sẽ được hướng dẫn từ đầu ở phần 12.

  • Không cần khóa API LLM bên ngoài. Phần thực hành cơ bản sẽ sử dụng máy chủ LLM giả lập.

Xin chào
Đây là brunoleebi8302

Xác minh sự nghiệp

Trong thời kỳ Y2K đầy biến động của ngành CNTT, tôi bắt đầu sự nghiệp với vai trò nhà phát triển máy chủ. Sau đó, tại các hiện trường thuộc nhiều ngành nghề khác nhau, tôi đảm nhiệm đan xen vai trò nhà phát triển và kỹ sư hạ tầng, trực tiếp lĩnh hội mọi thứ từ nền tảng công nghệ đến hệ sinh thái hạ tầng phức tạp. Dựa trên kinh nghiệm xây dựng và tinh chỉnh vô số hệ thống, gần đây tôi đang tạo ra những giá trị mới trong lĩnh vực an ninh CNTT và công nghệ hội tụ.
Thêm

Chương trình giảng dạy

Tất cả

85 bài giảng ∙ (6giờ 9phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Ưu đãi có thời hạn

44 ₫

35%

1.805.638 ₫