5 tình huống SQL do LLM tạo ra làm sập cơ sở dữ liệu production

SQL do LLM viết chạy không lỗi. Vì thế, nó càng nguy hiểm. Doanh thu bị thổi phồng gấp 3 lần, truy vấn dữ liệu một ngày đọc toàn bộ 300.000 dòng trong bảng, thông tin liên hệ của thành viên đã rời khỏi hệ thống bị lẫn vào danh sách. Tôi sẽ tái hiện trực tiếp các tình huống này trong Docker MySQL và tổng hợp thành bảng tiêu chí kiểm tra để sàng lọc trước khi kết nối với cơ sở dữ liệu sản xuất.

18 học viên đang tham gia khóa học này

Độ khó Cơ bản

Thời gian Không giới hạn

SQL
SQL
MySQL
MySQL
LLM
LLM
SQL
SQL
MySQL
MySQL
LLM
LLM
Thumbnail

Bạn sẽ nhận được điều này sau khi học.

  • Trong SQL tổng hợp do LLM tạo ra, tìm các phép JOIN một-nhiều, sửa SQL để gom nhóm trước rồi mới JOIN, sau đó đối chiếu tổng để xác nhận tính chính xác.

  • Dựa vào type·rows của EXPLAIN và số hàng đã đọc, tìm và sửa các điều kiện khiến chỉ mục không được sử dụng (bọc trong hàm, chuyển đổi kiểu, ký tự đại diện ở đầu).

  • Ngăn chặn các câu lệnh SQL đọc toàn bộ cơ sở dữ liệu vận hành bằng cách giới hạn số lượng bản ghi, sử dụng chỉ mục sắp xếp và giới hạn thời gian thực thi.

  • Loại bỏ SELECT *, tình trạng thiếu che dữ liệu và việc đưa cả thành viên đã rời hệ thống/không đồng ý vào; bảo vệ bảng thông tin cá nhân bằng view an toàn và phân quyền.

  • Sửa các điều kiện âm thầm sai do NOT IN với NULL, ngày kết thúc trong BETWEEN, giây cuối cùng và chênh lệch giữa giờ UTC và giờ Hàn Quốc.

  • Phân loại SQL của LLM thành đạt, tạm hoãn hoặc viết lại bằng bảng đánh giá năm tình huống.

Bản demo chỉ mất một ngày, nhưng vận hành lại là chuyện khác.

Chỉ cần đưa schema vào prompt rồi chạy SQL do LLM tạo ra, chỉ trong một ngày là có bản demo chatbot dữ liệu nội bộ. Vấn đề xuất hiện ngay khi kết nối bản demo đó với DB vận hành.

Khóa học miễn phí này tái hiện năm tình huống xảy ra lúc đó trên cơ sở dữ liệu thực hành của một cửa hàng trực tuyến giả lập (100.000 thành viên · 400.000 đơn hàng), đồng thời đánh giá ở mỗi tình huống rằng liệu có thể ngăn chặn bằng guard hay không.

Năm phân cảnh

  • Cảnh 1. Doanh thu bị thổi phồng lên hơn gấp đôi — do trùng lặp khi JOIN, lên tới 2,34 lần. Guard vẫn cho qua.

  • Cảnh 2. Cùng một câu trả lời nhưng lại đọc toàn bộ cơ sở dữ liệu vận hành — có thể ngăn chặn bằng EXPLAIN trước khi thực thi.

  • Cảnh 3. Trong kết quả “Hiển thị danh sách VIP” có số điện thoại — có thể ngăn chặn bằng cách đánh dấu cột chứa thông tin cá nhân và phân quyền.

  • Cảnh 4. “Thành viên đang hoạt động” chênh nhau gấp đôi — đây là vấn đề về định nghĩa nên không thể ngăn bằng guard.

  • Cảnh 5. "Dọn dẹp các đơn hàng đã hủy đi" — ngăn chặn bằng hai lớp: guard và tài khoản chỉ có quyền đọc.

Nguy hiểm nhất là những thứ vượt qua được hàng rào bảo vệ.

Các con số sai không gây lỗi, lại có vẻ nhanh và an toàn nên vượt qua lớp bảo vệ mà không bị phát hiện. Chỉ có thể phát hiện bằng mô tả lược đồ, từ điển thuật ngữ nghiệp vụ và chấm điểm dựa trên bộ đáp án chuẩn.

Xin thông báoarsinnaavoq

  • SQL chatbot trong video là ví dụ do giảng viên viết, theo dạng mà LLM thường tạo ra (được nêu rõ ở cuối video). Các con số là kết quả thu được khi chạy trực tiếp trên DB thực hành.

  • Toàn bộ dữ liệu đều là dữ liệu giả lập tự tạo, không liên quan đến công ty hay khách hàng thực tế.

  • Tôi đã dùng AI hỗ trợ soạn thảo bản thảo và bản nháp slide; phần thuyết minh là giọng nói tổng hợp bằng AI.

Bước tiếp theo

Trong phần chính “Thực chiến chatbot dữ liệu nội bộ — Tích hợp RAG và Text-to-SQL an toàn vào cơ sở dữ liệu vận hành”, chúng tôi sẽ trực tiếp khắc phục năm tình huống này. Chúng tôi sẽ xây dựng chatbot bằng Claude Code chạy cục bộ, trình bày quá trình nâng độ chính xác từ 20 lên 48 câu trên bộ 50 câu hỏi chuẩn (bản cải tiến đạt 50 câu), đồng thời kiểm chứng thực tế các biện pháp bảo vệ, quyền riêng tư, phân quyền và vận hành.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Nhà phát triển sử dụng LLM (chatbot/trợ lý lập trình) để viết SQL rồi chạy trên cơ sở dữ liệu vận hành hoặc cơ sở dữ liệu phân tích.

  • Chuyên viên phân tích dữ liệu/hoạch định xem các con số do LLM trích xuất rồi đưa vào tài liệu.

  • Lãnh đạo/DBA cần rà soát SQL do thành viên nhóm tạo bằng LLM

Cần biết trước khi bắt đầu?

  • SQL ở mức có thể đọc hiểu SELECT·JOIN·GROUP BY

  • Máy tính có thể cài đặt Docker (phần thực hành không bắt buộc)

Xin chào
Đây là dorian05202988

Xác minh sự nghiệp

Tôi là một chuyên gia dữ liệu với hơn 20 năm kinh nghiệm trong lĩnh vực cơ sở dữ liệu và CNTT. Trong vai trò DBA và quản lý nhóm Nền tảng Cơ sở dữ liệu, tôi phụ trách các nền tảng cơ sở dữ liệu, với chuyên môn về MySQL, PostgreSQL, Oracle, MongoDB, tinh chỉnh SQL, AWS, Terraform và Python. Dựa trên kinh nghiệm trong các lĩnh vực trò chơi, tài chính và dịch vụ CNTT, tôi trình bày về cơ sở dữ liệu và kiến trúc đám mây. Tôi đã xuất bản 『Học các mẫu SQL tinh chỉnh thực tế Oracle』 và 『Sổ tay ứng dụng dự án thực tế Oracle Pro*C』, đồng thời thuyết trình về serverless, lựa chọn cơ sở dữ liệu và chiến lược đa cơ sở dữ liệu tại AWS Summit 2018·2019 và sự kiện 데이터야 놀자 2020. Gần đây, tôi tập trung vào phân tích và khuyến nghị tinh chỉnh truy vấn chậm bằng Bedrock LLM, tự động hóa việc tính toán thông số DB, cũng như quy trình tra cứu thông qua máy chủ DB Meta MCP và bot Slack. Tôi giải thích về tự động hóa cơ sở dữ liệu dành cho nhà phát triển và việc ứng dụng AI vào công việc dành cho người không chuyên về phát triển thông qua các bài thực hành phù hợp với đối tượng và mục tiêu của từng khóa học. Thay vì áp dụng nguyên xi các đề xuất của AI, tôi truyền đạt các tiêu chí đánh giá như kiểm tra tính tương đương của kết quả, kế hoạch thực thi và điều kiện quan sát; nếu thiếu căn cứ thì tạm thời chưa áp dụng. Dữ liệu vận hành của công ty và thông tin xác thực không được đưa vào tài liệu giảng dạy.

Thêm

Chương trình giảng dạy

Tất cả

7 bài giảng ∙ (57phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học khác của dorian05202988

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Miễn phí