Những khái niệm backend nhất định phải biết khi viết code bằng AI ②
Bạn đã từng thực sự vận hành dịch vụ mình tạo ra chưa? Từ triển khai và khả năng quan sát, tích hợp bên ngoài và hàng đợi, tệp và khả năng mở rộng, cho đến vận hành các tính năng AI. Đây là phần 2, giúp bạn tìm hiểu cần quyết định thêm những gì để liên tục cung cấp backend do AI tạo ra cho người dùng thực tế.
Bạn có thể xác định cần kiểm tra những gì trước và sau khi triển khai, cũng như liệu có nên tiếp nhận yêu cầu ngay khi hệ thống được bật hay không.
Bạn có thể đọc log, chỉ số và cảnh báo để thu hẹp phạm vi, xác định vấn đề xảy ra ở đâu.
Hình thành tiêu chí thiết kế để dịch vụ có thể chịu được những tác vụ có khả năng thất bại, chẳng hạn như API bên ngoài, hàng đợi, tệp và câu trả lời của AI.
Toàn bộ kiến thức backend trong thời đại AI · Phần 2
Hãy vận hành dịch vụ đã tạo trong thực tế
Máy chủ đã được bật, nhưng liệu có thể mở cho người dùng không?
Khi nói với AI rằng “hãy đưa lên máy chủ và chạy đi”, bằng cách nào đó dịch vụ sẽ được khởi động. Nhưng chưa ai quyết định điều gì sẽ xảy ra nếu dịch vụ bị gián đoạn trong chốc lát khi triển khai phiên bản mới, liệu dịch vụ của chúng ta có cùng dừng lại khi API bên ngoài trở nên chậm hay không, hay ai sẽ biết và biết bằng cách nào khi xảy ra lỗi. Chúng ta đón nhận người dùng trong khi vẫn để nguyên những khoảng trống đó.
Khóa học này không phải là lớp học về cách sử dụng các công cụ triển khai. Đây là khóa học về các nguyên lý, lần lượt tìm hiểu những điều cần xác định thêm để dịch vụ được tạo ra ở phần 1 có thể liên tục cung cấp cho người dùng thực tế, từ triển khai và khả năng quan sát, đến tích hợp bên ngoài và hàng đợi, cũng như mở rộng và vận hành các tính năng AI.
Thay vì nói là đã được bật, hãy có thể nói rằng nó đã sẵn sàng, có thể khôi phục và có thể quan sát được.
01 · Nhìn lại vấn đề
Máy chủ đang bật và dịch vụ đang vận hành là hai chuyện khác nhau.
Mã chạy tốt trên máy tính của tôi lại phát sinh lỗi trong chốc lát ngay sau khi triển khai, và vào những ngày API AI bên ngoài chậm đi, ngay cả những màn hình không liên quan cũng bị treo theo. Khi số lượng người dùng tăng lên, chỉ nhìn vào mã nguồn thì không thể biết chỗ nào sẽ bị nghẽn trước, hay ai sẽ thay thế xử lý những tác vụ mất nhiều thời gian.
Không phải vì trí tuệ nhân tạo (AI) không thể triển khai. Mà là vì chúng ta chưa xác định những điều kiện cần tuân thủ trong quá trình vận hành. Phần 2 là tấm bản đồ cho biết những điều kiện đó đang ẩn ở đâu.
Đã sẵn sàng chưa?
Bật lên rồi thì có thể nhận yêu cầu ngay không? Cần kiểm tra điều gì trước khi mở?
Có thể quay lại không?
Nếu phiên bản mới có vấn đề, chúng ta có thể quay lại phiên bản trước trong vài phút không?
Có nhìn thấy không?
Lỗi và độ trễ có được ghi lại không, và khi có vấn đề thì ai sẽ biết bằng cách nào?
chịu đựng được không
Ngay cả khi các dịch vụ bên ngoài chậm lại hoặc lượng người dùng tăng đột biến, dịch vụ của chúng ta vẫn tiếp tục phản hồi chứ?
Nếu có thể trả lời bốn câu hỏi này, bạn sẽ xác định được các yêu cầu vận hành cần truyền đạt cho AI, đồng thời có cơ sở để xem xét cấu hình và mã nguồn mà AI trả về. Khóa học sẽ lần lượt giải đáp từng câu hỏi theo trình tự: triển khai, quan sát, tích hợp bên ngoài, hàng đợi, tệp, mở rộng và các tính năng AI.
02 · Từ triển khai đến vận hành AI
Hãy vận hành trọn vẹn một dịch vụ từ đầu đến cuối.
Trước tiên, hãy xem cách triển khai và theo dõi.
Tách riêng môi trường và cấu hình để ứng dụng hoạt động cho ra cùng một kết quả ngay cả khi chạy ngoài máy tính của tôi, và chỉ nhận yêu cầu sau khi kiểm tra sẵn sàng. Phiên bản mới được mở trước cho một phần người dùng, theo dõi tỷ lệ lỗi và độ trễ rồi mới triển khai cho toàn bộ hoặc hoàn tác. Phân biệt rõ log, chỉ số, tracing và cảnh báo lần lượt trả lời cho câu hỏi nào.
Sau đó, giúp hệ thống chịu được tình trạng chậm và dồn tải.
Khi dịch vụ bên ngoài chậm, bạn xử lý timeout, thử lại và bộ ngắt mạch; giao những việc mất nhiều thời gian cho hàng đợi và worker, đồng thời xác định tính bất biến và cách xử lý lỗi. Bạn tích hợp tính năng tải lên và lưu trữ tệp, tìm kiếm, rồi khi số lượng người dùng tăng, tìm ra điểm nghẽn và sắp xếp thứ tự cần thay đổi trước.
Cuối cùng, vận hành các tính năng AI một cách chuyên nghiệp như một dịch vụ.
Tinh chỉnh câu trả lời của AI cho phù hợp với dịch vụ của chúng ta, giúp AI tìm kiếm tài liệu của chúng ta để trả lời dựa trên căn cứ, rồi giao cho AI cả việc thực thi các công cụ thực tế. Trước hết, hãy hiểu lý do cần đặt quyền hạn và quy trình xác nhận, nhật ký thực thi và khả năng tiếp tục, cũng như các điểm cần con người can thiệp ở đâu.
03 · Một trường hợp xuyên suốt
Tiếp tục 50 bài học với cùng một dịch vụ tài liệu của nhóm
Chúng ta sẽ tiếp tục sử dụng nguyên dịch vụ tài liệu nhóm đã theo dõi các yêu cầu, API, dữ liệu và xác thực trong phần 1. Từng bước, chúng ta sẽ bổ sung tải tệp lên và xử lý tài liệu, tìm kiếm, câu trả lời từ AI và thực thi công cụ, lần lượt đi qua triển khai và khả năng quan sát, tích hợp bên ngoài và hàng đợi, mở rộng quy mô và vận hành AI.
Không có phần thực hành lập trình hay cài đặt môi trường. Chỉ khi cần, chúng ta sẽ đọc qua các cấu hình, nhật ký và mã giả ngắn gọn, đồng thời giải thích nguyên lý bằng lưu đồ và bảng so sánh. Nội dung tập trung vào những nguyên lý cốt lõi trong vận hành, không phụ thuộc vào một nền tảng đám mây hay framework cụ thể nào.
Đây là câu chuyện tiếp nối từ phần 1.
Toàn bộ chuỗi gồm phần 1 với 50 bài và phần 2 với 50 bài, tổng cộng 100 bài. Phần 1 đề cập đến các nguyên lý xử lý đúng yêu cầu và dữ liệu, còn phần 2 tập trung vào nguyên lý vận hành dịch vụ đó trong thực tế. Ngay cả khi chưa học phần 1, bạn vẫn có thể theo kịp nếu không cảm thấy xa lạ với các khái niệm như yêu cầu, API, cơ sở dữ liệu và xác thực.
Trong 50 bài học, chúng ta sẽ tiến hành theo trình tự như sau
Bắt đầu từ việc làm cho nó chạy bên ngoài máy tính của bạn. Chúng ta sẽ lần lượt đưa các phiên bản mới lên, kiểm tra xem chúng có hoạt động tốt không, sau đó xử lý khi các dịch vụ bên ngoài trở nên chậm và những công việc mất nhiều thời gian. Đi qua tệp và phần mở rộng, chúng ta sẽ gói gọn 50 bài học về câu trả lời của AI, tìm kiếm tài liệu, thực thi công cụ và cách duy trì những công việc đó cho đến khi hoàn tất.
04 · Xác nhận trước khi học
Phù hợp với những người như sau
Những người sau khi nghe phần 1 muốn tiếp tục đến khâu triển khai và vận hành
Dành cho những ai đã triển khai dịch vụ được tạo bằng AI nhưng không biết nên kiểm tra ở đâu khi dịch vụ chạy chậm hoặc bị dừng.
Những bạn cảm thấy bối rối không biết nên xử lý thất bại như thế nào khi tích hợp API bên ngoài, hàng đợi và kho lưu trữ tệp tin.
Những người muốn tích hợp các tính năng AI như tìm kiếm tài liệu hoặc thực thi công cụ vào dịch vụ của mình
Đây không phải là khóa học thực hành kiểu làm theo từng bước.
Đây không phải là khóa học hướng dẫn đưa dự án lên một đám mây cụ thể. Mỗi bài học kéo dài 5–10 phút, trong tổng cộng 50 bài, tập trung vào các nguyên lý thông qua phần giải thích khái niệm, lưu đồ, bảng so sánh và phân tích ví dụ. Dù sử dụng môi trường nào, khóa học cũng tập trung vào những tiêu chí đánh giá có thể áp dụng nguyên vẹn cho dịch vụ tiếp theo.
Tôi sẽ trả lời trước những điều bạn có thể đang thắc mắc.
Tôi chưa xem phần 1 thì có sao không?
Không sao. Nếu các thuật ngữ như yêu cầu, API, cơ sở dữ liệu và xác thực không còn xa lạ với bạn thì có thể bắt đầu ngay. Khi gặp phần cần kiến thức từ tập 1, chúng ta sẽ ngắn gọn nhắc lại ngay lúc đó rồi tiếp tục.
Có cần sử dụng một đám mây hoặc công cụ cụ thể nào không?
Không đâu. Bài này đề cập đến lý do cần container, hàng đợi, kho lưu trữ và các công cụ quan sát, cũng như những gì cần quyết định, bất kể sử dụng loại nào. Mục tiêu là giúp bạn có thể đặt ra cùng những câu hỏi đó dù chọn sản phẩm nào.
Nghe ở tốc độ nhanh hơn có ổn không?
Tôi đã dùng AI để xử lý âm thanh, giảm tiếng ồn và chỉnh sửa phát âm. Tôi đã cải thiện chất lượng âm thanh và phát âm để phần giải thích vẫn rõ ràng ngay cả khi nghe ở tốc độ gấp 2 lần.
Khuyến nghị cho những người này
Khóa học này dành cho ai?
Những người sau khi nghe phần 1 muốn tiếp tục đến khâu triển khai và vận hành
Dành cho những ai đã triển khai dịch vụ được tạo bằng AI nhưng không biết nên kiểm tra ở đâu khi dịch vụ chạy chậm hoặc bị dừng.
Dành cho những ai muốn tích hợp các tính năng AI như tìm kiếm tài liệu hoặc thực thi công cụ vào dịch vụ của mình
Cần biết trước khi bắt đầu?
Biết nội dung phần 1 (yêu cầu, API, dữ liệu, xác thực) thì sẽ tốt hơn.
Không có phần thực hành lập trình hay cài đặt môi trường. Không cần kiến thức về một nền tảng đám mây hoặc framework cụ thể nào.
Tôi là Haeyeo, người luôn muốn khám phá những khả năng vô tận của AI và kỹ thuật máy tính, đồng thời chia sẻ hành trình đó cùng các bạn.
Thời đại học, với niềm đam mê chuyên ngành lớn đến mức được gọi là "kẻ nghiện khoa học máy tính", tôi đã tốt nghiệp thủ khoa với điểm chuyên ngành trên 4.4. Sau đó, tôi đã nhận bằng Thạc sĩ chuyên ngành AI tại Đại học S và tiếp tục đào sâu chuyên môn thông qua chương trình Tiến sĩ.
Tuy nhiên, vì cảm thấy việc giải quyết các vấn đề thực tế bằng AI cũng đầy sức hút như việc nghiên cứu lý thuyết, tôi đã tạm dừng chương trình tiến sĩ để tích lũy những kinh nghiệm thực chiến quý báu thông qua các dự án về LLM và phân tích video dựa trên AI tại một startup.
Hiện tại, tôi đang làm việc với tư cách là nhà phát triển dự án LLM và PM tại một trong ba tập đoàn hàng đầu Hàn Quốc, góp phần tạo ra những thay đổi tích cực mà công nghệ AI mang lại cho cuộc sống của chúng ta. Tôi sẽ chia sẻ tận tình với các bạn quá trình trăn trở, giải quyết vấn đề cũng như những bí quyết thực tế sống động mà tôi đã tích lũy được tại hiện trường. Tôi sẽ là người dẫn đường tin cậy cho bạn trong hành trình khám phá thế giới AI đầy thú vị này.