inflearn logo

Chinh phục toàn diện kiến trúc JEV System One – AI không lên tiếng

Khi dùng LLM được tối ưu cho trò chuyện để thực hiện phân loại, định tuyến và áp dụng các guardrail, kết quả trả về sẽ là một chuỗi, và bạn phải phân tích cú pháp chuỗi đó một lần nữa. Đi kèm với đó là hiện tượng ảo giác, sai lệch kiểu dữ liệu, độ trễ vài giây và chi phí token đầu ra. Bài giảng này trình bày cấu trúc dựa trên Jev, mô hình System One đầu tiên của TypeSafe: khi đưa vào trạng thái (state), hệ thống trả về các quyết định có kiểu trong schema cùng với các xác suất đã được hiệu chuẩn. Mô hình không tạo ra chuỗi. Nội dung cũng giải thích bằng khái niệm và mã nguồn vì sao lấy mẫu song song và RLCD (Reinforcement Learning for Calibrated Decisions) giúp đưa ra quyết định nhanh hơn, cách kết hợp Choice · Score · Noul trong một yêu cầu duy nhất, cũng như mô hình hybrid trong đó các phán đoán có thể biểu diễn dưới dạng cấu trúc được giao cho Jev, còn phần diễn đạt mở được giao cho LLM.

4 học viên đang tham gia khóa học này

Độ khó Nhập môn

Thời gian Không giới hạn

AI
AI
Python
Python
LLM
LLM
AX(Agent Experience)
AX(Agent Experience)
AI Agent
AI Agent
AI
AI
Python
Python
LLM
LLM
AX(Agent Experience)
AX(Agent Experience)
AI Agent
AI Agent

Bạn sẽ nhận được điều này sau khi học.

  • Khi truyền trạng thái (state) vào, hãy trực tiếp viết lời gọi để nhận quyết định có kiểu và xác suất mà không cần phân tích cú pháp.

  • Kết hợp Choice · Score · Noul trong một yêu cầu để thiết kế song song việc định tuyến, thang đo và câu hỏi đúng/sai.

  • Đọc chênh lệch tốc độ 70–500ms, 40–200× và phân chia vai trò của Jev và LLM (định tuyến·bảo vệ·xác minh)

AI không nói

Chinh phục toàn diện kiến trúc JEV System One

Trong khóa học này, bạn có thể học về trí tuệ nhân tạo (AI), học tăng cường và công nghệ lái xe tự hành thông qua khóa học về ô tô tự lái sử dụng AWS DeepRacer. Tính đến tháng 5 năm 2023, khi khóa học được mở, AI Castle đang đứng hạng 1 tại Hàn Quốc trong giải đấu AWS DeepRacer.

Trong khóa học, ngoài nội dung đào tạo lập trình Python, còn đề cập đến nhiều chủ đề khác nhau như điều khiển xe bằng AWS DeepRacer và điện toán đám mây. Sau khi hoàn thành khóa học, học viên sẽ có được hiểu biết sâu sắc về công nghệ lái xe tự hành và nâng cao khả năng phát triển mô hình lái xe tự hành bằng Python.

Bạn sẽ học những nội dung như thế này.

1⃣ Nhận quyết định có kiểu dữ liệu thay vì văn bản

LLM viết văn bản rồi mã mới diễn giải lại văn bản đó. Jev cố định không gian đầu ra trước. Khi đưa trạng thái và câu hỏi vào, hệ thống trả về giá trị thuộc kiểu được cho phép cùng xác suất, còn câu trả lời nằm ngoài schema thậm chí không thể được biểu diễn.

Trong Bài 1, chúng ta tổng hợp System 1 và System 2, cùng bốn hạn chế mang tính cấu trúc của LLM (đầu ra dạng chuỗi và hiện tượng ảo giác, độ trễ do quá trình tạo tuần tự, độ tin cậy thấp của mức độ chắc chắn). Trong Bài 2, chúng ta tìm hiểu về đầu ra có cấu trúc an toàn kiểu, lấy mọi câu trả lời bằng một truy vấn thông qua lấy mẫu song song, và RLCD giúp điều chỉnh mức độ chắc chắn cho phù hợp với tỷ lệ trả lời đúng thực tế.

2⃣ Thiết kế Choice · Score · Noul trong một yêu cầu 

Có ba cách để hỏi Jev.

  • Choice là việc chọn một trong các tùy chọn đã định trước. Kết quả trả về gồm giá trị được chọn, xác suất của từng tùy chọn và độ tin cậy. Ví dụ: gửi ticket đến bộ phận thanh toán, kỹ thuật hay kinh doanh.

  • Score là điểm số trên một thang đo có thứ tự. Ví dụ: mức độ gay gắt của khiếu nại khách hàng.

  • Noul là xác suất từ 0 đến 1 cho câu hỏi “có đúng không?”. Ví dụ: có khẩn cấp không, có phải là yêu cầu hoàn tiền không.

Khi trộn ba câu hỏi vào cùng một state, chúng sẽ chia sẻ cùng một trạng thái và được đánh giá song song. Dù tăng số câu hỏi từ 1 lên nhiều câu, độ trễ hầu như không thay đổi. Trong Bài 3, chúng ta sẽ trực tiếp viết lời gọi này bằng JSON của phiếu hỗ trợ và langchain_typesafe’s TypeSafeClassifier, đồng thời tìm hiểu cả mô hình tách một câu hỏi lớn thành các câu hỏi nguyên tử rồi hợp nhất chúng trong code.

3⃣ mili giây và mô hình lai phân chia vai trò với LLM

Trong các truy vấn dạng System One, thời gian phản hồi đầu-cuối của Jev là 70–500ms. So với 3–329 giây của LLM, vốn tạo token theo thứ tự, Jev nhanh hơn khoảng 40–200 lần. Chi phí đầu vào là $0.042 cho mỗi 1 triệu token, còn token đầu ra được miễn phí. Trong benchmark 4강, độ chính xác của 4 quy trình làm việc đạt khoảng 68%, tiệm cận các LLM thuộc nhóm trung và cao cấp; các con số cho thấy tốc độ và chi phí vượt trội hơn ít nhất hai chữ số.

Những lý do khiến Jev nhanh cũng chính là các trường hợp sử dụng. Các câu lệnh điều kiện thông minh thay thế những câu lệnh if dễ lỗi, map-reduce cho dữ liệu lớn, phán đoán theo thời gian thực ở lớp giao diện người dùng, và guardrail lọc đầu ra của LLM cũng như các nỗ lực jailbreak trước khi thực thi. Jev không thay thế LLM. Jev đảm nhiệm những quyết định có thể quy về cấu trúc, LLM đảm nhiệm các nội dung mô tả mở; nếu confidence thấp, quyết định sẽ được chuyển cho con người.

Lưu ý trước khi tham gia khóa học

Tài liệu học tập và lưu ý

  • Tất cả tài liệu học tập đều có tại liên kết sau.

  • Bản quyền của bài giảng và tài liệu học tập này thuộc về người chia sẻ kiến thức. Nghiêm cấm phân phối và sao chép trái phép; tài liệu không được sử dụng cho bất kỳ mục đích nào ngoài việc học tập cá nhân.

  • Không cung cấp tài liệu thực hành riêng.

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Các kỹ sư backend và AI không thể đưa hệ thống phân loại·định tuyến lên production do hiện tượng ảo giác và lệch schema khi phân tích phản hồi LLM thành JSON

  • Các nhà phát triển dịch vụ không thể đưa phán đoán của AI vào luồng thời gian thực do độ trễ vài giây khi chờ từng token và chi phí gọi API.

Cần biết trước khi bắt đầu?

  • Chỉ cần có thể đọc dict và JSON bằng Python là được.

  • Nếu bạn từng thấy quy trình gửi nội dung JSON đến HTTP API, bạn có thể làm theo ví dụ ngay.

  • Chỉ cần biết rằng LLM tạo ra các token theo thứ tự là có thể so sánh được.

  • Bạn không cần phải biết trước về System One, hệ thống kiểu, hay LangChain.

Xin chào
Đây là DEVJH

67

Học viên

5

Đánh giá

5.0

Xếp hạng

5

Các khóa học

Xin chào. Tôi là Lee Jong-hyun.

Tôi đã tích lũy kinh nghiệm phát triển và vận hành các dịch vụ thực tế khi làm việc với tư cách là nhà phát triển phần mềm tại Coupang. Hiện tại, tôi vừa đi làm vừa học tập, đồng thời nghiên cứu về học máy và học sâu trong chương trình thạc sĩ trí tuệ nhân tạo tại Đại học Yonsei.

Dựa trên hơn 10 năm kinh nghiệm phát triển phần mềm, tôi trực tiếp nghiên cứu AI và hiện thực hóa AI thông qua nhiều dự án và dịch vụ khác nhau. Tôi đặc biệt quan tâm đến các lĩnh vực machine learning·deep learning, LLM·AI tạo sinh, RAG, AI Agent và AutoML; không chỉ dừng lại ở việc học công nghệ, tôi coi trọng quá trình trực tiếp triển khai, thử nghiệm và giải quyết vấn đề.

Dựa trên kinh nghiệm phát triển mô hình AI thực tế, tôi đã tham gia nhiều cuộc thi AI khác nhau và đạt được những thành tích đáng kể. Tại Cuộc thi AI mở K-League–Đại học Seoul năm 2026, tôi giành giải 3 trong số 947 đội; tại Cuộc thi Nghiên cứu AI về Hiểu con người ETRI lần thứ 5, tôi đạt hạng 2 trên Private Leaderboard trong số 409 đội.

Trong lĩnh vực nghiên cứu, tôi cũng không ngừng đạt được những thành quả đáng kể. Nghiên cứu FS-DCM về tính phi dừng và tính biến động của dữ liệu chuỗi thời gian đã được chấp nhận dưới dạng bài báo thuyết trình miệng do tôi làm tác giả chính tại International Conference on Automated Machine Learning (AutoML 2026), đồng thời bài báo MathQueue do tôi làm tác giả chính cũng được chấp nhận tại EMNLP 2026 MathNLP Workshop. Ngoài ra, tôi tiếp tục nghiên cứu với mối quan tâm đến AutoML có khả năng diễn giải sử dụng LLM và việc ứng dụng thực tế các công nghệ AI.

Hiện tại, tôi đang vận hành dịch vụ học AI 출퇴근길AI (https://mdooai.com). Ngoài ra, tôi hoạt động với tư cách Upstage Certified Trainer (Huấn luyện viên AI được Upstage chứng nhận), đồng thời tiến hành đào tạo và cố vấn về AI tạo sinh.

Dựa trên kinh nghiệm thực tế trong lĩnh vực phát triển, kinh nghiệm nghiên cứu AI và kinh nghiệm giảng dạy, tôi cùng suy nghĩ về định hướng học tập thực tế và trải nghiệm dự án phù hợp với từng hoàn cảnh, từ những người mới bắt đầu làm quen với AI đến những người muốn mở rộng kinh nghiệm phát triển sang lĩnh vực AI.

Trong thời gian tới, tôi muốn tiếp tục đóng góp dựa trên những công nghệ và nghiên cứu AI mà bản thân đã trực tiếp trải nghiệm và kiểm chứng, để nhiều người hơn có thể hiểu về AI, tự mình triển khai và ứng dụng hiệu quả vào công việc cũng như các dự án của mình.

Xin cảm ơn.

Thêm

Chương trình giảng dạy

Tất cả

12 bài giảng ∙ (1giờ 31phút)

Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học khác của DEVJH

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Ưu đãi có thời hạn

13 ₫

50%

706.584 ₫