Từ cơ bản về Spring AI mới nhất cho đến MCP

Từ cơ bản về Spring AI mới nhất đến MCP

Khóa học này là quy trình phát triển ứng dụng AI dành cho doanh nghiệp sử dụng Spring AI,
được thiết kế để bạn có thể học hỏi các kỹ thuật triển khai dịch vụ AI tập trung vào thực tiễn như Mô hình ngôn ngữ lớn (LLM), kỹ thuật Prompt, RAG (Retrieval-Augmented Generation), Tool/Function Calling.

Khóa học này được thiết kế chủ yếu dành cho các nhà phát triển backend dựa trên Spring Boot,
đồng thời đề cập đến cách tích hợp tự nhiên các chức năng AI
trong khi vẫn duy trì các điểm mạnh của hệ sinh thái Spring như DI, quản lý Bean, kiến trúc module hóa.

Nội dung bài giảng bao gồm các phần sau đây.

• Hiểu về kiến trúc và các khái niệm cốt lõi của Spring AI

• Thực hành cấu trúc ChatClient, Prompt, Advisor và Memory

• Liên kết LLM (OpenAI, v.v.) và chiến lược thiết kế prompt

• Multimodality API – Hình ảnh & Thị giác, Âm thanh và Giọng nói

• Triển khai hệ thống RAG sử dụng Vector Store

• Sử dụng Tool / Function Calling và MCP (Model Context Protocol)

• Thiết kế và kiểm thử dịch vụ AI dựa trên Spring Boot (bao gồm kiểm thử dựa trên Mockito)

• Chiến lược mở rộng và bảo trì cân nhắc đến môi trường doanh nghiệp

Sau khi hoàn thành khóa học,
vượt qua cấp độ gọi AI API đơn giản,
bạn sẽ sở hữu năng lực trực tiếp thiết kế và triển khai hệ thống AI ổn định, có khả năng mở rộng dựa trên Spring.
Thông qua đó, bạn có thể đạt được khả năng phát triển AI Backend có thể áp dụng ngay vào thực tế công việc như triển khai AI trong doanh nghiệp, hệ thống tìm kiếm tri thức nội bộ, chatbot AI, dịch vụ tự động hóa quy trình, v.v.

Bạn sẽ được học những nội dung này

1⃣ Thiết lập môi trường phát triển Spring AI trong SpringBoot

Thiết lập phát triển SpringBoot và thiết lập môi trường để tiến hành khóa học Spring AI

Tạo Project và thiết lập giáo án để tiến hành đào tạo

Giáo trình được đính kèm cùng với dự án thực hành, vì vậy bạn luôn có thể tham khảo nội dung giáo trình trong quá trình thực hành.

1. Giải thích môi trường phát triển và nội dung bài học

2. Môi trường học tập và Cài đặt giáo án

3. Cấp khóa Open AI Key

4. Cấp khóa Gemini

5. Cài đặt Spring AI

6. Cài đặt PostgreSQL

7. Spring AI là gì

2⃣ Chương 1. Chat Completion

Cho phép tích hợp tính năng hoàn thành hội thoại dựa trên AI vào ứng dụng. Sử dụng các mô hình ngôn ngữ được đào tạo trước như GPT (Generative Pre-trained Transformer) để diễn giải đầu vào của người dùng và tạo ra phản hồi bằng ngôn ngữ tự nhiên, sau đó cho phép ứng dụng xử lý chúng. Việc xử lý phản hồi được chia thành phương thức Non-Streaming và Streaming để phát triển.

1. Chat (Zero-Shot Prompting): Zero-Shot Prompting là phương thức mà LLM tạo ra phản hồi chỉ dựa trên Prompt do người dùng cung cấp.

2. Chat Stream: Phương thức truyền phát dựa trên Reactive Streams (Project Reactor)

3. Chat (Few-Shot Prompting): Phương pháp đưa nhiều ví dụ (cặp Input/Output) vào Prompt để mô hình thực hiện một tác vụ cụ thể chính xác hơn

4. Chat (Chain-of-Thought Prompting): Phương pháp Prompting thúc đẩy LLM tự triển khai các bước suy luận trung gian trong quá trình giải quyết vấn đề

5. Chat Memory: Tính năng lưu trữ ngữ cảnh hội thoại với LLM vào bộ nhớ và tải lại khi có các yêu cầu tiếp theo, cho phép thực hiện cuộc hội thoại dựa trên ngữ cảnh một cách liên tục và tự nhiên

3⃣ Chương 2. Prompt Template & Structured Output Converter

Prompt Template & Structured Output Converter được sử dụng để điều hướng mô hình AI tạo ra kết quả cho các mục đích cụ thể. Cách cấu trúc và chất lượng thiết kế của Prompt có ảnh hưởng lớn đến độ chính xác, tính nhất quán và khả năng ứng dụng của phản hồi từ mô hình. Trong chương này, chúng ta sẽ tìm hiểu về cách sử dụng các Prompt Template đa dạng.

1. Prompt Template: Tính năng tạo động các chuỗi câu lệnh (Prompt String) có cấu trúc dựa trên các câu ngôn ngữ tự nhiên, lệnh đơn giản, tham số, v.v. do người dùng nhập vào.

2. ListOutputConverter: Output Converter dùng để phân tích cú pháp thành List của Java hoặc các kiểu List khác

3. MapOutputConverter: Converter chuyển đổi sang định dạng Map của Java

4. BeanOutputConverter: Converter chuyển đổi thành đối tượng Java Bean được chỉ định

5. ParameterizedType: Phân tích các kiểu dữ liệu phức tạp như List, Map>

4⃣Chương 3. Advisor API

Advisors API là một khung làm việc (framework) được thiết kế để cho phép đánh chặn, chuyển đổi và bổ sung các tương tác với mô hình AI bên trong ứng dụng. Thông qua đó, chúng ta sẽ đóng gói các logic xử lý AI tạo sinh phổ biến, kiểm soát luồng đầu vào/đầu ra một cách tinh vi và tạo ra các thành phần AI có thể tái sử dụng.

1. Advisor: Giao tiếp với LLM bằng cách sử dụng các Advisor khác nhau

2. Advisor: Stream: Giao tiếp với LLM bằng cách sử dụng nhiều Advisor khác nhau thông qua Reactive Streams

3. Recursive Advisors: Gọi LLM một cách đệ quy hoặc lặp lại cho đến khi đáp ứng các điều kiện cụ thể

5⃣ Chương 4. Multimodality API – Hình ảnh & Thị giác máy tính

Mô hình ngôn ngữ lớn đa phương thức (MLLM: Multimodal Large Language Model) cho phép tiếp nhận đồng thời nhiều loại dữ liệu khác nhau như hình ảnh, âm thanh, video bên cạnh văn bản, từ đó phân tích tổng hợp để tạo ra các phản hồi dựa trên văn bản chất lượng cao. Trong chương này, chúng ta sẽ tìm hiểu về phân tích hình ảnh và tạo hình ảnh.

1. Generate Image for URL: Tạo URL hình ảnh dựa trên Prompt mà người dùng nhập vào

2. Generate Image: Tạo tệp hình ảnh dựa trên Prompt mà người dùng nhập vào

3. Phân tích hình ảnh: Phân tích nội dung, tình huống, các yếu tố trong hình ảnh và các nhận diện dựa trên thị giác khác

4. Video Analysis: Phân tích các khung hình cụ thể của video

6⃣ Chương 5. Multimodality API – Âm thanh và Giọng nói

Mô hình ngôn ngữ lớn đa phương thức (MLLM: Multimodal Large Language Model) cho phép tiếp nhận đồng thời nhiều loại dữ liệu khác nhau như hình ảnh, âm thanh, video bên cạnh văn bản, từ đó phân tích tổng hợp để tạo ra các phản hồi dựa trên văn bản chất lượng cao. Trong chương này, chúng ta sẽ cùng tìm hiểu về phân tích âm thanh và tạo âm thanh.

1. Text to Speech: Chuyển đổi văn bản do người dùng nhập thành dữ liệu âm thanh (Audio)

2. Text to Speech: Chat: Gửi văn bản nhập của người dùng đến LLM để tạo câu trả lời bằng giọng nói

3. Text to Speech: Stream: Chuyển văn bản người dùng nhập đến LLM để tạo câu trả lời bằng giọng nói theo thời gian thực

4. Speech to Text: Chuyển đổi đầu vào giọng nói (Audio) của người dùng thành văn bản

5. Speech to Text: Chat: Chuyển đổi đầu vào giọng nói (Audio) của người dùng thành văn bản rồi tạo câu trả lời

6. Speech to Text: Chat Voice: Chuyển đổi đầu vào giọng nói (Audio) của người dùng thành văn bản, sau đó tạo câu trả lời bằng giọng nói

7⃣ Chương 6. Gọi công cụ (Tool Calling)

Gọi công cụ (Tool Calling), hoặc Gọi hàm (Function Calling) cho phép các mô hình AI tương tác với các API bên ngoài hoặc các công cụ phần mềm để mở rộng chức năng. Thông qua đó, chúng ta sẽ tạo ra một môi trường nơi mô hình có thể tự động hóa nhiều tác vụ khác nhau như thực hiện chức năng thực tế, tìm kiếm dữ liệu và điều khiển hệ thống, vượt xa các phản hồi bằng văn bản đơn thuần.

1. Ngày giờ

DateTimeTools: Tạo dữ liệu thời gian hiện tại.

CurrentWeatherTools: Tạo dữ liệu thời tiết hiện tại dựa trên kinh độ và vĩ độ.

ForecastWeatherTools: Tạo thông tin dự báo thời tiết dựa trên kinh độ và vĩ độ.

2. Customer Inquiry: Truy vấn thông tin khách hàng bằng cách sử dụng Tool kết hợp với LLM.

CustomerTools: Trả về thông tin khách hàng dưới định dạng JSON dựa trên kiểu đối tượng Customer.

CustomerStringTools: Trả về thông tin khách hàng dưới dạng String dựa trên kiểu đối tượng Customer.

CustomerToolCallResultConverter: Chuyển đổi dữ liệu được tạo ra từ Tool sang định dạng JSON hoặc String.

3. Recommendation: Đây là hệ thống gợi ý sản phẩm dựa trên danh sách mua hàng của khách hàng theo một ID cụ thể bằng cách sử dụng ToolContext.

4. Access System: Đây là hệ thống nhận diện thẻ nhân viên thông qua camera và cho phép ra vào dựa trên mã số ID có trên thẻ.

8⃣ Chương 7. Mô hình Embedding

Embedding là kỹ thuật chuyển đổi các dữ liệu như văn bản, hình ảnh, video sang dạng vectơ dựa trên ý nghĩa (mảng số thực dấu phẩy động) để biểu thị mối quan hệ và sự tương đồng về ngữ nghĩa giữa các đầu vào bằng số liệu. Độ dài của mảng vectơ này được gọi là chiều vectơ (Vector Dimension).

Chúng ta sẽ tìm hiểu kiến thức nền tảng để có thể tự xây dựng kiến trúc RAG (Retrieval Augmented Generation) sử dụng Embedding với Spring AI, hoặc sử dụng luồng RAG mặc định do Spring cung cấp.

1. Text Embedding: Đây là phương thức chuyển đổi dữ liệu văn bản thành các vectơ cao chiều (Vector Representation) thông qua mô hình Embedding, lưu trữ các vectơ đã chuyển đổi vào Vector Store, sau đó thực hiện Embedding câu hỏi của người dùng để truy vấn các tài liệu liên quan bằng tìm kiếm tương đồng (Semantic Search).

2. Hotel Data Embedding: Nhúng (Embedding) dữ liệu đa trường liên quan đến khách sạn như tên khách sạn, vị trí, tiện nghi, giá cả, đánh giá, v.v. rồi lưu trữ vào Vector Store, sau đó thực hiện tìm kiếm theo yêu cầu của người dùng.

3. Chat Memory PGvector: Lưu trữ lịch sử trò chuyện của LLM vào PGVector (PostgreSQL Vector Extension) bằng cách Embedding trong thời gian thực

4. Chat Memory JDBC: Đây là phương thức lưu trữ luồng hội thoại của LLM dựa trên cơ sở dữ liệu quan hệ (JDBC).

9⃣ Chương 8. RAG (Retrieval-Augmented Generation)

RAG là một công nghệ được thiết kế để khắc phục những hạn chế của các mô hình ngôn ngữ lớn (LLM) trong việc xử lý văn bản dài, độ chính xác thực tế và nhận biết kiến thức bên ngoài, bằng cách kết hợp dữ liệu liên quan đã được truy xuất vào câu lệnh (prompt) để tạo ra các phản hồi chính xác và đáng tin cậy hơn.

1. ETL Pipeline: Xử lý các tệp do người dùng tải lên (TXT, PDF, DOC, v.v.) để lưu trữ/xóa trong Vector Store

2. RAG Chat: Trò chuyện với LLM dựa trên dữ liệu được lưu trữ trong Vector Store

3. RAG Chat: template: Áp dụng PromptTemplate vào tính năng RAG Chat

4. Retrieval Augmentation Advisor: Hỗ trợ LLM tiếp tục cuộc hội thoại một cách linh hoạt ngay cả khi không có kết quả tìm kiếm chính xác trong Vector Store

5. Compression Query Transformer: Nén lịch sử trò chuyện và các câu hỏi tiếp theo để cấu trúc lại thành một truy vấn độc lập nắm bắt được cốt lõi của cuộc hội thoại

6. Rewrite Query Transformer: Khi câu hỏi của người dùng dài dòng hoặc mơ hồ, viết lại câu hỏi một cách rõ ràng.

7. Translation Query Transformer: Dịch câu hỏi của người dùng sang một ngôn ngữ cụ thể để hỗ trợ hội thoại đa ngôn ngữ.

8. Multi Query Expander: Tạo ra các biến thể khác nhau (Query Expansion) từ câu hỏi của người dùng để hội thoại

🔟 Chương 9. MCP (Giao thức ngữ cảnh mô hình)

Model Context Protocol(MCP) là một giao thức tiêu chuẩn hóa cho phép các mô hình AI tương tác với các công cụ, dữ liệu và tài nguyên bên ngoài theo một cách có cấu trúc. Thông qua đó, chúng ta sẽ cùng phát triển một hệ thống AI tích hợp kết nối mô hình với thế giới thực (cơ sở dữ liệu, API, hệ thống tệp, v.v.).

1. MCP Chat: Tính năng hỗ trợ trò chuyện với LLM thông qua việc liên kết với nhiều máy chủ MCP khác nhau

• Standard Input/Output (STDIO) MCP Server: Dự báo thời tiết

• SSE WebMVC MCP Server: Thời tiết hiện tại

• SSE WebFlux MCP Server: Thời gian hiện tại

  
  

2. MCP Access: Hệ thống cấp phép ra vào dựa trên mã số ID sau khi nhận diện thẻ nhân viên qua camera
Cấu hình đồng thời Tool Calling và MCP Server

• SSE WebFlux MCP Server: So sánh mã số nhân viên của nhân viên với tất cả mã số nhân viên khác (chuyển đổi sang phương thức Tool Calling)

• SSE WebMVC MCP Server: Kiểm soát cửa ra vào dựa trên việc mã số nhân viên có khớp hay không

🅰️ Chương 10. React

Chuyển đổi SpringBoot MVC sang React

Cấu trúc Frontend

• React 19.2.0 + TypeScript

• Vite (Công cụ build)

• React Router 7.10.1

• Axios / Fetch API (Giao tiếp API)

  
  

  

  
  

Lưu ý trước khi tham gia khóa học