inflearn logo

Phát triển dịch vụ LLM thực tiễn dành cho lập trình viên Spring

Đây là khóa học thực hành về xây dựng hệ thống tìm kiếm tài liệu dựa trên RAG trong môi trường Spring Boot bằng cách sử dụng OpenAI API và Spring AI. Bạn sẽ học từng bước toàn bộ quy trình phát triển AI Assistant, từ các khái niệm về Prompt Engineering, Vector Store và Embedding, đến tạo nguyên mẫu nhanh bằng Dify, tích hợp công cụ MCP, AI đa phương thức và các biện pháp bảo vệ. Khóa học cũng so sánh phương pháp tự triển khai với việc sử dụng các công cụ no-code, giúp bạn nắm được chiến lược áp dụng vào thực tế.

21 học viên đang tham gia khóa học này

Độ khó Cơ bản

Thời gian Không giới hạn

openai
openai
vector-database
vector-database
prompt engineering
prompt engineering
RAG
RAG
Spring AI
Spring AI
openai
openai
vector-database
vector-database
prompt engineering
prompt engineering
RAG
RAG
Spring AI
Spring AI

Bạn sẽ nhận được điều này sau khi học.

  • Kinh nghiệm thực tiễn triển khai ChatClient, đầu ra có cấu trúc và phản hồi trực tuyến với Spring AI

  • Khả năng tự xây dựng trực tiếp một pipeline RAG dựa trên kho vector, từ khâu thiết kế đến chiến lược phân đoạn văn bản.

  • Kinh nghiệm hoàn thiện dịch vụ LLM cấp độ production, từ tích hợp công cụ MCP, xử lý đa phương thức đến áp dụng các guardrail.

  • Cách cấu hình AI Assistant dựa trên Dify Knowledge và tích hợp với Spring Boot

Hoàn thiện dịch vụ LLM với Spring, từ RAG đến môi trường production

Khóa học này hướng đến việc giúp các nhà phát triển Spring Boot có được năng lực phát triển dịch vụ LLM có thể áp dụng ngay trong thực tế. Bắt đầu với cách sử dụng cơ bản ChatClient của Spring AI, đầu ra có cấu trúctriển khai phản hồi dạng streaming, khóa học sẽ lần lượt đi sâu vào xây dựng pipeline RAG (tích hợp kho lưu trữ vector, chiến lược chia nhỏ, cải thiện chất lượng tìm kiếm), tích hợp công cụ bên ngoài bằng MCP, xử lý đầu vào đa phương thức như hình ảnh, tích hợp Dify, và áp dụng guardrail để đảm bảo tính ổn định của dịch vụ. Cuối cùng, bạn sẽ hoàn thiện một sản phẩm dưới dạng dịch vụ thực tế thông qua dự án mini tích hợp những nội dung đã học.

  • Tìm kiếm tài liệu/tri thức nội bộ: Chuyển đổi tài liệu, hướng dẫn và wiki nội bộ thành chatbot có thể tìm kiếm thông qua quy trình RAG

  • Tích hợp AI cho thương mại điện tử/bán lẻ: Cấu hình để LLM trực tiếp gọi các chức năng backend như tra cứu đơn hàng và đề xuất sản phẩm thông qua tích hợp công cụ dựa trên MCP (phản ánh các mẫu hình được sử dụng trong dự án tích hợp MCP thương mại điện tử bán lẻ quy mô lớn thực tế)

  • Dịch vụ AI cho tài chính/doanh nghiệp: Thiết kế kiến trúc dịch vụ AI trong lĩnh vực tài chính, nơi độ tin cậy và tính ổn định của phản hồi rất quan trọng nhờ áp dụng các biện pháp bảo vệ.

  • Xử lý tài liệu đa phương thức: Dịch vụ phân tích đồng thời các tài liệu có chứa hình ảnh (hợp đồng, báo cáo, v.v.)

Đặc điểm của khóa học này

📌 Không chỉ dừng ở việc giải thích lý thuyết, bạn sẽ trực tiếp thực hành với dự án mẫu Spring Boot có thể chạy được.

📌 Chia sẻ nguyên vẹn những vấn đề thực tế có thể gặp phải khi xây dựng pipeline RAG (chiến lược chia nhỏ, chất lượng tìm kiếm suy giảm, v.v.) và quá trình giải quyết chúng

📌 Phản ánh những xu hướng mới nhất của hệ sinh thái như MCP, đa phương thức, tích hợp Dify dưới góc nhìn thực tiễn.

📌 Thông qua dự án mini, trải nghiệm cấu trúc của một dịch vụ hoàn chỉnh thay vì các tính năng riêng lẻ :)

Khóa học này phù hợp với những ai:

Tôi muốn nâng cao trình độ với việc phát triển LLM.
Dành cho những ai có kinh nghiệm về backend Spring nhưng vẫn băn khoăn không biết nên bắt đầu xây dựng dịch vụ LLM từ đâu.

Tôi quan tâm đến việc xây dựng dịch vụ RAG.
Dành cho những người chỉ biết RAG ở mức khái niệm và muốn trực tiếp triển khai để nắm vững nguyên lý.

Tôi muốn tìm hiểu về khóa học phát triển Spring AI.
Những người phụ trách thực tế cần xây dựng tính năng tìm kiếm tài liệu nội bộ, chatbot và trợ lý AI dựa trên Spring.

Sau khi hoàn thành khóa học,

  • Bạn sẽ có thể thiết kế và triển khai dịch vụ LLM của riêng mình bằng cách tận dụng các thành phần cốt lõi trong hệ sinh thái Spring AI. Bạn sẽ nắm được cách kết hợp ChatClient, kho lưu trữ vector, MCP và guardrail để chuyển ý tưởng thành cấu trúc dịch vụ.

  • Bạn sẽ có thể tự chẩn đoán và cải thiện các vấn đề phát sinh trong pipeline RAG. Bạn sẽ phát triển năng lực gỡ lỗi thực tế bằng cách phân tích và khắc phục nguyên nhân khiến chất lượng tìm kiếm giảm sút theo từng yếu tố như chiến lược chia nhỏ, prompt và tham số tìm kiếm vector.

  • Bạn sẽ có thể trực tiếp đảm nhiệm và triển khai công việc chuyển đổi tài liệu nội bộ và hướng dẫn sử dụng thành chatbot có thể tìm kiếm. Bạn sẽ đạt đến trình độ có thể thiết kế hệ thống tìm kiếm tri thức dựa trên RAG từ đầu đến cuối, từ phân tích yêu cầu đến triển khai.

  • Bạn sẽ có thể thiết kế quy trình tích hợp để LLM trực tiếp gọi các chức năng backend (tra cứu, đề xuất, xử lý, v.v.) bằng MCP. Bạn có thể tự mình phác thảo cấu trúc kết nối các API hiện có, chẳng hạn như hệ thống thương mại điện tử và hệ thống nội bộ, vào quy trình làm việc của LLM.

  • Bạn sẽ có thể dẫn dắt kiến trúc ban đầu của các dịch vụ AI cần có guardrail và tiêu chuẩn ổn định (như tài chính, tuân thủ quy định nội bộ, v.v.). Bạn sẽ có thể tham gia thảo luận thiết kế dựa trên tiêu chuẩn của một {{"demo hoạt động được"}} chứ không chỉ là {{"dịch vụ có thể tin tưởng để sử dụng"}}.

Bạn sẽ học những nội dung như sau.

1. Kiến thức nền tảng cốt lõi về Spring AI

  • Cấu trúc cơ bản và phương thức gọi ChatClient, cách xây dựng mẫu prompt

  • Cách ánh xạ an toàn phản hồi của LLM thành đối tượng Java bằng đầu ra có cấu trúc (Structured Output)

  • Triển khai phản hồi streaming — thiết kế backend hỗ trợ giao diện người dùng dạng trò chuyện, trong đó câu trả lời được hiển thị theo thời gian thực

2. Mở rộng công cụ và đa phương thức

  • Tích hợp MCP (Model Context Protocol) để LLM trực tiếp gọi các công cụ bên ngoài (các chức năng backend như tra cứu, xử lý, đề xuất, v.v.)

  • Cấu trúc dịch vụ xử lý đồng thời đầu vào đa phương thức như hình ảnh (bao gồm ví dụ phân tích kết hợp tài liệu và hình ảnh như hợp đồng, báo cáo, v.v.)

  • Cách kết hợp quy trình làm việc no-code với backend Spring thông qua tích hợp với Dify


3. Xây dựng quy trình RAG

  • Thiết kế kiến trúc tích hợp kho lưu trữ vector và lưu trữ/tìm kiếm embedding

  • So sánh chiến lược chia nhỏ tài liệu (theo đơn vị token so với theo đoạn văn) và tiêu chí lựa chọn tùy tình huống — giới thiệu trường hợp thực tế đã gặp phải tình trạng chất lượng tìm kiếm suy giảm và thay đổi chiến lược

  • Cách chẩn đoán và cải thiện các nguyên nhân làm giảm chất lượng tìm kiếm (như làm tổn hại đơn vị ngữ nghĩa, trộn lẫn các chunk có độ liên quan thấp, v.v.)


4. Ổn định hóa dịch vụ và dự án thực tế

  • Cách lọc các câu trả lời sai và đầu vào có thể bị lợi dụng bằng cách áp dụng guardrail

  • Các tiêu chuẩn thiết kế độ ổn định cần thiết trong những lĩnh vực coi trọng độ tin cậy như ngành tài chính ngân hàng

  • Tiến hành một dự án mini tích hợp các yếu tố đã học đến nay (ChatClient, RAG, MCP, đa phương thức, guardrail) thành một thể thống nhất.

Người tạo ra khóa học này

Với suy nghĩ rằng “Kiến thức trong đầu không phải là tri thức”, tôi luôn nỗ lực trình bày những kinh nghiệm và kiến thức ít ỏi mình có theo cách dễ hiểu hơn bằng cách diễn đạt chúng một cách chỉn chu. Tôi tin rằng đây sẽ là một khóa học dễ tiếp thu hơn đối với những người quan tâm đến lĩnh vực LLM và AI, dựa trên nền tảng công nghệ Java và Spring Framework.

  • Dựa trên 26 năm kinh nghiệm giảng dạy, tư vấn và phát triển, tôi tiến hành các bài giảng với phần giải thích giúp học viên hiểu được những kinh nghiệm và bí quyết thực tiễn.

  • Hiện tại với tư cách kiến trúc sư・kỹ sư: Trực tiếp thiết kế và phát triển các hệ thống đồ thị tri thức dựa trên GraphRAG và nền tảng AI doanh nghiệp.

    • 2023 ~ hiện tại: Giám đốc điều hành Công ty NJ1 (TNHH)


    • Hiện là giáo sư thỉnh giảng tại Khoa An ninh Thông tin, Trường Cao học Thông tin Quốc tế, Đại học Dongguk.

    • Trước đây) Chuyên gia tư vấn công nghệ AMJ tại JP Morgan Chase (Nhật Bản)

    • Trước đây) Kỹ sư phụ trách, Bộ phận Kinh doanh CMS, Samsung SDS

  • Thực hiện các dự án AI/LLM trong lĩnh vực tài chính: Đã nhiều lần thực hiện các dự án trong lĩnh vực tài chính liên quan đến AI·LLM, tích lũy kinh nghiệm thực tiễn trong thiết kế và triển khai dịch vụ LLM ở lĩnh vực tài chính, nơi độ tin cậy và tính ổn định đặc biệt quan trọng.

  • Giảng dạy về MSA, cloud native và AI trong nhiều năm: Tôi đang giảng dạy trong các lĩnh vực Spring Boot, Spring Cloud, MSA, Kafka, Blockchain, Machine Learning, Deep Learning và DevOps.

  • Giảng dạy tại doanh nghiệp và thiết kế chương trình học: Tôi đã thiết kế chương trình học và trực tiếp giảng dạy nhiều khóa học cho doanh nghiệp và bootcamp, bao gồm các lĩnh vực như Cloud/MSA/bảo mật/AI. Nguyên tắc của tôi là đưa kinh nghiệm thực hiện dự án thực tế vào bài giảng, thay vì chỉ dừng lại ở lý thuyết.


Bạn có điều gì thắc mắc không?

Q. Không biết gì về AI hay machine learning thì có thể học được không?

A. Có, hoàn toàn có thể. Khóa học này hướng dẫn phát triển dịch vụ LLM từ góc nhìn của một nhà phát triển Spring, đồng thời giải thích các khái niệm liên quan đến AI vào đúng thời điểm cần thiết.

Q. Việc thực hành có phát sinh chi phí không?

A. Việc sử dụng API LLM có thể phát sinh chi phí, đồng thời khóa học cũng hướng dẫn phương pháp thực hành bằng cách sử dụng các mô hình chạy cục bộ (như Ollama). Chi phí API để học toàn bộ khóa học có thể thay đổi tùy theo số lần chạy thực hành, nhưng dự kiến sẽ phát sinh khoảng $1~$2. Trong khóa học, chúng ta sử dụng các mô hình do OpenAI cung cấp.

Q. Nếu lần đầu tiếp cận RAG hoặc MCP thì có thể theo kịp không?

A. Có, khóa học được xây dựng theo từng bước, từ giải thích khái niệm đến thực hành, nên ngay cả khi mới tiếp cận bạn vẫn có thể theo học một cách dễ dàng.

Q. Sau khi hoàn thành khóa học, tôi có thể áp dụng vào dịch vụ thực tế không?

A. Mini project ở phần sau của khóa học phản ánh cấu trúc dịch vụ thực tế, vì vậy bạn có thể áp dụng ngay vào các dự án nội bộ hoặc dịch vụ cá nhân.

Lưu ý trước khi tham gia khóa học

Môi trường thực hành

  • Khóa học được hướng dẫn dựa trên MacOS (theo phiên bản Sequoia 15.7.4), tuy nhiên những bạn sử dụng hệ điều hành Windows cũng có thể dễ dàng làm theo.

  • Trong khóa học, phần thực hành được tiến hành bằng IntelliJ IDEA và Postman, dựa trên OpenJDK 21+.

  • Sử dụng Maven hoặc Gradle làm công cụ build.

  • Để thực hành PGVector, cần cài đặt Docker Desktop để chạy container Docker.

  • Sử dụng Postman để kiểm thử API đã triển khai và trực tiếp gọi, xác nhận các phản hồi dạng streaming cùng những nội dung khác.

Tài liệu học tập

  • Cung cấp tài liệu slide theo từng phần (bằng tiếng Hàn) (tệp PDF)

  • Cung cấp dự án mẫu Spring Boot có thể chạy được (cung cấp repository Github)

Kiến thức nền tảng và lưu ý

  • Cần có kinh nghiệm sử dụng Spring Boot cơ bản (hiểu về REST API)

  • Không cần có kiến thức nền tảng về AI/LLM

  • Có thể cần API key của LLM (hoặc môi trường chạy mô hình cục bộ) để thực hành (chúng tôi sẽ giải thích chi tiết trong ví dụ thực hành)

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Lập trình viên backend có kinh nghiệm với Spring Boot nhưng lần đầu phát triển dịch vụ LLM/AI

  • Nhà phát triển muốn áp dụng RAG, tìm kiếm vector, v.v. vào các dự án thực tế thay vì chỉ dừng ở cấp độ hướng dẫn.

  • Nhà hoạch định dịch vụ AI muốn hiểu công nghệ RAG và LLM thông qua thực hành.

  • Nhân viên thực tế cần trực tiếp triển khai các tính năng AI nội bộ (chatbot, tìm kiếm tài liệu, đề xuất, v.v.) dựa trên Spring

Cần biết trước khi bắt đầu?

  • Hiểu cú pháp cơ bản của Spring Boot và khái niệm REST API

  • Kiến thức cơ bản về lập trình Java và hiểu biết về các khái niệm lập trình hướng đối tượng

  • Hiểu biết cơ bản về giao tiếp HTTP và xử lý dữ liệu JSON

Xin chào
Đây là Dowon Lee

Xác minh Inflearn

30,934

Học viên

1,757

Đánh giá

1,381

Trả lời

4.8

Xếp hạng

9

Các khóa học

Tôi là kỹ sư IT. Đã có lúc tôi băn khoăn không biết nên chọn từ nào trong mục nghề nghiệp: "nhân viên công ty?", "lập trình viên?" hay "giảng viên?" Sau đó, tôi nghĩ rằng cách gọi kỹ sư IT là tên nghề phù hợp với mình, nên cho đến nay trong mục nghề nghiệp tôi vẫn ghi là "kỹ sư IT".

Nghề nghiệp là điều thể hiện công việc của bản thân, còn công việc thì tôi luôn nghĩ rằng sẽ tốt biết bao nếu đó là một việc thú vị và có ích. Không phải ai cũng có thể sống bằng công việc mình mong muốn, nhưng tôi là người yêu thích công việc mình đang làm và muốn làm thật tốt. Trong thời gian đảm nhiệm vai trò của một nhà phát triển, giảng viên và tư vấn viên, tôi luôn phải tất bật chạy theo những công nghệ IT mới liên tục được ra mắt và thay đổi, nhưng dù vậy, tôi vẫn là một trong những người muốn được tiếp cận, truyền bá và sử dụng chúng dù chỉ sớm hơn người khác một chút.

Lĩnh vực tôi gần đây quan tâm là tư vấn đào tạo trực tuyến. Những công nghệ tôi quan tâm gồm Cloud Native Architecture, Blockchain, Machine Learning, Kafka, Kuberbetes, v.v. Tôi cũng đang trực tiếp giảng dạy các công nghệ này và áp dụng chúng vào công việc. Tuy nhiên, vì đây là những chủ đề vô cùng rộng lớn nên đến nay tôi vẫn không ngừng học hỏi.

Người ta nói rằng những gì chỉ được lưu giữ trong đầu chưa phải là kiến thức thực sự. Tôi muốn chia sẻ kiến thức và kinh nghiệm mình có bằng nhiều phương thức khác nhau. Và tôi sẽ trở thành một kỹ sư CNTT không ngừng thử thách bản thân trong những lĩnh vực mới và với những công nghệ mới.

 

 

  • Hiện) CEO Công ty NJ One .

  • Hiện tại) Giáo sư đặc cách tại Khoa An ninh Thông tin, Trường Sau đại học Thông tin Quốc tế, Đại học Dongguk

  • Cựu) Chuyên gia tư vấn công nghệ AMJ của JP Morgan Chase (Nhật Bản)

  • Cựu) Kỹ sư phụ trách, Bộ phận kinh doanh CMS, Samsung SDS

 

 

Thêm

Chương trình giảng dạy

Tất cả

124 bài giảng ∙ (19giờ 38phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Chưa có đủ đánh giá.
Hãy trở thành tác giả của một đánh giá giúp mọi người!

Khóa học khác của Dowon Lee

Hãy khám phá các khóa học khác của giảng viên!

Khóa học tương tự

Khám phá các khóa học khác trong cùng lĩnh vực!

Ưu đãi có thời hạn

413.134 ₫

69%

1.357.439 ₫