inflearn logo

Phát triển dịch vụ LLM thực tiễn dành cho lập trình viên Spring

Đây là khóa học thực hành xây dựng hệ thống tìm kiếm tài liệu dựa trên RAG trong môi trường Spring Boot, sử dụng OpenAI API và Spring AI. Từ các khái niệm về Prompt Engineering, Vector Store và Embedding đến tạo mẫu nhanh bằng Dify, tích hợp công cụ MCP, đa phương thức và guardrail, bạn sẽ học toàn bộ quy trình phát triển AI Assistant theo từng bước. Bạn cũng có thể so sánh phương pháp tự triển khai với cách sử dụng các công cụ no-code để nắm được chiến lược áp dụng vào thực tế. 🆕 [Cập nhật] Phần 4 đã được bổ sung bài giảng chuyên đề (1 giờ) về mô hình ra quyết định Jev của TypeSafe, qua đó hướng dẫn cả cách thiết kế logic phán đoán của agent một cách sâu hơn.

(5.0) 6 đánh giá

794 học viên

Độ khó Cơ bản

Thời gian Không giới hạn

openai
openai
vector-database
vector-database
prompt engineering
prompt engineering
RAG
RAG
Spring AI
Spring AI
openai
openai
vector-database
vector-database
prompt engineering
prompt engineering
RAG
RAG
Spring AI
Spring AI

Bạn sẽ nhận được điều này sau khi học.

  • Kinh nghiệm thực tiễn triển khai ChatClient, đầu ra có cấu trúc và phản hồi trực tuyến với Spring AI

  • Khả năng tự xây dựng trực tiếp một pipeline RAG dựa trên kho vector, từ khâu thiết kế đến chiến lược phân đoạn văn bản.

  • Kinh nghiệm hoàn thiện dịch vụ LLM cấp độ production, từ tích hợp công cụ MCP, xử lý đa phương thức đến áp dụng các guardrail.

  • Cách cấu hình AI Assistant dựa trên Dify Knowledge và tích hợp với Spring Boot

Hoàn thiện dịch vụ LLM với Spring, từ RAG đến production và mô hình ra quyết định Jev

Khóa học này nhằm mục tiêu trang bị cho các nhà phát triển Spring Boot năng lực phát triển dịch vụ LLM có thể áp dụng ngay vào công việc thực tế. Bắt đầu với cách sử dụng cơ bản ChatClient của Spring AI, đầu ra có cấu trúc và triển khai phản hồi dạng streaming, khóa học sẽ lần lượt đi sâu vào xây dựng pipeline RAG (tích hợp kho vector, chiến lược chia đoạn, cải thiện chất lượng tìm kiếm), tích hợp các công cụ bên ngoài bằng MCP, xử lý đầu vào đa phương thức như hình ảnh, tích hợp Dify và áp dụng các guardrail nhằm đảm bảo tính ổn định của dịch vụ. Cuối cùng, bạn sẽ hoàn thiện một sản phẩm có hình thức như dịch vụ thực tế thông qua dự án mini tích hợp những kiến thức đã học.

  • Tìm kiếm tài liệu/tri thức nội bộ: Chuyển đổi tài liệu, sổ tay và wiki nội bộ thành chatbot có thể tìm kiếm bằng quy trình RAG

  • Tích hợp AI cho thương mại điện tử/bán lẻ: Cấu hình để LLM trực tiếp gọi các chức năng backend như tra cứu đơn hàng và đề xuất sản phẩm thông qua tích hợp công cụ dựa trên MCP (phản ánh các mẫu hình được sử dụng trong dự án tích hợp MCP thương mại điện tử bán lẻ quy mô lớn thực tế)

  • Dịch vụ AI trong lĩnh vực tài chính/doanh nghiệp: Thiết kế cấu trúc dịch vụ AI trong lĩnh vực tài chính, nơi độ tin cậy và tính ổn định của phản hồi rất quan trọng, bằng cách áp dụng các guardrail.

  • Xử lý tài liệu đa phương thức: Dịch vụ phân tích đồng thời các tài liệu có chứa hình ảnh (hợp đồng, báo cáo, v.v.)

Đặc điểm của khóa học này

📌 Không chỉ dừng lại ở phần giải thích lý thuyết, bạn sẽ trực tiếp thực hành với dự án ví dụ Spring Boot có thể chạy được.

📌 Chia sẻ nguyên vẹn những vấn đề thực tế có thể gặp phải khi xây dựng pipeline RAG (chiến lược chia nhỏ, chất lượng tìm kiếm suy giảm, v.v.) và quá trình giải quyết chúng

📌 Phản ánh các xu hướng mới nhất của hệ sinh thái từ góc độ thực tiễn, chẳng hạn như tích hợp MCP, đa phương thức và Dify

📌 Trải nghiệm cấu trúc một dịch vụ hoàn chỉnh thay vì các tính năng riêng lẻ thông qua dự án mini :)

Khóa học này phù hợp với những người sau đây congười 日博

Tôi muốn nâng cao trình độ thông qua phát triển LLM.
Dành cho những ai có kinh nghiệm với backend Spring nhưng chưa biết nên bắt đầu phát triển dịch vụ LLM từ đâu.

Tôi quan tâm đến việc xây dựng dịch vụ RAG.
Dành cho những ai chỉ biết RAG ở mức khái niệm và muốn trực tiếp triển khai để nắm vững nguyên lý.

Tôi muốn tìm hiểu về khóa học phát triển Spring AI.
Những người phụ trách công việc thực tế cần xây dựng chức năng tìm kiếm tài liệu nội bộ, chatbot và trợ lý AI trên nền tảng Spring.

Sau khi hoàn thành khóa học,

  • Bạn sẽ có thể thiết kế và triển khai dịch vụ LLM của riêng mình bằng cách tận dụng các thành phần cốt lõi trong hệ sinh thái Spring AI. Bạn sẽ phát triển khả năng chuyển ý tưởng thành cấu trúc dịch vụ bằng cách kết hợp ChatClient, kho lưu trữ vector, MCP và các guardrail.

  • Bạn sẽ có thể tự chẩn đoán và cải thiện các vấn đề phát sinh trong quy trình RAG. Bạn sẽ có năng lực gỡ lỗi thực tế để phân tích và khắc phục nguyên nhân khiến chất lượng tìm kiếm giảm sút theo từng yếu tố như chiến lược chia nhỏ, prompt và tham số tìm kiếm vector.

  • Bạn sẽ có thể trực tiếp đảm nhận và triển khai việc chuyển đổi tài liệu nội bộ và hướng dẫn sử dụng thành chatbot có thể tìm kiếm. Bạn sẽ đạt đến trình độ có thể thiết kế hệ thống tìm kiếm tri thức dựa trên RAG từ đầu đến cuối, từ phân tích yêu cầu đến triển khai.

  • Bạn sẽ có thể thiết kế quy trình tích hợp để LLM trực tiếp gọi các chức năng backend (tra cứu, đề xuất, xử lý, v.v.) bằng MCP. Bạn có thể tự mình phác thảo cấu trúc kết nối các API hiện có như thương mại điện tử, hệ thống nội bộ, v.v. vào quy trình làm việc của LLM.

  • Bạn sẽ có thể dẫn dắt kiến trúc ban đầu của các dịch vụ AI cần tiêu chuẩn về guardrail và tính ổn định (tài chính, tuân thủ quy định nội bộ, v.v.). Bạn sẽ có thể tham gia thảo luận thiết kế dựa trên tiêu chuẩn của một “dịch vụ có thể tin cậy để sử dụng”, chứ không chỉ là một “bản demo hoạt động”.

Bạn sẽ học những nội dung như sau.

1. Kiến thức nền tảng cốt lõi về Spring AI

  • Cấu trúc cơ bản và cách gọi ChatClient, xây dựng mẫu prompt

  • Cách ánh xạ an toàn phản hồi của LLM sang đối tượng Java bằng đầu ra có cấu trúc (Structured Output)

  • Triển khai phản hồi dạng streaming — thiết kế backend hỗ trợ giao diện trò chuyện hiển thị câu trả lời theo thời gian thực

2. Mở rộng công cụ và đa phương thức

  • Tích hợp MCP (Model Context Protocol) để LLM trực tiếp gọi các công cụ bên ngoài (các chức năng backend như tra cứu, xử lý, đề xuất, v.v.)

  • Cấu trúc dịch vụ xử lý đồng thời các đầu vào đa phương thức như hình ảnh (bao gồm ví dụ phân tích kết hợp tài liệu và hình ảnh như hợp đồng, báo cáo)

  • Cách kết hợp quy trình làm việc no-code với backend Spring thông qua việc tích hợp với Dify

  • [Bài giảng bổ sung] Thiết kế logic phán đoán của agent bằng mô hình ra quyết định TypeSafe Jev


3. Xây dựng pipeline RAG

  • Thiết kế cấu trúc tích hợp kho vector và lưu trữ/tìm kiếm embedding

  • So sánh các chiến lược chia nhỏ tài liệu (theo token vs theo đoạn văn) và tiêu chí lựa chọn tùy tình huống — giới thiệu trường hợp thực tế đã gặp phải tình trạng chất lượng tìm kiếm suy giảm và thay đổi chiến lược

  • Chẩn đoán và cải thiện các nguyên nhân làm giảm chất lượng tìm kiếm (làm tổn hại đơn vị ngữ nghĩa, trộn lẫn các chunk có độ liên quan thấp, v.v.)


4. Ổn định hóa dịch vụ và dự án thực tế

  • Cách lọc các câu trả lời sai và những đầu vào có thể bị lạm dụng bằng cách áp dụng guardrail

  • Tiêu chuẩn thiết kế tính ổn định cần thiết trong các lĩnh vực coi trọng độ tin cậy như ngành tài chính ngân hàng

  • Tiến hành một dự án mini tích hợp tất cả các thành phần đã học đến nay (ChatClient, RAG, MCP, đa phương thức, guardrail) thành một thể thống nhất

Người tạo ra khóa học này

Với suy nghĩ rằng “Kiến thức trong đầu không phải là kiến thức”, tôi cố gắng chắt lọc những kinh nghiệm và kiến thức nhỏ bé mình có, đồng thời giải thích sao cho dễ hiểu hơn. Tôi nghĩ đây sẽ là một khóa học dễ tiếp thu hơn đối với những người quan tâm đến lĩnh vực LLM và AI dựa trên các công nghệ Java và Spring Framework.

  • Dựa trên 26 năm kinh nghiệm giảng dạy, tư vấn và phát triển, tôi tiến hành các bài giảng với cách giải thích giúp học viên hiểu được những kinh nghiệm và bí quyết thực tế.

  • Hiện tại với tư cách kiến trúc sư・kỹ sư: Trực tiếp thiết kế và phát triển hệ thống đồ thị tri thức dựa trên GraphRAG và nền tảng AI doanh nghiệp.

    • 2023 ~ hiện tại: Giám đốc Công ty NJ One (주)엔제이원컴퍼니


    • Hiện tại) Giáo sư đặc cách, Khoa Bảo mật thông tin, Trường Cao học Quốc tế về Thông tin, Đại học Dongguk

    • Cựu tư vấn công nghệ AMJ tại JP Morgan Chase (Nhật Bản)

    • Trước đây) Kỹ sư phụ trách, Bộ phận Kinh doanh CMS, Samsung SDS

  • Triển khai các dự án AI/LLM trong lĩnh vực tài chính: Đã nhiều lần thực hiện các dự án liên quan đến AI·LLM trong lĩnh vực tài chính, tích lũy kinh nghiệm thực tiễn trong việc thiết kế và triển khai dịch vụ LLM ở lĩnh vực tài chính, nơi độ tin cậy và tính ổn định đặc biệt quan trọng.

  • Giảng dạy MSA, cloud native và AI trong nhiều năm: Tôi đang giảng dạy về Spring Boot, Spring Cloud, MSA, Kafka, Blockchain, Machine Learning và Deep Learning, DevOps.

  • Đào tạo doanh nghiệp và thiết kế chương trình học: Tôi đã thiết kế chương trình học và trực tiếp giảng dạy cho nhiều doanh nghiệp và bootcamp trong các lĩnh vực như Cloud/MSA/Bảo mật/AI, đồng thời luôn lấy việc đưa kinh nghiệm thực hiện dự án thực tế vào bài giảng, thay vì chỉ dừng lại ở lý thuyết, làm nguyên tắc giảng dạy.


Bạn có điều gì thắc mắc không?

Q. Tôi hoàn toàn không biết gì về AI hay máy học thì có thể học khóa này không?

A. Vâng, hoàn toàn có thể. Khóa học này đề cập đến việc phát triển dịch vụ LLM dưới góc nhìn của một nhà phát triển Spring, đồng thời giải thích các khái niệm liên quan đến AI vào những thời điểm cần thiết.

Hỏi: Việc thực hành có phát sinh chi phí không?

A. Chi phí có thể phát sinh tùy theo việc sử dụng API LLM, đồng thời khóa học cũng hướng dẫn phương pháp thực hành bằng cách sử dụng các mô hình chạy cục bộ (như Ollama). Để học toàn bộ khóa học, chi phí API có thể thay đổi tùy theo số lần thực hành, nhưng dự kiến sẽ phát sinh khoảng $1~$2. Trong khóa học, chúng tôi sử dụng các mô hình do OpenAI cung cấp.

Q. Ngay cả khi lần đầu tiếp cận RAG hoặc MCP, tôi có thể theo kịp không?

A. Vâng, khóa học được thiết kế theo từng bước, từ giải thích khái niệm đến thực hành, nên ngay cả người mới làm quen cũng có thể theo học mà không gặp khó khăn.

Q. Sau khi hoàn thành khóa học, tôi có thể áp dụng vào dịch vụ thực tế không?

A. Dự án mini ở phần sau của khóa học phản ánh cấu trúc của một dịch vụ thực tế, nên bạn có thể áp dụng ngay cho các dự án nội bộ hoặc dịch vụ cá nhân.

Q. Khóa học có được cập nhật thường xuyên không?

A. Có. Ví dụ, trong phần 4 đã bổ sung một bài giảng thêm dài 1 giờ về mô hình ra quyết định Jev của TypeSafe.

Lưu ý trước khi tham gia khóa học

Môi trường thực hành

  • Khóa học được hướng dẫn dựa trên MacOS (phiên bản Sequoia 15.7.4), tuy nhiên những người sử dụng hệ điều hành Windows cũng có thể dễ dàng làm theo.

  • Trong khóa học, phần thực hành được tiến hành bằng IntelliJ IDEA và Postman, dựa trên OpenJDK 21+.

  • Sử dụng Maven hoặc Gradle làm công cụ build.

  • Để thực hành PGVector, cần cài đặt Docker Desktop để chạy container Docker.

  • Sử dụng Postman để kiểm thử API đã triển khai và trực tiếp gọi để xác nhận các phản hồi dạng streaming, v.v.

Tài liệu học tập

  • Cung cấp tài liệu slide theo từng phần (tệp PDF)

  • Cung cấp dự án ví dụ Spring Boot có thể chạy được (công khai Github repo trong tài liệu khóa học)

Kiến thức nền tảng và lưu ý

  • Cần có kinh nghiệm cơ bản trong việc sử dụng Spring Boot (hiểu về REST API)

  • Không cần có kiến thức nền tảng về AI/LLM

  • Có thể cần khóa API LLM (hoặc môi trường chạy mô hình cục bộ) để thực hành (chúng tôi sẽ giải thích chi tiết trong các ví dụ thực hành)

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Lập trình viên backend có kinh nghiệm với Spring Boot nhưng lần đầu phát triển dịch vụ LLM/AI

  • Nhà phát triển muốn áp dụng RAG, tìm kiếm vector, v.v. vào các dự án thực tế thay vì chỉ dừng ở cấp độ hướng dẫn.

  • Nhà hoạch định dịch vụ AI muốn hiểu công nghệ RAG và LLM thông qua thực hành.

  • Nhân viên thực tế cần trực tiếp triển khai các tính năng AI nội bộ (chatbot, tìm kiếm tài liệu, đề xuất, v.v.) dựa trên Spring

Cần biết trước khi bắt đầu?

  • Hiểu cú pháp cơ bản của Spring Boot và khái niệm REST API

  • Kiến thức cơ bản về lập trình Java và hiểu biết về các khái niệm lập trình hướng đối tượng

  • Hiểu biết cơ bản về giao tiếp HTTP và xử lý dữ liệu JSON

Xin chào
Đây là Dowon Lee

Xác minh Inflearn

32,586

Học viên

1,798

Đánh giá

1,395

Trả lời

4.8

Xếp hạng

11

Các khóa học

Tôi là kỹ sư IT. Đã có lúc tôi băn khoăn không biết nên chọn từ nào trong mục nghề nghiệp: "nhân viên công ty?", "lập trình viên?" hay "giảng viên?" Sau đó, tôi nghĩ rằng cách gọi kỹ sư IT là tên nghề phù hợp với mình, nên cho đến nay trong mục nghề nghiệp tôi vẫn ghi là "kỹ sư IT".

Nghề nghiệp là điều thể hiện công việc của bản thân, còn công việc thì tôi luôn nghĩ rằng sẽ tốt biết bao nếu đó là một việc thú vị và có ích. Không phải ai cũng có thể sống bằng công việc mình mong muốn, nhưng tôi là người yêu thích công việc mình đang làm và muốn làm thật tốt. Trong thời gian đảm nhiệm vai trò của một nhà phát triển, giảng viên và tư vấn viên, tôi luôn phải tất bật chạy theo những công nghệ IT mới liên tục được ra mắt và thay đổi, nhưng dù vậy, tôi vẫn là một trong những người muốn được tiếp cận, truyền bá và sử dụng chúng dù chỉ sớm hơn người khác một chút.

Lĩnh vực tôi gần đây quan tâm là tư vấn đào tạo trực tuyến. Những công nghệ tôi quan tâm gồm Cloud Native Architecture, Blockchain, Machine Learning, Kafka, Kuberbetes, v.v. Tôi cũng đang trực tiếp giảng dạy các công nghệ này và áp dụng chúng vào công việc. Tuy nhiên, vì đây là những chủ đề vô cùng rộng lớn nên đến nay tôi vẫn không ngừng học hỏi.

Người ta nói rằng những gì chỉ được lưu giữ trong đầu chưa phải là kiến thức thực sự. Tôi muốn chia sẻ kiến thức và kinh nghiệm mình có bằng nhiều phương thức khác nhau. Và tôi sẽ trở thành một kỹ sư CNTT không ngừng thử thách bản thân trong những lĩnh vực mới và với những công nghệ mới.

 

 

  • Hiện) CEO Công ty NJ One .

  • Hiện tại) Giáo sư đặc cách tại Khoa An ninh Thông tin, Trường Sau đại học Thông tin Quốc tế, Đại học Dongguk

  • Cựu) Chuyên gia tư vấn công nghệ AMJ của JP Morgan Chase (Nhật Bản)

  • Cựu) Kỹ sư phụ trách, Bộ phận kinh doanh CMS, Samsung SDS

 

 

Thêm

Chương trình giảng dạy

Tất cả

132 bài giảng ∙ (21giờ 6phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

6 đánh giá

5.0

6 đánh giá

  • 93backend님의 프로필 이미지
    93backend

    Đánh giá 5

    ∙

    Đánh giá trung bình 5.0

    5

    24% đã tham gia

    Nội dung khóa học rất hay. Không chỉ về Spring AI mà còn giúp tôi học được bản thân các khái niệm liên quan đến AI, nên tôi rất thích. Tuy nhiên, trong lúc nghe giảng, liên tục xuất hiện tiếng ồn tần số cao khá lạ. Hy vọng phần này sẽ được cải thiện trong những lần sau.

    • kenneth
      Giảng viên

      Xin chào. Tôi là Lee Do-won. Cảm ơn bạn đã tham gia khóa học và để lại những ý kiến quý báu. Tôi rất vui khi biết khóa học cũng giúp bạn hiểu các khái niệm liên quan đến AI, không chỉ riêng Spring AI. Tôi thành thật xin lỗi vì tiếng ồn tần số cao mà bạn đã đề cập đã gây bất tiện trong quá trình học. Tôi luôn chú ý để giảm thiểu tiếng ồn khi ghi hình, nhưng có thể một số tệp bài giảng vẫn bị lẫn tạp âm. Nếu bạn cho tôi biết tiêu đề bài giảng hoặc đoạn thời gian nghe thấy âm thanh đó, tôi sẽ kiểm tra video tương ứng và xem xét khả năng cải thiện chất lượng âm thanh. Tôi cũng sẽ kiểm tra kỹ hơn vấn đề bạn đã đề cập trong các bài giảng được ghi hình sau này. Xin cảm ơn.

  • kimjs43843809님의 프로필 이미지
    kimjs43843809

    Đánh giá 1

    ∙

    Đánh giá trung bình 5.0

    5

    30% đã tham gia

    • oinl17775637님의 프로필 이미지
      oinl17775637

      Đánh giá 4

      ∙

      Đánh giá trung bình 5.0

      5

      30% đã tham gia

      • godmin9548님의 프로필 이미지
        godmin9548

        Đánh giá 3

        ∙

        Đánh giá trung bình 5.0

        5

        30% đã tham gia

        • blossommind0637님의 프로필 이미지
          blossommind0637

          Đánh giá 2

          ∙

          Đánh giá trung bình 5.0

          5

          61% đã tham gia

          Khóa học khác của Dowon Lee

          Hãy khám phá các khóa học khác của giảng viên!

          Khóa học tương tự

          Khám phá các khóa học khác trong cùng lĩnh vực!

          Giảm 25% cho thành viên mới

          1.009.933 ₫

          25%

          1.346.573 ₫