강의

멘토링

로드맵

BEST
AI Development

/

AI Agent Development

Phát triển ứng dụng LLM sử dụng RAG (feat. LangChain)

Học RAG từ người chiến thắng Hackathon GenAI Thung lũng Silicon. Đầy ắp bí quyết thực chiến.

(4.9) 272 đánh giá

2,597 học viên

  • jasonkang
LLM
RAG
LangChain
vector-database
openAI API

Đánh giá từ những học viên đầu tiên

Dịch cái này sang tiếng Việt

  • LangChain

  • Mô hình ngôn ngữ lớn

  • Cơ sở dữ liệu Vector

  • Retrieval Augmented Generation(RAG)


Người chiến thắng Hackathon GenAI Silicon Valley chia sẻ về RAG

  • Tiền xử lý dữ liệu và Retrieval hiệu quả: Học các kỹ thuật tiền xử lý dữ liệu cần thiết để cấu thành RAG và phương pháp tối đa hóa hiệu quả tìm kiếm bằng cách sử dụng từ khóa.

  • Phương pháp viết prompt hiệu quả: Hiệu suất của LLM đã được cải thiện nên bạn có thể đạt được kết quả tốt ngay cả khi viết prompt bằng tiếng Hàn. Học cách viết prompt tiếng Hàn bằng cách sử dụng PromptTemplate của LangChain.

  • Đánh giá hiệu suất LLM và tối ưu hóa dịch vụ: Học cách đo lường và tối ưu hóa một cách có hệ thống hiệu suất, độ tin cậy và độ chính xác của mô hình thông qua việc đánh giá LLM sau khi triển khai dịch vụ.

RAG? Tìm kiếm tăng cường sinh tạo?

RAG là công nghệ Tăng cường Tạo sinh bằng Truy xuất (Retrieval Augmented Generation) giúp cải thiện hiệu suất của các mô hình ngôn ngữ lớn (LLM). LLM có khả năng hiểu và tạo sinh ngôn ngữ xuất sắc nhờ học tập từ dữ liệu văn bản khổng lồ, nhưng vẫn tồn tại những hạn chế như thiên kiến và lỗi sai sự thật. RAG có thể bổ sung những hạn chế này thông qua việc tìm kiếm thông tin thời gian thực và nâng cao độ chính xác cũng như độ tin cậy.

Đặc điểm của khóa học này

📌 Tôi đã tổng hợp những kinh nghiệm thực tế học được qua quá trình phát triển/triển khai/vận hành LLM Application trong công việc thực tế

📌 Lý thuyết 10% thực hành 90%. Chỉ giải thích nhẹ nhàng những lý thuyết cần thiết và tất cả các bài giảng đều được thực hiện bằng live coding

📌 Tôi đã không cố ý chỉnh sửa lỗi. Bạn có thể học cách debug trong quá trình phát triển dịch vụ LLM

📌 Giải quyết 100% câu hỏi về bài giảng! Thông qua hỏi đáp, chúng ta sẽ cùng nhau giải quyết những khó khăn gặp phải trong nội dung bài học hoặc trong công việc thực tế

Tôi khuyến nghị cho những người như thế này

Tôi không biết nên bắt đầu từ đâu.
Các nhà phát triển/đội phát triển muốn tạo ra dịch vụ sử dụng LLM nhưng
cảm thấy bối rối không biết phải bắt đầu từ đâu

RAG là gì?
Tôi tò mò về RAG là gì và tại sao nó lại quan trọng. Dành cho những ai muốn hiểu công nghệ mới nhất và sử dụng nó để phát triển ứng dụng AI riêng của mình.

Còn phải làm gì nữa đây?
Các nhà phát triển/đội phát triển
cần giải quyết vấn đề
Hallucination trong quá trình phát triển LLM Application

Sau khi hoàn thành khóa học

  • Tiền xử lý dữ liệu và sử dụng từ khóa: Bạn có thể học các kỹ thuật tiền xử lý dữ liệu cần thiết để xây dựng RAG và cách sử dụng từ khóa để tối đa hóa hiệu quả tìm kiếm.

  • Đánh giá hiệu suất mô hình: Thông qua việc đánh giá LLM, bạn sẽ học cách đo lường và tối ưu hóa hiệu suất, độ tin cậy, độ chính xác của mô hình một cách có hệ thống. Bạn sẽ học cách cải thiện chất lượng mô hình thông qua kết quả đánh giá.

  • Triển khai và bảo trì dịch vụ: Bạn sẽ học cách triển khai và bảo trì ứng dụng bằng các công cụ như Streamlit, đồng thời trang bị những kỹ năng có thể áp dụng ngay vào công việc thực tế.

  • Giải quyết vấn đề Hallucination: Bạn sẽ học các kỹ thuật để giảm thiểu thông tin không chính xác do mô hình LLM tạo ra và cung cấp thông tin đáng tin cậy hơn.

  • Hiểu và ứng dụng công nghệ AI mới nhất: Có thể hiểu các công nghệ AI mới nhất như RAG và sử dụng chúng để phát triển ứng dụng AI riêng của mình

Chúng ta sẽ học những nội dung như thế này.

Streaming phản hồi LLM

Nếu người dùng liên tục nhìn thấy
màn hình loading trong khi LLM đang tạo ra câu trả lời thì họ sẽ cảm thấy như thể tốc độ dịch vụ chậm. Chúng ta sẽ học cách
cải thiện trải nghiệm người dùng thông qua Streaming

Cung cấp nguồn gốc của câu trả lời

Hallucination - vấn đề lớn nhất trong các dịch vụ LLM.
Học cách cải thiện độ tin cậy của câu trả lời bằng cách cung cấp nguồn gốc của câu trả lời cho người dùng
trong quá trình tạo ra câu trả lời

Đánh giá LLM sử dụng LangSmith

Trong quá trình vận hành dịch vụ, Knowledge Base cũng thay đổi,
và prompt cũng cần được chỉnh sửa. Mỗi lần cập nhật
nhà phát triển không thể kiểm tra từng cái một.
Để vận hành dịch vụ ổn định, chúng ta sẽ học cách sử dụng LangSmith để xác minh độ chính xác của mô hình

LangChain Expression Language (LCEL)

Bạn có biết rằng LangChain có thể kết nối và sử dụng nhiều chain khác nhau không? Sử dụng cú pháp LCEL để
triển khai và kết nối các chain có chức năng đa dạng để sử dụng

Cơ sở dữ liệu Vector (Chroma, Pinecone)

Sử dụng LangChain để kết hợp với Chroma, Pinecone và
các Vector Database tương tự để lưu trữ dữ liệu và học cách lấy các tài liệu liên quan thông qua tìm kiếm độ tương tự

Người tạo ra khóa học này



Những điều cần lưu ý trước khi học

Môi trường thực hành

  • Khóa học được giải thích dựa trên MacOS.

    • Nếu Python có thể chạy trên môi trường Windows, Linux thì bạn có thể theo dõi được.


Tài liệu học tập

  • Mã nguồn GitHub Repository (Jupyter Notebook, Streamlit)

  • GitBook để bổ sung giải thích

Kiến thức tiên quyết và lưu ý

  • Cú pháp cơ bản của Python

  • Những ai đã từng sử dụng ChatGPT ít nhất một lần sẽ có thể hiểu dễ dàng

  • Điều này có vẻ sẽ hữu ích nhất cho những ai đang gặp khó khăn trong quá trình phát triển LLM Application

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Nhà phát triển muốn thử xây dựng dịch vụ LLM

  • Nhà phát triển có kinh nghiệm phát triển LLM Application

  • Nhà phát triển gặp khó khăn khi cấu hình RAG

Cần biết trước khi bắt đầu?

  • Python

Xin chào
Đây là

12,551

Học viên

682

Đánh giá

373

Trả lời

4.9

Xếp hạng

9

Các khóa học

Chương trình giảng dạy

Tất cả

25 bài giảng ∙ (3giờ 36phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

272 đánh giá

4.9

272 đánh giá

  • hyuntaklee님의 프로필 이미지
    hyuntaklee

    Đánh giá 1

    Đánh giá trung bình 5.0

    5

    100% đã tham gia

    There is no such great lecture in Langchain! I bought all the Langchain-related books on the market to try to learn Langchain on my own, and I also bought a lot of lectures, but there were more than one or two that became useless because of Langchain version updates, and there was no explanation that was easy for a beginner to understand. However, Kang Byeong-jin's lectures are all the latest versions, and as you listen, you can understand each and every logic. This is a lecture that I would like to highly recommend to anyone who wants to learn Langchain.

    • jasonkang
      Giảng viên

      Thank you! I think the advantage of the lecture is that it can be updated additionally when the code is deprecated. If there is an update in the langchain, I will update the lecture and let you know~

  • swgoodcode님의 프로필 이미지
    swgoodcode

    Đánh giá 9

    Đánh giá trung bình 5.0

    5

    95% đã tham gia

    Impressions 1) I created a personal llm service? Real story?… Easy… 2) How did the instructor learn all these skills… Will I be able to continue? Frustrated… But suddenly an idea came to me… Let’s urge the instructor to create the next lecture… I’ll wait! Please hurry up and give me the next lecture!! Since the internet is not available in my work, I’m curious about how to do it with Rama3. And I want to cover Langsmith well.

    • jasonkang
      Giảng viên

      I think I have been recognized as being "able to take the lecture and implement the service". Thank you very much. As I answered the question you posted, LLM Evaluation will film a separate lecture. I will let you know first when the lecture is released!

  • host08060121님의 프로필 이미지
    host08060121

    Đánh giá 1

    Đánh giá trung bình 5.0

    5

    95% đã tham gia

    I was able to learn the development process in a really easy-to-understand way, which made the days of struggling with ChatGPT to create a simple chatbot seem meaningless. It was so great to be able to know what was needed where, unlike when I studied alone. Even Windows users could follow along without much difficulty. I recommend it.

    • jasonkang
      Giảng viên

      Thank you so much ☺️ I planned it so that even beginners can easily follow along, and I think it was well-received! I will continue to work on LLM-related tasks in the future, so I will share a lot of materials that can be helpful!

  • guinnessop5968님의 프로필 이미지
    guinnessop5968

    Đánh giá 7

    Đánh giá trung bình 5.0

    5

    69% đã tham gia

    It's a short and powerful lecture. It delivers only the essential points. After listening to other lectures, they just made it more difficult by explaining in circles, and I couldn't understand them. 😭😭😭😭😭😭 Please make more lectures.

    • buildup님의 프로필 이미지
      buildup

      Đánh giá 6

      Đánh giá trung bình 5.0

      Đã chỉnh sửa

      5

      100% đã tham gia

      The lecture is very fun and dynamic. And it's the best because it covers most of the things I wanted to know and was curious about. I've spent quite a bit on Inflearn, but this is the first time I've watched a lecture over and over again. I'm definitely getting a grasp of the concepts. Thank you so much. I highly recommend it.

      1.407.264 ₫

      Khóa học khác của jasonkang

      Hãy khám phá các khóa học khác của giảng viên!

      Khóa học tương tự

      Khám phá các khóa học khác trong cùng lĩnh vực!