Inflearn brand logo image
Inflearn brand logo image
Inflearn brand logo image
BEST
AI Development

/

AI Agent Development

Phát triển ứng dụng LLM sử dụng RAG (feat. LangChain)

Học RAG từ người chiến thắng Hackathon GenAI Thung lũng Silicon. Đầy ắp bí quyết thực chiến.

(4.9) 243 đánh giá

2,372 học viên

  • jasonkang
이론 실습 모두
NLP
LLM
RAG
LangChain
vector-database
openAI API

Đánh giá từ những học viên đầu tiên

Dịch cái này sang tiếng Việt

  • LangChain

  • Mô hình ngôn ngữ lớn

  • Cơ sở dữ liệu Vector

  • Retrieval Augmented Generation(RAG)


Người chiến thắng Hackathon GenAI Silicon Valley chia sẻ về RAG

  • Tiền xử lý dữ liệu và Retrieval hiệu quả: Học các kỹ thuật tiền xử lý dữ liệu cần thiết để cấu thành RAG và phương pháp tối đa hóa hiệu quả tìm kiếm bằng cách sử dụng từ khóa.

  • Phương pháp viết prompt hiệu quả: Hiệu suất của LLM đã được cải thiện nên bạn có thể đạt được kết quả tốt ngay cả khi viết prompt bằng tiếng Hàn. Học cách viết prompt tiếng Hàn bằng cách sử dụng PromptTemplate của LangChain.

  • Đánh giá hiệu suất LLM và tối ưu hóa dịch vụ: Học cách đo lường và tối ưu hóa một cách có hệ thống hiệu suất, độ tin cậy và độ chính xác của mô hình thông qua việc đánh giá LLM sau khi triển khai dịch vụ.

RAG? Tìm kiếm tăng cường sinh tạo?

RAG là công nghệ Tăng cường Tạo sinh bằng Truy xuất (Retrieval Augmented Generation) giúp cải thiện hiệu suất của các mô hình ngôn ngữ lớn (LLM). LLM có khả năng hiểu và tạo sinh ngôn ngữ xuất sắc nhờ học tập từ dữ liệu văn bản khổng lồ, nhưng vẫn tồn tại những hạn chế như thiên kiến và lỗi sai sự thật. RAG có thể bổ sung những hạn chế này thông qua việc tìm kiếm thông tin thời gian thực và nâng cao độ chính xác cũng như độ tin cậy.

Đặc điểm của khóa học này

📌 Tôi đã tổng hợp những kinh nghiệm thực tế học được qua quá trình phát triển/triển khai/vận hành LLM Application trong công việc thực tế

📌 Lý thuyết 10% thực hành 90%. Chỉ giải thích nhẹ nhàng những lý thuyết cần thiết và tất cả các bài giảng đều được thực hiện bằng live coding

📌 Tôi đã không cố ý chỉnh sửa lỗi. Bạn có thể học cách debug trong quá trình phát triển dịch vụ LLM

📌 Giải quyết 100% câu hỏi về bài giảng! Thông qua hỏi đáp, chúng ta sẽ cùng nhau giải quyết những khó khăn gặp phải trong nội dung bài học hoặc trong công việc thực tế

Tôi khuyến nghị cho những người như thế này

Tôi không biết nên bắt đầu từ đâu.
Các nhà phát triển/đội phát triển muốn tạo ra dịch vụ sử dụng LLM nhưng
cảm thấy bối rối không biết phải bắt đầu từ đâu

RAG là gì?
Tôi tò mò về RAG là gì và tại sao nó lại quan trọng. Dành cho những ai muốn hiểu công nghệ mới nhất và sử dụng nó để phát triển ứng dụng AI riêng của mình.

Còn phải làm gì nữa đây?
Các nhà phát triển/đội phát triển
cần giải quyết vấn đề
Hallucination trong quá trình phát triển LLM Application

Sau khi hoàn thành khóa học

  • Tiền xử lý dữ liệu và sử dụng từ khóa: Bạn có thể học các kỹ thuật tiền xử lý dữ liệu cần thiết để xây dựng RAG và cách sử dụng từ khóa để tối đa hóa hiệu quả tìm kiếm.

  • Đánh giá hiệu suất mô hình: Thông qua việc đánh giá LLM, bạn sẽ học cách đo lường và tối ưu hóa hiệu suất, độ tin cậy, độ chính xác của mô hình một cách có hệ thống. Bạn sẽ học cách cải thiện chất lượng mô hình thông qua kết quả đánh giá.

  • Triển khai và bảo trì dịch vụ: Bạn sẽ học cách triển khai và bảo trì ứng dụng bằng các công cụ như Streamlit, đồng thời trang bị những kỹ năng có thể áp dụng ngay vào công việc thực tế.

  • Giải quyết vấn đề Hallucination: Bạn sẽ học các kỹ thuật để giảm thiểu thông tin không chính xác do mô hình LLM tạo ra và cung cấp thông tin đáng tin cậy hơn.

  • Hiểu và ứng dụng công nghệ AI mới nhất: Có thể hiểu các công nghệ AI mới nhất như RAG và sử dụng chúng để phát triển ứng dụng AI riêng của mình

Chúng ta sẽ học những nội dung như thế này.

Streaming phản hồi LLM

Nếu người dùng liên tục nhìn thấy
màn hình loading trong khi LLM đang tạo ra câu trả lời thì họ sẽ cảm thấy như thể tốc độ dịch vụ chậm. Chúng ta sẽ học cách
cải thiện trải nghiệm người dùng thông qua Streaming

Cung cấp nguồn gốc của câu trả lời

Hallucination - vấn đề lớn nhất trong các dịch vụ LLM.
Học cách cải thiện độ tin cậy của câu trả lời bằng cách cung cấp nguồn gốc của câu trả lời cho người dùng
trong quá trình tạo ra câu trả lời

Đánh giá LLM sử dụng LangSmith

Trong quá trình vận hành dịch vụ, Knowledge Base cũng thay đổi,
và prompt cũng cần được chỉnh sửa. Mỗi lần cập nhật
nhà phát triển không thể kiểm tra từng cái một.
Để vận hành dịch vụ ổn định, chúng ta sẽ học cách sử dụng LangSmith để xác minh độ chính xác của mô hình

LangChain Expression Language (LCEL)

Bạn có biết rằng LangChain có thể kết nối và sử dụng nhiều chain khác nhau không? Sử dụng cú pháp LCEL để
triển khai và kết nối các chain có chức năng đa dạng để sử dụng

Cơ sở dữ liệu Vector (Chroma, Pinecone)

Sử dụng LangChain để kết hợp với Chroma, Pinecone và
các Vector Database tương tự để lưu trữ dữ liệu và học cách lấy các tài liệu liên quan thông qua tìm kiếm độ tương tự

Người tạo ra khóa học này



Những điều cần lưu ý trước khi học

Môi trường thực hành

  • Khóa học được giải thích dựa trên MacOS.

    • Nếu Python có thể chạy trên môi trường Windows, Linux thì bạn có thể theo dõi được.


Tài liệu học tập

  • Mã nguồn GitHub Repository (Jupyter Notebook, Streamlit)

  • GitBook để bổ sung giải thích

Kiến thức tiên quyết và lưu ý

  • Cú pháp cơ bản của Python

  • Những ai đã từng sử dụng ChatGPT ít nhất một lần sẽ có thể hiểu dễ dàng

  • Điều này có vẻ sẽ hữu ích nhất cho những ai đang gặp khó khăn trong quá trình phát triển LLM Application

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Nhà phát triển muốn thử xây dựng dịch vụ LLM

  • Nhà phát triển có kinh nghiệm phát triển LLM Application

  • Nhà phát triển gặp khó khăn khi cấu hình RAG

Cần biết trước khi bắt đầu?

  • Python

Xin chào
Đây là

11,707

Học viên

589

Đánh giá

343

Trả lời

4.9

Xếp hạng

9

Các khóa học

Chương trình giảng dạy

Tất cả

25 bài giảng ∙ (3giờ 36phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

243 đánh giá

4.9

243 đánh giá

  • Hyuntak Lee님의 프로필 이미지
    Hyuntak Lee

    Đánh giá 1

    Đánh giá trung bình 5.0

    5

    100% đã tham gia

    랭체인에 이런 명강의가 없습니다! 제가 랭체인 혼자 한 번 파보겠다고 시중에 나온 랭체인 관련 도서는 싹다 구입하고, 강의도 엄청 구매하고 했는데,, 랭체인의 버전업 때문에 무용지물이 된 게 한둘이 아니고, 초심자 입장에서 이해되게 설명하는게 없었어요. 그런데 강병진님 강의는 버전도 다 최신인데다가 듣다보면 로직이 하나하나 다 이해가 돼요. 랭체인을 배우고 싶은 모두에게 강추하고 싶은 강의입니다

    • 강병진
      Giảng viên

      감사합니다! 강의의 장점은 코드가 Deprecate되면 추가로 업데이트가 가능한 점이라고 생각합니다. 혹시나 랭체인에서 업데이트가 발생하면 저도 강의를 업데이트하고 말씀드릴게요~

  • swgoodcode님의 프로필 이미지
    swgoodcode

    Đánh giá 9

    Đánh giá trung bình 5.0

    5

    95% đã tham gia

    느낀점 1) 내가 개인 llm 서비스를 만들었다고? 실화?…쉽다… 2) 강사님은 이 많은 기술 어떻게 배운거야…내가 계속 나아갈 수 있을까? 좌절… 하지만 문득 아이디어가 떠오르더군요… 강사님을 독촉해서 다음 강의를 만들게하자… 기다리겠습니다! 빨리 다음 강의 부탁드려요!! 실무에서 인터넷이 불가능한 환경이라 라마3로 하는 방법이 궁금합니다. 그리고 랭스미스에 대하여 잘 다루고 싶어졌습니다.

    • 강병진
      Giảng viên

      "강의를 듣고 서비스를 구현할 수 있는 수준" 이라는 인정을 받은 것 같습니다. 정말 감사합니다. 질문으로 올려주신 내용에 답변 드린 것처럼 LLM Evaluation은 별도의 강의를 촬영할 예정입니다. 강의가 나오면 제일 먼저 알려드릴게요!

  • host0806님의 프로필 이미지
    host0806

    Đánh giá 1

    Đánh giá trung bình 5.0

    5

    95% đã tham gia

    간단한 챗봇을 만들어보려고 며칠을 챗지피티와 씨름했던 시간이 무색하게 정말 이해하기 쉽게 개발 과정을 배울 수 있었습니다. 혼자 공부할 때와는 다르게 어떤게 어디에 필요한지 알 수 있어 너무 좋았습니다. 윈도우 사용자도 크게 어렵지 않게 따라갈 수 있었습니다. 추천합니다

    • 강병진
      Giảng viên

      따흑 감사합니다 ☺️ 처음 해보시는 분들도 쉽게 따라가실 수 있도록 기획했는데 잘 받아주신 것 같아요! 저는 앞으로 LLM 관련 업무를 계속 할거라 도움 드릴 수 있는 자료들을 많이 공유드려보겠습니다!

  • JAY probio님의 프로필 이미지
    JAY probio

    Đánh giá 7

    Đánh giá trung bình 5.0

    5

    69% đã tham gia

    짧고 강력한 강의입니다. 핵심만 쏙쏙 뽑아서 전달하는 강의입니다. 다른 강의 들어보니까 돌려돌려 설명해서 더 어렵기만하고 이해도 안되고 ㅠㅠㅠㅠㅠㅠ 다른 강의도 많이 만들어주세요

    • Dominus Mr.님의 프로필 이미지
      Dominus Mr.

      Đánh giá 6

      Đánh giá trung bình 5.0

      Đã chỉnh sửa

      5

      100% đã tham gia

      강의가 굉장히 재밌고 역동적입니다. 그리고 알고 싶고 궁굼했던 내용이 대부분이라 짱짱입니다 인프런에서 결제 꽤 많이 했는데, 몇번씩 돌려 보고 또보고 하는 건 처음 인 것 같습니다. 확실히 개념이 잡혀 갑니다. 진짜 감사합니다. 진짜 추천합니다.

      1.402.898 ₫

      Khóa học khác của jasonkang

      Hãy khám phá các khóa học khác của giảng viên!

      Khóa học tương tự

      Khám phá các khóa học khác trong cùng lĩnh vực!