강의

멘토링

로드맵

BEST
AI Development

/

AI Agent Development

Phát triển ứng dụng LLM sử dụng RAG (feat. LangChain)

Học RAG từ người chiến thắng Hackathon GenAI Thung lũng Silicon. Đầy ắp bí quyết thực chiến.

(4.9) 303 đánh giá

2,735 học viên

  • jasonkang
LLM
RAG
LangChain
vector-database
openAI API

Đánh giá từ những học viên đầu tiên

Dịch cái này sang tiếng Việt

  • LangChain

  • Mô hình ngôn ngữ lớn

  • Cơ sở dữ liệu Vector

  • Retrieval Augmented Generation(RAG)


RAG được truyền đạt bởi người chiến thắng Hackathon GenAI Silicon Valley

  • Tiền xử lý dữ liệu và Retrieval hiệu quả: Học các kỹ thuật tiền xử lý dữ liệu cần thiết để xây dựng RAG và phương pháp tối đa hóa hiệu quả tìm kiếm bằng cách sử dụng từ khóa.

  • Phương pháp viết prompt hiệu quả: Hiệu suất của LLM đã được cải thiện nên bạn có thể đạt được kết quả tốt ngay cả khi viết prompt bằng tiếng Hàn. Học cách viết prompt tiếng Hàn bằng cách sử dụng PromptTemplate của LangChain.

  • Đánh giá hiệu suất LLM và tối ưu hóa dịch vụ: Học cách đo lường và tối ưu hóa một cách có hệ thống hiệu suất, độ tin cậy và độ chính xác của mô hình thông qua việc đánh giá LLM sau khi triển khai dịch vụ.

RAG? Tăng cường tạo sinh bằng tìm kiếm?

RAG là công nghệ Tạo sinh Tăng cường Tìm kiếm (Retrieval Augmented Generation) giúp cải thiện hiệu suất của các mô hình ngôn ngữ lớn (LLM). LLM có khả năng hiểu và tạo sinh ngôn ngữ xuất sắc nhờ học tập từ dữ liệu văn bản khổng lồ, nhưng vẫn tồn tại những hạn chế như thiên kiến và lỗi sai về mặt sự kiện. RAG có thể bổ sung cho những hạn chế này thông qua việc tìm kiếm thông tin thời gian thực và nâng cao độ chính xác cũng như độ tin cậy.

Đặc điểm của khóa học này

📌 Tôi đã tổng hợp những kinh nghiệm thực tế học được qua quá trình phát triển/triển khai/vận hành LLM Application trong công việc thực tế

📌 Lý thuyết 10% thực hành 90%. Chỉ giải thích nhẹ nhàng những lý thuyết cần thiết và tất cả các bài giảng đều được thực hiện bằng live coding

📌 Tôi đã cố ý không chỉnh sửa lỗi. Bạn có thể học cách debug trong quá trình phát triển dịch vụ LLM

📌 Giải quyết 100% câu hỏi về bài giảng! Thông qua hỏi đáp, chúng ta sẽ cùng nhau giải quyết nội dung bài giảng hoặc những khó khăn gặp phải trong công việc thực tế

Tôi khuyến nghị cho những người như thế này

Tôi không biết bắt đầu từ đâu.
Các nhà phát triển/đội phát triển muốn tạo ra dịch vụ sử dụng LLM nhưng
cảm thấy bối rối không biết phải bắt đầu từ đâu

RAG là gì?
Tôi tò mò về RAG là gì và tại sao nó lại quan trọng. Dành cho những ai muốn hiểu công nghệ mới nhất và sử dụng nó để phát triển ứng dụng AI của riêng mình.

Không biết phải làm gì tiếp theo?
Các developer/team phát triển
cần giải quyết vấn đề
Hallucination trong quá trình phát triển LLM Application

Sau khi hoàn thành khóa học

  • Tiền xử lý dữ liệu và sử dụng từ khóa: Bạn có thể học các kỹ thuật tiền xử lý dữ liệu cần thiết để xây dựng RAG và cách sử dụng từ khóa để tối đa hóa hiệu quả tìm kiếm.

  • Đánh giá hiệu suất mô hình: Thông qua việc đánh giá LLM, bạn sẽ học cách đo lường và tối ưu hóa hiệu suất, độ tin cậy, độ chính xác của mô hình một cách có hệ thống. Bạn sẽ học cách cải thiện chất lượng mô hình thông qua kết quả đánh giá.

  • Triển khai và bảo trì dịch vụ: Học cách triển khai và bảo trì ứng dụng bằng các công cụ như Streamlit, và trang bị kỹ năng có thể áp dụng ngay vào thực tế công việc.

  • Giải quyết vấn đề Hallucination: Bạn sẽ học các kỹ thuật để giảm thiểu thông tin không chính xác do mô hình LLM tạo ra và cung cấp thông tin đáng tin cậy hơn.

  • Hiểu biết và ứng dụng công nghệ AI mới nhất: Có thể hiểu các công nghệ AI mới nhất như RAG và sử dụng chúng để phát triển ứng dụng AI riêng của bạn

Bạn sẽ học những nội dung như thế này.

Streaming phản hồi LLM

Nếu người dùng liên tục nhìn thấy
màn hình loading trong khi LLM đang tạo ra câu trả lời thì họ sẽ cảm thấy tốc độ dịch vụ chậm. Chúng ta sẽ học cách
cải thiện trải nghiệm người dùng thông qua Streaming

Cung cấp nguồn của câu trả lời

Hallucination - vấn đề lớn nhất trong dịch vụ LLM.
Học cách cải thiện độ tin cậy của câu trả lời bằng cách cung cấp nguồn gốc của câu trả lời cho người dùng
khi tạo ra câu trả lời

Đánh giá LLM sử dụng LangSmith

Trong quá trình vận hành dịch vụ, Knowledge Base cũng thay đổi,
và prompt cũng cần được chỉnh sửa. Mỗi lần cập nhật
nhà phát triển không thể kiểm tra từng cái một.
Để vận hành dịch vụ ổn định, chúng ta sẽ học cách sử dụng LangSmith để xác minh độ chính xác của mô hình

LangChain Expression Language (LCEL)

Bạn có biết rằng LangChain có thể kết nối và sử dụng nhiều chain khác nhau không? Sử dụng cú pháp LCEL để
học cách triển khai và kết nối các chain có nhiều chức năng khác nhau

Cơ sở dữ liệu Vector (Chroma, Pinecone)

Sử dụng LangChain để làm việc với Chroma, Pinecone và
các Vector Database tương tự để lưu trữ dữ liệu và tìm kiếm các tài liệu liên quan thông qua tìm kiếm độ tương tự

Người tạo ra khóa học này



Những lưu ý trước khi học

Môi trường thực hành

  • Khóa học được giải thích dựa trên MacOS.

    • Nếu Python có thể chạy trên môi trường Windows, Linux thì bạn có thể theo dõi được.


Tài liệu học tập

  • Mã nguồn GitHub Repository (Jupyter Notebook, Streamlit)

  • GitBook để bổ sung giải thích

Kiến thức tiên quyết và lưu ý

  • Cú pháp cơ bản Python

  • Những ai đã từng sử dụng ChatGPT ít nhất một lần đều có thể hiểu được một cách dễ dàng

  • Những người đang gặp khó khăn trong quá trình phát triển LLM Application sẽ được hỗ trợ nhiều nhất

Khuyến nghị cho
những người này

Khóa học này dành cho ai?

  • Nhà phát triển muốn thử xây dựng dịch vụ LLM

  • Nhà phát triển có kinh nghiệm phát triển LLM Application

  • Nhà phát triển gặp khó khăn khi cấu hình RAG

Cần biết trước khi bắt đầu?

  • Python

Xin chào
Đây là

13,063

Học viên

775

Đánh giá

407

Trả lời

4.9

Xếp hạng

9

Các khóa học

Chương trình giảng dạy

Tất cả

25 bài giảng ∙ (3giờ 36phút)

Tài liệu khóa học:

Tài liệu bài giảng
Ngày đăng: 
Cập nhật lần cuối: 

Đánh giá

Tất cả

303 đánh giá

4.9

303 đánh giá

  • Hyuntak Lee님의 프로필 이미지
    Hyuntak Lee

    Đánh giá 1

    Đánh giá trung bình 5.0

    5

    100% đã tham gia

    랭체인에 이런 명강의가 없습니다! 제가 랭체인 혼자 한 번 파보겠다고 시중에 나온 랭체인 관련 도서는 싹다 구입하고, 강의도 엄청 구매하고 했는데,, 랭체인의 버전업 때문에 무용지물이 된 게 한둘이 아니고, 초심자 입장에서 이해되게 설명하는게 없었어요. 그런데 강병진님 강의는 버전도 다 최신인데다가 듣다보면 로직이 하나하나 다 이해가 돼요. 랭체인을 배우고 싶은 모두에게 강추하고 싶은 강의입니다

    • 강병진
      Giảng viên

      감사합니다! 강의의 장점은 코드가 Deprecate되면 추가로 업데이트가 가능한 점이라고 생각합니다. 혹시나 랭체인에서 업데이트가 발생하면 저도 강의를 업데이트하고 말씀드릴게요~

  • swgoodcode님의 프로필 이미지
    swgoodcode

    Đánh giá 9

    Đánh giá trung bình 5.0

    5

    95% đã tham gia

    느낀점 1) 내가 개인 llm 서비스를 만들었다고? 실화?…쉽다… 2) 강사님은 이 많은 기술 어떻게 배운거야…내가 계속 나아갈 수 있을까? 좌절… 하지만 문득 아이디어가 떠오르더군요… 강사님을 독촉해서 다음 강의를 만들게하자… 기다리겠습니다! 빨리 다음 강의 부탁드려요!! 실무에서 인터넷이 불가능한 환경이라 라마3로 하는 방법이 궁금합니다. 그리고 랭스미스에 대하여 잘 다루고 싶어졌습니다.

    • 강병진
      Giảng viên

      "강의를 듣고 서비스를 구현할 수 있는 수준" 이라는 인정을 받은 것 같습니다. 정말 감사합니다. 질문으로 올려주신 내용에 답변 드린 것처럼 LLM Evaluation은 별도의 강의를 촬영할 예정입니다. 강의가 나오면 제일 먼저 알려드릴게요!

  • host0806님의 프로필 이미지
    host0806

    Đánh giá 1

    Đánh giá trung bình 5.0

    5

    95% đã tham gia

    간단한 챗봇을 만들어보려고 며칠을 챗지피티와 씨름했던 시간이 무색하게 정말 이해하기 쉽게 개발 과정을 배울 수 있었습니다. 혼자 공부할 때와는 다르게 어떤게 어디에 필요한지 알 수 있어 너무 좋았습니다. 윈도우 사용자도 크게 어렵지 않게 따라갈 수 있었습니다. 추천합니다

    • 강병진
      Giảng viên

      따흑 감사합니다 ☺️ 처음 해보시는 분들도 쉽게 따라가실 수 있도록 기획했는데 잘 받아주신 것 같아요! 저는 앞으로 LLM 관련 업무를 계속 할거라 도움 드릴 수 있는 자료들을 많이 공유드려보겠습니다!

  • JAY probio님의 프로필 이미지
    JAY probio

    Đánh giá 7

    Đánh giá trung bình 5.0

    5

    69% đã tham gia

    짧고 강력한 강의입니다. 핵심만 쏙쏙 뽑아서 전달하는 강의입니다. 다른 강의 들어보니까 돌려돌려 설명해서 더 어렵기만하고 이해도 안되고 ㅠㅠㅠㅠㅠㅠ 다른 강의도 많이 만들어주세요

    • Dominus Mr.님의 프로필 이미지
      Dominus Mr.

      Đánh giá 6

      Đánh giá trung bình 5.0

      Đã chỉnh sửa

      5

      100% đã tham gia

      강의가 굉장히 재밌고 역동적입니다. 그리고 알고 싶고 궁굼했던 내용이 대부분이라 짱짱입니다 인프런에서 결제 꽤 많이 했는데, 몇번씩 돌려 보고 또보고 하는 건 처음 인 것 같습니다. 확실히 개념이 잡혀 갑니다. 진짜 감사합니다. 진짜 추천합니다.

      1.402.365 ₫

      Khóa học khác của jasonkang

      Hãy khám phá các khóa học khác của giảng viên!

      Khóa học tương tự

      Khám phá các khóa học khác trong cùng lĩnh vực!