Phát triển ứng dụng LLM sử dụng RAG (feat. LangChain)

Tôi xin thông báo tin vui đến các học viên đã cùng tôi suy ngẫm và phát triển thông qua khóa học xây dựng AI Agent. Cuốn sách đầu tiên của tôi, tổng hợp những nội dung chuyên sâu chưa được chia sẻ hết trong khóa học cùng với những điểm cốt lõi trong thực tế, cuối cùng đã được xuất bản. Cuốn sách này tập trung vào việc giải đáp những câu hỏi được đặt ra nhiều nhất tại lớp học cũng như những băn khoăn thực tiễn trong công việc.

Như tôi luôn nhấn mạnh trong các buổi giảng dạy, cốt lõi của dịch vụ agent không chỉ đơn thuần là 'triển khai' các tính năng mà là 'chứng minh' hiệu suất của chúng.

Trong quá trình viết sách, tôi đã trải qua những thay đổi công nghệ nhanh chóng như việc EXAONE 3.0 được cập nhật lên 3.5 và môi trường hỗ trợ Ollama thay đổi, và một lần nữa tôi đã khẳng định được rằng: điều quan trọng không phải là 'xu hướng' mà là 'nền tảng'. Vì vậy, trong chương cuối của cuốn sách này, tôi đã tập trung đưa vào phần [Đánh giá (Evaluation)] mà tôi cho là quan trọng nhất.

Cuốn sách này sẽ là một người dẫn đường tuyệt vời cho những ai muốn quản lý hiệu suất của agent bằng các chỉ số khách quan chứ không phải cảm nhận chủ quan.

Tôi đã tập trung trình bày trong sách. Cuốn sách này sẽ là một người dẫn đường xuất sắc cho những ai muốn quản lý hiệu suất của agent bằng các chỉ số khách quan, chứ không phải cảm nhận chủ quan.

🎓 Thông báo 'Bước tiếp theo' dành cho các học viên của khóa học

Trong cuốn sách, chúng tôi đã đề cập vững chắc đến nền tảng lý thuyết và các nguyên tắc cốt lõi về đánh giá. Tuy nhiên, bạn có thể còn khao khát tìm hiểu cách tự động hóa và vận hành điều này trong thực tế. Vì vậy, chúng tôi đang chuẩn bị riêng một khóa học với nội dung chuyên sâu như sau.

• LangSmith để thiết lập chính sách đánh giá

• Cách viết và tối ưu hóa Evaluator trong môi trường production

• Quy trình cải thiện ứng dụng LLM bền vững

Tôi khuyên bạn nên trang bị nền tảng lý thuyết vững chắc qua cuốn sách này, sau đó trải nghiệm 'sự hoàn thiện của đánh giá' thông qua các bài giảng thực hành tiếp theo.

Hiện đang mở bán đặt trước tại các nhà sách dưới đây.

• [Kyobo Book Centre]: https://product.kyobobook.co.kr/detail/S000218961185

• [Aladin]: https://www.aladin.co.kr/shop/wproduct.aspx?ItemId=383332045

• [Yes24]: https://www.yes24.com/product/goods/172726927

Xin chào, tôi là Kang Byung Jin.

Xin chào, gần đây tôi đã có cơ hội tốt để tham gia 'Ace Report' của And Studio và chia sẻ câu chuyện sự nghiệp của mình.

Tôi đang đứng trước một khởi đầu mới, nhưng thay vì video này đề cập đến bí quyết chuyển việc vào các công ty công nghệ lớn, nó đã trở thành một dịp để tôi bình tĩnh chia sẻ những suy nghĩ mà tôi đã trăn trở và trải nghiệm trong suốt thời gian làm việc.

Nhìn lại, sự nghiệp của tôi có lẻ gần với thất bại hơn là thành công. Có những trải nghiệm khởi nghiệp và đóng cửa không được ghi lại trên LinkedIn, những khoảnh khắc trượt việc nhiều hơn rất nhiều so với được nhận. Nhưng tôi nghĩ chính nhờ những bài học và kinh nghiệm thu được trong quá trình đó mà có được tôi ngày hôm nay.

Tiêu đề 'Người làm việc giỏi' có thể hơi ngại ngùng một chút, nhưng tôi hy vọng câu chuyện của mình về việc không ngừng thử thách và học hỏi trong quá trình đó sẽ có thể chạm đến những người đang có những băn khoăn tương tự, dù chỉ một chút.

Dành thời gian xem và chia sẻ suy nghĩ về video sẽ là động lực lớn cho tôi.

https://youtu.be/UR9PL1Jz-qs?si=nYUszHC3GrU21K-Q

Cảm ơn tất cả các học viên đã tham gia khóa học, và trong quá trình học tập nếu có những phần giải thích chưa đầy đủ, những phần khó hiểu, cũng như những khó khăn mà các bạn gặp phải khi áp dụng vào công việc thực tế, hãy đăng câu hỏi lên và tôi sẽ trả lời nhanh nhất có thể.

Cảm ơn bạn

Kang Byung Jin gửi

Xin chào, tôi là Kang Byung Jin.
Trước tiên, tôi xin chân thành cảm ơn tất cả các học viên đã tham gia khóa học của tôi và luôn gửi những phản hồi tích cực cùng sự cổ vũ.
Nhờ có các bạn mà tôi có thể tiếp tục duy trì việc giảng dạy và các hoạt động liên quan đến AI. 🙏

Ngày mai, thứ Tư, 13 tháng 8 năm 2025 lúc 9 giờ tối, tôi sẽ tham gia Teddynote Live để
thảo luận về chủ đề "AI nên được sử dụng khi nào và như thế nào trong công ty?"

Trong buổi live này

• Các trường hợp ứng dụng thực tế AI/LLM trong công việc dựa trên kinh nghiệm thực tế

• Những cân nhắc và mẹo khi áp dụng AI vào công việc

• Giải đáp thắc mắc qua Q&A thời gian thực

và những điều khác một cách thành thật với các bạn.

📅Lịch phát sóng: Thứ Tư, 13 tháng 8 năm 2025, 9 giờ tối
📍Cách tham gia: Live trên kênh YouTube TeddyNote: https://www.youtube.com/live/tqOkjsVzoSo

Tôi rất mong chờ được giao tiếp trực tiếp với những người mà trước đây tôi chỉ gặp qua các bài giảng.
Hy vọng đây sẽ là thời gian để chúng ta cùng chia sẻ những thắc mắc, băn khoăn và ý tưởng của các bạn.

Rất mong nhận được sự quan tâm và tham gia của mọi người,
hẹn gặp các bạn trong buổi live!

— Kang Byung Jin gửi

Bạn đang cân nhắc việc phát triển/vận hành các dịch vụ LLM? Chúng tôi cung cấp thông tin này vì công ty chúng tôi đang có kế hoạch tổ chức một cuộc gặp gỡ để chia sẻ bí quyết vận hành/phát triển LlamaIndex và LLM.

Ngày kết nối GenAI lần thứ 2, Hội thảo LLM dành cho các nhà phát triển muốn vận hành hoặc bắt đầu dịch vụ LLM, sẽ được tổ chức tại GS Tower vào ngày 26 tháng 9. Sự kiện này được tổ chức bởi cộng đồng Đổi mới mở 52g của Tập đoàn GS với sự cộng tác của LlamaIndex và Pie&AI của DeepLearning.AI. Kỹ sư AI Pierre-Loic Doulcet của LlamaIndex sẽ thuyết trình tại chỗ, còn Hoon Heo của Liner và nhà nghiên cứu AutoRAG Jeffrey Kim sẽ đến để chia sẻ bí quyết và hiểu biết sâu sắc liên quan đến phát triển dịch vụ LLM. Chúng tôi hy vọng bạn sẽ có được nhiều hiểu biết sâu sắc từ các kỹ sư AI trong nhiều lĩnh vực khác nhau và có cơ hội kết nối trong bữa tiệc bia sau!

[Hướng dẫn] GenAI Connect Day #2: LlamaIndex x 52g

📅 Ngày: 2024. 9. 26. (Thứ Năm) 6:30 chiều ~

🏢 Địa điểm: GS Tower tầng 25 Keeeet Open Hall

👍 Đối tượng: Nhà phát triển phát triển dịch vụ sử dụng LLM

🚨 Thời gian nộp đơn: 2024. 9. 9 (Thứ Hai) ~ 2024. 9. 24 (Thứ Ba)

✅ Giới thiệu diễn giả và link ứng tuyển: https://bit.ly/52g-genai-2

🚀 Yêu cầu: Giám đốc Công ty TNHH GS Kang Byeong-jin ( jason.kang@gs.co.kr )

Mặc dù nó chưa được biết chính thức (?), nhưng chúng tôi có kế hoạch chuẩn bị nhiều sản phẩm khác nhau cho các nhà phát triển, vì vậy hãy dành nhiều sự quan tâm cho chúng tôi!

Xin chào, đây là Kang Byeong-jin.

Khóa học được ra mắt chưa được bao lâu nhưng đã có nhiều người tham gia và đặt câu hỏi hơn dự kiến.
Câu hỏi phổ biến nhất trong số đó là OpenAI API quota를 어떻게 늘리느냐 .

Vì vậy, tôi đã chụp thêm ảnh về cách tăng hạn ngạch API OpenAI, nhưng khi nghĩ lại, tôi nhận ra rằng mình đã trả tiền cho khóa học.
Tôi nghĩ có thể bạn không muốn trả tiền cho API OpenAI. Vì vậy, chúng tôi đã thêm một cách để sử dụng API Upstage, cung cấp khoản tín dụng $30 khi bạn đăng ký.

Những người trong số các bạn đã tham gia bài giảng sẽ biết rằng UpstageEmbedding có hiệu suất tốt hơn nhiều so với OpenAIEmbedding khi nói đến việc nhúng, vì vậy tôi nghĩ bạn có thể nhận được kết quả tốt hơn khi tham gia bài giảng.

Chúng tôi xin cảm ơn những người đã tích cực đăng câu hỏi vì những phản hồi tốt của họ. Hãy nhớ đặt câu hỏi về bất kỳ phần nào bạn không hiểu hoặc cảm thấy khó khăn khi tham gia khóa học! Chúng tôi sẽ phản hồi nhanh nhất có thể.

Cảm ơn
Giấc mơ của Kang Byeong Jin

Xin chào, đây là Kang Byeong-jin.

Chúng tôi đã phát hành khóa học về cách xây dựng RAG bằng Mô hình ngôn ngữ lớn (LLM) phổ biến gần đây.

Đây là công việc chính của tôi ở nơi làm việc hiện nay và tôi đã gặp rất nhiều rắc rối với nó kể từ năm ngoái... vì vậy tôi đã chuẩn bị bài giảng với hy vọng rằng những người khác sẽ ít gặp rắc rối hơn.

Bài giảng sử dụng OpenAI API và LangChain nên bạn có thể dễ dàng theo dõi bằng cách sử dụng các gói được sử dụng trong LangChain như Claude, Cohere, Upstage, v.v. Nếu xem nội dung bài giảng, bạn chỉ có thể sử dụng ChatAnthropic , ChatCohere , ChatUpstage v.v. cho những phần tương ứng với llm trong LCEL, còn những ai muốn sử dụng Ollama và Llama3 thì có thể sử dụng ChatOllama .

Nếu bạn cần một bài giảng bằng Ollama hoặc có bất cứ điều gì muốn biết thêm về LLM, vui lòng để lại nhận xét về bài giảng hoặc câu hỏi về bài giảng hoặc gửi tin nhắn đến jasonkang14@gmail.com . Nó sẽ rất hữu ích trong việc chuẩn bị cho bài giảng tiếp theo!