Jang Jaehoon

생성형 인공지능 또는 LLM을 기반으로 RAG(검색 증강 생성: Retrieval-Augmented Generation) 시스템을 구축해도 바라는 성능이 나오지 않고 마땅한 해결책이 없을 때는 어떻게 해야 할까요? 

이 강의에서는 인지 부하(Cognitive Load) 이론을 기반으로 RAG 성능을 개선하는 방안을 제시합니다. 이 강의를 통해서 LLM 컨텍스트 창의 한계를 이해하고, RAG 시스템에서 인지 부하를 효과적으로 관리하는 방법을 알 수 있습니다. 청크(Chunk) 크기와 구조 설계, 고품질 청크 생성 기법, 동적 최적화, 성능 평가 및 실전 기법 등을 다루는 실무 수준 이론 강의입니다.

아리가람

RAG 성능의 한계를 뚫는 인지 부하 관리 기술

유익한 강의가 된 것 같아 기쁩니다.

컨텍스트창관리

chunk전략설계

rag시스템구축

llm성능평가및튜닝

동적최적화

Khi xây dựng hệ thống RAG (Retrieval-Augmented Generation: Tạo sinh tăng cường truy xuất) dựa trên AI tạo sinh hoặc LLM mà không đạt được hiệu suất mong muốn và không có giải pháp thích hợp, thì phải làm sao?

Khóa học này sẽ trình bày các phương pháp cải thiện hiệu suất RAG dựa trên lý thuyết Cognitive Load (Tải trọng nhận thức). Thông qua khóa học này, bạn có thể hiểu được giới hạn của cửa sổ ngữ cảnh LLM và cách quản lý Cognitive Load một cách hiệu quả trong hệ thống RAG. Đây là một khóa học lý thuyết cấp độ thực tiễn, bao gồm các chủ đề như kích thước và thiết kế cấu trúc Chunk, kỹ thuật tạo Chunk chất lượng cao, tối ưu hóa động, đánh giá hiệu suất và các kỹ thuật thực chiến.

arigaram

입문

초급

중급이상

챗지피티

ChatGPT

대규모 언어 모델

검색증강생성

Generative AI

Kỹ thuật quản lý tải nhận thức vượt giới hạn hiệu suất RAG

[Cơ bản] Giới thiệu khóa học và các khái niệm cơ bản

[Cơ bản] Giới hạn của cửa sổ ngữ cảnh và token

[Cơ bản] Chiến lược phân đoạn: Kích thước và cấu trúc của chunk

[Cơ bản] Kỹ thuật tạo chunk chất lượng cao

[Cơ bản] Tích hợp pipeline RAG bước 1: Tiền xử lý

[Cơ bản] Tích hợp pipeline RAG giai đoạn 2: Truy xuất (Tìm kiếm độ tương tự và lọc)

[Cơ bản] Tích hợp pipeline RAG 3 giai đoạn: Tái cấu trúc chunk và thiết kế lại prompt

[Cơ bản] Tích hợp pipeline RAG bước 4: Tạo câu trả lời LLM và xử lý hậu kỳ

[Cơ bản] 5 giai đoạn tích hợp pipeline RAG: Kiểm tra hiện tượng ảo giác và chiến lược tái đầu vào

[Cơ bản] Thực hành tích hợp pipeline RAG: Xây dựng hệ thống RAG trả lời các câu hỏi đơn giản

[Nâng cao] Tối ưu hóa động: Đánh giá độ phức tạp câu hỏi

[Nâng cao] Tối ưu hóa động: Thuật toán điều chỉnh kích thước chunk động

[Nâng cao] Tối ưu hóa động: Điều chỉnh tham số tóm tắt thích ứng

[Nâng cao] Tối ưu hóa động: Quản lý tích lũy ngữ cảnh trong đối thoại đa lượt

[Nâng cao] Tối ưu hóa động: Thiết kế giám sát hệ thống và vòng lặp phản hồi

[Nâng cao] Đánh giá hiệu suất: Đo lường độ nhạy và độ chính xác

[Nâng cao] Đánh giá hiệu suất: Phân tích độ trễ và phân tích chi phí

[Nâng cao] Đánh giá hiệu suất: Chỉ số hiệu quả sử dụng token

[Nâng cao] Đánh giá hiệu suất: Phương pháp luận đánh giá mức độ hài lòng của người dùng

[Nâng cao] Đánh giá hiệu suất: Xác minh chiến lược thông qua A/B test

[Nâng cao] Triển vọng công nghệ: Nhiệm vụ nghiên cứu tối ưu hóa chunk tự động hoàn toàn

[Nâng cao] Triển vọng công nghệ: Tích hợp bộ nhớ dài hạn

[Nâng cao] Triển vọng công nghệ: Kịch bản RAG dựa trên tài liệu quy mô lớn

[Nâng cao] Triển vọng công nghệ: Xử lý thông tin đa phương thức

[Nâng cao] Phương pháp thực hiện xây dựng hệ thống RAG: 1. Lựa chọn chủ đề dự án và viết kế hoạch

[Nâng cao] Phương pháp thực hiện xây dựng hệ thống RAG: 2. Xây dựng pipeline để thu thập và tiền xử lý dữ liệu

[Nâng cao] Phương pháp thực hiện xây dựng hệ thống RAG: 3. Thiết kế và triển khai chiến lược chunking

[Nâng cao] Phương pháp thực hiện xây dựng hệ thống RAG: 4. Tích hợp và điều chỉnh hệ thống RAG

[Nâng cao] Phương pháp thực hiện xây dựng hệ thống RAG: 5. Đánh giá hiệu suất và viết báo cáo đánh giá

[Nâng cao] Phương pháp thực hiện xây dựng hệ thống RAG: 6. Thuyết trình cuối cùng và đánh giá mã nguồn

(Kế hoạch dài hạn: lịch trình chưa xác định) [Bổ sung] Bổ sung cho "Chiến lược chunking: Kích thước và cấu trúc của chunk"