jjhgwx

Khi xây dựng hệ thống RAG (Retrieval-Augmented Generation: Tạo sinh tăng cường truy xuất) dựa trên AI tạo sinh hoặc LLM mà không đạt được hiệu suất mong muốn và không có giải pháp thích hợp, thì phải làm sao?

Khóa học này sẽ trình bày các phương pháp cải thiện hiệu suất RAG dựa trên lý thuyết Cognitive Load (Tải trọng nhận thức). Thông qua khóa học này, bạn có thể hiểu được giới hạn của cửa sổ ngữ cảnh LLM và cách quản lý Cognitive Load một cách hiệu quả trong hệ thống RAG. Đây là một khóa học lý thuyết cấp độ thực tiễn, bao gồm các chủ đề như kích thước và thiết kế cấu trúc Chunk, kỹ thuật tạo Chunk chất lượng cao, tối ưu hóa động, đánh giá hiệu suất và các kỹ thuật thực chiến.

arigaram

Kỹ thuật quản lý tải nhận thức vượt giới hạn hiệu suất RAG

Tôi vui vì buổi học зда như đã bổ ích.

컨텍스트창관리

chunk전략설계

rag시스템구축

llm성능평가및튜닝

동적최적화

What should be done when building a generative AI or LLM-based RAG (Retrieval-Augmented Generation) system, but the desired performance isn't achieved and there's no suitable solution?

This lecture presents methods to improve RAG performance based on Cognitive Load theory. Through this lecture, you will understand the limitations of LLM context windows and learn how to effectively manage cognitive load in RAG systems. It is a practical-level theoretical lecture covering Chunk size and structure design, high-quality Chunk generation techniques, dynamic optimization, performance evaluation, and practical techniques.

입문

초급

중급이상

챗지피티

ChatGPT

대규모 언어 모델

검색증강생성

Generative AI

Cognitive Load Management Technology Breaking Through the Limits of RAG Performance

[Basics] Course Introduction and Fundamental Concepts

[Basic] Context Window and Token Limitations

[Basics] Chunking Strategy: Chunk Size and Structure

[기본] "청킹 전략: 청크의 크기와 구조"의 심화

[Basics] High-Quality Chunk Generation Techniques

[Basic] RAG Pipeline Integration Step 1: Preprocessing

[Basics] RAG Pipeline Integration Stage 2: Retrieval (Similarity Search and Filtering)

[Basics] RAG Pipeline Integration Step 3: Chunk Reconstruction and Prompt Redesign

[Basics] RAG Pipeline Integration Step 4: LLM Answer Generation and Post-processing

[Basics] RAG Pipeline Integration 5 Steps: Hallucination Detection and Re-injection Strategy

[Basic] RAG Pipeline Integration Practice: Building a RAG System that Responds to Simple Questions

[Advanced] Dynamic Optimization: Question Complexity Assessment

[Advanced] Dynamic Optimization: Dynamic Chunk Size Adjustment Algorithm

(Scheduled) [Advanced] Dynamic Optimization: Adaptive Summary Parameter Adjustment

(Scheduled) [Advanced] Dynamic Optimization: Context Accumulation Management in Multi-turn Conversations

(Scheduled) [Advanced] Dynamic Optimization: System Monitoring and Feedback Loop Design

(Scheduled) [Advanced] Performance Evaluation: Measuring Recall and Precision

(Scheduled) [Advanced] Performance Evaluation: Latency Analysis and Cost Analysis

(Scheduled) [Advanced] Performance Evaluation: Token Usage Efficiency Metrics

(Scheduled) [Advanced] Performance Evaluation: User Satisfaction Assessment Methodology

(Scheduled) [Advanced] Performance Evaluation: Strategy Validation through A/B Testing

(Scheduled) [Advanced] Technology Outlook: Fully Automated Chunk Optimization

(Scheduled) [Advanced] Technology Outlook: Long-term Memory Integration

(Scheduled) [Advanced] Technology Outlook: RAG Scenarios for Large-Scale Multimedia Documents

(Scheduled) [Advanced] Technology Outlook: Multimodal Information Processing

(Scheduled) [Advanced] Introduction to Project Implementation Methods: Project Topic Selection and Proposal Writing

(Scheduled) [Advanced] Introduction to Project Implementation Methods: Building Pipelines for Data Collection and Preprocessing

(Scheduled) [Advanced] Introduction to Project Implementation Methods: Chunking Strategy Design and Implementation

(Scheduled) [Advanced] Introduction to Project Implementation Methods: RAG System Integration and Coordination

(Scheduled) [Advanced] Introduction to Project Implementation Methods: Performance Evaluation and Assessment Report Writing

(Scheduled) [Advanced] Introduction to Project Implementation Methods: Final Presentation and Code Review