jjhgwx

What should be done when building a generative AI or LLM-based RAG (Retrieval-Augmented Generation) system, but the desired performance isn't achieved and there's no suitable solution?

This lecture presents methods to improve RAG performance based on Cognitive Load theory. Through this lecture, you will understand the limitations of LLM context windows and learn how to effectively manage cognitive load in RAG systems. It is a practical-level theoretical lecture covering Chunk size and structure design, high-quality Chunk generation techniques, dynamic optimization, performance evaluation, and practical techniques.

arigaram

Cognitive Load Management Technology Breaking Through the Limits of RAG Performance

컨텍스트창관리

chunk전략설계

rag시스템구축

llm성능평가및튜닝

동적최적화

生成AIまたはLLMをベースにRAG（検索拡張生成：Retrieval-Augmented Generation）システムを構築しても、望む性能が得られず、適切な解決策が見つからない場合はどうすればよいでしょうか？
本講義では、認知負荷（Cognitive Load）理論に基づき、RAG性能を改善する方策を提示します。この講義を通じて、LLMコンテキストウィンドウの限界を理解し、RAGシステムにおける認知負荷の効果的な管理方法を習得できます。チャンク（Chunk）のサイズと構造設計、高品質チャンク生成手法、動的最適化、性能評価、実践技法などを網羅する実務レベルの理論講義です。

입문

초급

중급이상

챗지피티

ChatGPT

대규모 언어 모델

검색증강생성

Generative AI

RAG性能の限界を突破する認知負荷管理技術

[基本] 講義紹介及び基本概念

[基本] コンテキストウィンドウとトークンの限界

[基本] チャンキング戦略：チャンクのサイズと構造

[基本] 高品質チャンク生成技法

[基本] RAGパイプライン統合1段階：前処理

[基本] RAGパイプライン統合2段階：検索（類似度検索とフィルタリング）

[基本] RAGパイプライン統合3段階：チャンク再構成およびプロンプト再設計

[基本] RAGパイプライン統合4段階：LLM回答生成及び後処理

[基本] RAGパイプライン統合5段階：幻覚現象チェック及び再投入戦略

[基本] RAGパイプライン統合実習: 簡単な質問に応答するRAGシステムを構築する

[上級] 動的最適化: 質問複雑度評価

[上級] 動的最適化：動的チャンクサイズ調整アルゴリズム

[上級] 動的最適化：適応型要約パラメータ調整

[上級] 動的最適化：マルチターン対話におけるコンテキスト蓄積管理

[上級] 動的最適化：システムモニタリング及びフィードバックループ設計

[上級] 性能評価：再現率と精度を測定する

[上級] パフォーマンス評価：遅延分析とコスト分析

[上級] パフォーマンス評価：トークン使用効率指標

[上級] パフォーマンス評価：ユーザー満足度評価方法論

[上級] パフォーマンス評価：A/Bテストによる戦略検証

[上級] 技術展望：完全に自動化されたチャンク最適化研究課題

[上級] 技術展望：長期記憶統合

[上級] 技術展望：大規模文書ベースRAGシナリオ

[上級] 技術展望：マルチモーダル情報処理

[上級] RAG性能改善プロジェクト実行方法ガイド: 1. プロジェクトテーマ選定及び計画書作成

[上級] RAG性能改善プロジェクト実行方法ガイド: 2. データ収集および前処理のためのパイプライン構築

[上級] RAG性能改善プロジェクト実行方法ガイド: 3. チャンキング戦略設計及び実装

[上級] RAG性能改善プロジェクト実行方法ガイド: 4. RAGシステム統合及び調整

[上級] RAG性能改善プロジェクト実行方法ガイド: 5. 性能評価及び評価報告書作成

[上級] RAG性能改善プロジェクト実行方法ガイド: 6. 最終発表およびコードレビュー

(長期計画：日程未定) [補充] "チャンキング戦略：チャンクのサイズと構造"の補充