良い講義ありがとうございました！

jjhgwx

生成AIまたはLLMをベースにRAG（検索拡張生成：Retrieval-Augmented Generation）システムを構築しても、望む性能が得られず、適切な解決策が見つからない場合はどうすればよいでしょうか？
本講義では、認知負荷（Cognitive Load）理論に基づき、RAG性能を改善する方策を提示します。この講義を通じて、LLMコンテキストウィンドウの限界を理解し、RAGシステムにおける認知負荷の効果的な管理方法を習得できます。チャンク（Chunk）のサイズと構造設計、高品質チャンク生成手法、動的最適化、性能評価、実践技法などを網羅する実務レベルの理論講義です。

arigaram

RAG性能の限界を突破する認知負荷管理技術

有益な講義となったようで嬉しいです。

컨텍스트창관리

chunk전략설계

rag시스템구축

llm성능평가및튜닝

동적최적화

생성형 인공지능 또는 LLM을 기반으로 RAG(검색 증강 생성: Retrieval-Augmented Generation) 시스템을 구축해도 바라는 성능이 나오지 않고 마땅한 해결책이 없을 때는 어떻게 해야 할까요? 

이 강의에서는 인지 부하(Cognitive Load) 이론을 기반으로 RAG 성능을 개선하는 방안을 제시합니다. 이 강의를 통해서 LLM 컨텍스트 창의 한계를 이해하고, RAG 시스템에서 인지 부하를 효과적으로 관리하는 방법을 알 수 있습니다. 청크(Chunk) 크기와 구조 설계, 고품질 청크 생성 기법, 동적 최적화, 성능 평가 및 실전 기법 등을 다루는 실무 수준 이론 강의입니다.

아리가람

입문

초급

중급이상

인공지능(AI)

챗지피티

ChatGPT

대규모 언어 모델

검색증강생성

Generative AI

AI 활용 (AX)

RAG 성능의 한계를 뚫는 인지 부하 관리 기술

[기본] 강의 소개 및 기본 개념

[기본] 컨텍스트 창과 토큰의 한계

[기본] 청킹 전략: 청크의 크기와 구조

[기본] 고품질 청크 생성 기법

[기본] RAG 파이프라인 통합 1단계: 전처리

[기본] RAG 파이프라인 통합 2단계: 인출 (유사도 검색과 필터링)

[기본] RAG 파이프라인 통합 3단계: 청크 재구성 및 프롬프트 재설계

[기본] RAG 파이프라인 통합 4단계: LLM 답변 생성 및 후처리

[기본] RAG 파이프라인 통합 5단계: 환각현상 점검 및 재투입 전략

[기본] RAG 파이프라인 통합 실습: 간단한 질문에 응답하는 RAG 시스템을 구축하기

[심화] 동적 최적화: 질문 복잡도 평가

[심화] 동적 최적화: 동적 청크 크기 조절 알고리즘

[심화] 동적 최적화: 적응형 요약 파라미터 조절

[심화] 동적 최적화: 멀티턴 대화에서의 컨텍스트 누적 관리

[심화] 동적 최적화: 시스템 모니터링 및 피드백 루프 설계

[심화] 성능 평가: 재현율과 정확도를 측정하기

[심화] 성능 평가: 지연 분석과 비용 분석

[심화] 성능 평가: 토큰 사용 효율 지표

[심화] 성능 평가: 사용자 만족도 평가 방법론

[심화] 성능 평가: A/B 테스트를 통한 전략 검증

[심화] 기술 전망: 완전히 자동화된 청크 최적화 연구 과제

[심화] 기술 전망: 장기 기억 통합

[심화] 기술 전망: 대규모 문서 기반 RAG 시나리오

[심화] 기술 전망: 멀티모달 정보 처리

[심화] RAG 성능 개선 프로젝트 수행 방법 안내: 1. 프로젝트 주제 선정 및 계획서 작성

[심화] RAG 성능 개선 프로젝트 수행 방법 안내: 2. 데이터 수집 및 전처리를 위한 파이프라인 구축

[심화] RAG 성능 개선 프로젝트 수행 방법 안내: 3. 청킹 전략 설계 및 구현

[심화] RAG 성능 개선 프로젝트 수행 방법 안내: 4. RAG 시스템 통합 및 조율

[심화] RAG 성능 개선 프로젝트 수행 방법 안내: 5. 성능 평가 및 평가 보고서 작성

[심화] RAG 성능 개선 프로젝트 수행 방법 안내: 6. 최종 발표 및 코드 리뷰

(장기 계획: 일정 미정) [보충] "청킹 전략: 청크의 크기와 구조"의 보충