jjhgwx

What should be done when building a generative AI or LLM-based RAG (Retrieval-Augmented Generation) system, but the desired performance isn't achieved and there's no suitable solution?

This lecture presents methods to improve RAG performance based on Cognitive Load theory. Through this lecture, you will understand the limitations of LLM context windows and learn how to effectively manage cognitive load in RAG systems. It is a practical-level theoretical lecture covering Chunk size and structure design, high-quality Chunk generation techniques, dynamic optimization, performance evaluation, and practical techniques.

arigaram

Cognitive Load Management Technology Breaking Through the Limits of RAG Performance

컨텍스트창관리

chunk전략설계

rag시스템구축

llm성능평가및튜닝

동적최적화

생성형 인공지능 또는 LLM을 기반으로 RAG(검색 증강 생성: Retrieval-Augmented Generation) 시스템을 구축해도 바라는 성능이 나오지 않고 마땅한 해결책이 없을 때는 어떻게 해야 할까요? 

이 강의에서는 인지 부하(Cognitive Load) 이론을 기반으로 RAG 성능을 개선하는 방안을 제시합니다. 이 강의를 통해서 LLM 컨텍스트 창의 한계를 이해하고, RAG 시스템에서 인지 부하를 효과적으로 관리하는 방법을 알 수 있습니다. 청크(Chunk) 크기와 구조 설계, 고품질 청크 생성 기법, 동적 최적화, 성능 평가 및 실전 기법 등을 다루는 실무 수준 이론 강의입니다.

아리가람

입문

초급

중급이상

인공지능(AI)

챗지피티

ChatGPT

대규모 언어 모델

검색증강생성

Generative AI

AI 활용 (AX)

RAG 성능의 한계를 뚫는 인지 부하 관리 기술

[기본 1] 강의 소개 및 기본 개념

[기본 1]의 코드 구현 연습

[기본 2] 컨텍스트 창과 토큰의 한계

[기본 2]의 코드 구현 연습

[기본 3] 청킹 전략: 청크의 크기와 구조

[기본 3]의 코드 구현 연습

[기본 4] 고품질 청크 생성 기법

[기본 4]의 코드 구현 연습

[기본 5] RAG 파이프라인 통합 1단계: 전처리

[기본 5]의 코드 구현 연습

[기본 6] RAG 파이프라인 통합 2단계: 인출 (유사도 검색과 필터링)

[기본 6]의 코드 구현 연습

[기본 7] RAG 파이프라인 통합 3단계: 청크 재구성 및 프롬프트 재설계

[기본 7]의 코드 구현 연습

[기본 8] RAG 파이프라인 통합 4단계: LLM 답변 생성 및 후처리

[기본 8]의 코드 구현 연습

[기본 9] RAG 파이프라인 통합 5단계: 환각현상 점검 및 재투입 전략

[기본 9]의 코드 구현 연습

[기본 10] RAG 파이프라인 통합 실습: 간단한 질문에 응답하는 RAG 시스템을 구축하기

[심화 1] 동적 최적화: 질문 복잡도 평가

[심화 1]의 코드 구현 연습

[심화 2] 동적 최적화: 동적 청크 크기 조절 알고리즘

[심화 2]의 코드 구현 연습

[심화 3] 동적 최적화: 적응형 요약 파라미터 조절

[심화 3]의 코드 구현 연습

[심화 4] 동적 최적화: 멀티턴 대화에서의 컨텍스트 누적 관리

[심화 4]의 코드 구현 연습

[심화 5] 동적 최적화: 시스템 모니터링 및 피드백 루프 설계

[심화 5]의 코드 구현 연습

[심화 6] 성능 평가: 재현율과 정확도를 측정하기

[심화 6]의 코드 구현 연습

[심화 7] 성능 평가: 지연 분석과 비용 분석

[심화 7]의 코드 구현 연습

[심화 8] 성능 평가: 토큰 사용 효율 지표

[심화 8]의 코드 구현 연습

[심화 9] 성능 평가: 사용자 만족도 평가 방법론

[심화 10] 성능 평가: A/B 테스트를 통한 전략 검증

[심화 10]의 코드 구현 연습

[심화 11] 기술 전망: 완전히 자동화된 청크 최적화 연구 과제

[심화 12] 기술 전망: 장기 기억 통합

[심화 12]의 코드 구현 연습

[심화 13] 기술 전망: 대규모 문서 기반 RAG 시나리오

[심화 13]의 코드 구현 연습

[심화 14] 기술 전망: 멀티모달 정보 처리

[심화 14]의 코드 구현 연습

[심화 15] RAG 성능 개선 프로젝트 수행 방법 안내: 1. 프로젝트 주제 선정 및 계획서 작성

[심화 16] RAG 성능 개선 프로젝트 수행 방법 안내: 2. 데이터 수집 및 전처리를 위한 파이프라인 구축

[심화 16]의 코드 구현 연습

[심화 17] RAG 성능 개선 프로젝트 수행 방법 안내: 3. 청킹 전략 설계 및 구현

[심화 17]의 코드 구현 연습

[심화 18] RAG 성능 개선 프로젝트 수행 방법 안내: 4. RAG 시스템 통합 및 조율

[심화 18]의 코드 구현 연습

[심화 19] RAG 성능 개선 프로젝트 수행 방법 안내: 5. 성능 평가 및 평가 보고서 작성

[심화 19]의 코드 구현 연습

[심화 20] RAG 성능 개선 프로젝트 수행 방법 안내: 6. 최종 발표 및 코드 리뷰

[심화 20]의 코드 구현 연습

(장기 계획: 일정 미정) [보충 1] "청킹 전략: 청크의 크기와 구조"의 보충