inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

RAG를 활용한 LLM Application 개발 (feat. LangChain)

4.3 Chat History추가와 streaming 구현

성능 측정 방식

56

유지원

작성한 질문수 1

0

강의를 듣다보면 임베딩 및 프롬프트의 성능에 대해서 "어떤것이 좋다" 라고 말씀십니다.

혹시 그런 성능들은 직접 모두 수행해봐야 하는건가요? 아니면 어떤 상황에서는 어떤것의 성능이 더 좋다라는 데이터가 존재할까요?

vector-database llm langchain rag openai-api 카카오공채-개발

답변 3

1

제이쓴

안녕하세요, 좋은 질문 감사합니다. 제가 말씀드린 내용은 대부분 경험 에서 오는 것이고 정답이라고 할 만한 데이터는 존재 하지 않습니다. 운영 하는 서비스의 맞게 다양한 테스트를 해 보시고 적합한 전략을 찾는 것이 제일 중요합니다.

0

제이쓴

안녕하세요, 좋은 질문 감사합니다. 제가 말씀드린 내용은 대부분 경험 에서 오는 것이고 정답이라고 할 만한 데이터는 존재 하지 않습니다. 운영 하는 서비스의 맞게 다양한 테스트를 해 보시고 적합한 전략을 찾는 것이 제일 중요합니다.

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 지원님.

임베딩 및 프롬프트 성능 측정에 대한 질문을 주셨네요. 이는 다양한 방법론 및 도구로 접근할 수 있는 주제입니다. 성능 평가에 대한 일반적인 방법과 특정한 상황에 최적화된 방법에 대해 간단히 안내드리겠습니다.

  1. 성능 평가 방법:

    • 실제 테스트 수행: 임베딩 및 프롬프트의 성능은 많이 테스트해보면서 경험 데이터로 축적하는 것이 중요합니다. 이는 특히 특정한 데이터셋이나 도메인에 맞게 조정하는 데 도움이 됩니다.
    • 측정 기준 및 메트릭 사용: 일반적으로 사용되는 성능 평가 메트릭에는 Precision, Recall, F1 Score 등이 있습니다. 이는 응답의 정확성과 적절성을 측정하는 데 유리합니다.
    • 리소스 활용: 문서나 관련 사례에서 알려진 기존 데이터나 연구 결과를 기반으로 먼저 테스트해보는 것도 좋은 접근입니다. 예를 들어, 특정 임베딩 기법이 특정 유형의 데이터에 강하다는 것을 입증하는 연구 결과가 있을 수 있습니다.
  2. 적용 가능한 데이터 및 연구 결과:

    • 경험적으로 축적된 데이터와 연구 결과는 다수 존재합니다. 이들 자료는 보통 카테고리별 또는 도메인별로 성능이 더 좋다고 알려진 기법의 사례를 제공합니다.
    • 예를 들어, vecotr-db나 Knowledge Graph에 대한 이전 질문에서 제시된 답변을 참고해볼 수 있습니다. 이는 vector-db와 knolwedge graph의 장점과 단점에 대해 논의하고 있습니다.

이러한 정보들을 기반으로 성능이 좋다고 평가된 경우를 참고하여 특정 기술을 사용할 수 있으며, 필요시에는 직접 다양한 접근법을 테스트하여 최적의 결과를 도출하는 과정을 권장드립니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

Langchain 공식문서 학습 질문

0

57

2

온톨로지 활용

0

67

2

ollama설치해서 llama로 돌려도 되나요?

0

71

2

소득세법 docx 파일 공유 요청건

0

115

1

EXAONE 모델 불러오기 안되는 문제

0

108

2

[5.1 강의] LLM Evaluator에 Upstage를 사용하는 방법 + 변경된 Langsmith Docs를 참고하여 구현하는 방법 공유

0

139

2

강의 9에 QA관련된 import가 되지 않네요

0

132

2

🚨 python3.14 를 쓰고 계시면 chroma 에서 ConfigError 가 발생합니다.

1

251

1

강의와 책 관련 질문

0

104

1

문서 전처리 고민

0

129

1

RAG 배포 질문드립니다

0

111

1

강의 내용과는 별개로 궁금한 점이 있습니다

0

106

2

폐쇄망 챗봇 모델

0

106

1

AI agent 쿠폰

0

103

2

저는 왜 그대로 했는데 답변이 틀리게 나오는지 모르겠네요

0

112

2

langchain howto/sequence는 지금 doc 공식 사이트 어디서 확인할 수 있나요?

1

107

1

new_question에 대한 답 출력

0

80

2

랭체인 라이브러리

0

172

2

[LangGraph를 활용한 AI Agent 개발] 쿠폰 유효기간

0

119

1

postgresql의 pgvector 벡터는 어떤가요?

0

409

2

doc관련

0

150

2

load_dotenv() 실행 False

0

104

1

RAG 답변 개선을 위한 정답지 활용 구조 검토 요청

0

128

2

3.2 from langchain.chains ~ 에서 모듈을 찾지 못할 때.

2

440

2