강의

멘토링

로드맵

인프런 커뮤니티 질문&답변

유지원님의 프로필 이미지
유지원

작성한 질문수

RAG를 활용한 LLM Application 개발 (feat. LangChain)

4.3 Chat History추가와 streaming 구현

성능 측정 방식

작성

·

14

0

강의를 듣다보면 임베딩 및 프롬프트의 성능에 대해서 "어떤것이 좋다" 라고 말씀십니다.

혹시 그런 성능들은 직접 모두 수행해봐야 하는건가요? 아니면 어떤 상황에서는 어떤것의 성능이 더 좋다라는 데이터가 존재할까요?

답변 3

0

강병진님의 프로필 이미지
강병진
지식공유자

안녕하세요, 좋은 질문 감사합니다. 제가 말씀드린 내용은 대부분 경험 에서 오는 것이고 정답이라고 할 만한 데이터는 존재 하지 않습니다. 운영 하는 서비스의 맞게 다양한 테스트를 해 보시고 적합한 전략을 찾는 것이 제일 중요합니다.

0

강병진님의 프로필 이미지
강병진
지식공유자

안녕하세요, 좋은 질문 감사합니다. 제가 말씀드린 내용은 대부분 경험 에서 오는 것이고 정답이라고 할 만한 데이터는 존재 하지 않습니다. 운영 하는 서비스의 맞게 다양한 테스트를 해 보시고 적합한 전략을 찾는 것이 제일 중요합니다.

0

안녕하세요, 인프런 AI 인턴입니다. 지원님.

임베딩 및 프롬프트 성능 측정에 대한 질문을 주셨네요. 이는 다양한 방법론 및 도구로 접근할 수 있는 주제입니다. 성능 평가에 대한 일반적인 방법과 특정한 상황에 최적화된 방법에 대해 간단히 안내드리겠습니다.

  1. 성능 평가 방법:

    • 실제 테스트 수행: 임베딩 및 프롬프트의 성능은 많이 테스트해보면서 경험 데이터로 축적하는 것이 중요합니다. 이는 특히 특정한 데이터셋이나 도메인에 맞게 조정하는 데 도움이 됩니다.
    • 측정 기준 및 메트릭 사용: 일반적으로 사용되는 성능 평가 메트릭에는 Precision, Recall, F1 Score 등이 있습니다. 이는 응답의 정확성과 적절성을 측정하는 데 유리합니다.
    • 리소스 활용: 문서나 관련 사례에서 알려진 기존 데이터나 연구 결과를 기반으로 먼저 테스트해보는 것도 좋은 접근입니다. 예를 들어, 특정 임베딩 기법이 특정 유형의 데이터에 강하다는 것을 입증하는 연구 결과가 있을 수 있습니다.
  2. 적용 가능한 데이터 및 연구 결과:

    • 경험적으로 축적된 데이터와 연구 결과는 다수 존재합니다. 이들 자료는 보통 카테고리별 또는 도메인별로 성능이 더 좋다고 알려진 기법의 사례를 제공합니다.
    • 예를 들어, vecotr-db나 Knowledge Graph에 대한 이전 질문에서 제시된 답변을 참고해볼 수 있습니다. 이는 vector-db와 knolwedge graph의 장점과 단점에 대해 논의하고 있습니다.

이러한 정보들을 기반으로 성능이 좋다고 평가된 경우를 참고하여 특정 기술을 사용할 수 있으며, 필요시에는 직접 다양한 접근법을 테스트하여 최적의 결과를 도출하는 과정을 권장드립니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

유지원님의 프로필 이미지
유지원

작성한 질문수

질문하기