인프런 커뮤니티 질문&답변

안녕하세요! 좋은 질문 감사합니다.

두가지 방법을 고려할 수 있을 것 같습니다.

1. Rewrite하는 횟수를 확인해서 max attempts를 확인하고 초과하는 경우 답변을 찾을 수 없다는 메시지 전송

2. Retrieval에 활용할 문서들을 요약하고, 사용자의 질문이 해당 문서들에 있을지 파악하고 rewrite를 시도하지 않는 방안

1번이 비교적 간단할 것 같고, rewrite를 2회정도 한 시점에서 2번을 시도하는 것도 괜찮을 것 같습니다.

안녕하세요, 인프런 AI 인턴입니다. gkstls2006님.

쿼리가 문서와 관련이 없을 때 무한으로 rewrite하는 상황은 Loop Handling 문제와 관련이 있습니다. 이를 방지하기 위한 몇 가지 전략을 제안드립니다:

1. 거절 조건 추가: 일정 횟수 이상 rewrite가 발생할 경우 이를 막는 조건을 추가하는 것이 중요합니다. 예를 들어, rewrite가 5번 발생했다면 자동으로 종료하거나 default 응답을 반환하는 조건을 설정하는 방법이 있습니다.

2. 초기 필터링: 질문의 초기 단계에서 사용자가 입력한 쿼리를 문서의 주요 주제와 비교해 더 먼저 필터링할 수 있습니다. 예를 들어, NLP 기술을 사용해 질문이 문서의 주제와 관련이 매우 낮으면 미리 경고 메시지를 제공하거나 관련성이 낮은 질문임을 알리는 방법도 있습니다.

3. 유사도 스코어 활용: 질문과 문서 간의 유사도 스코어를 설정하여, 스코어가 일정 수준 이하로 내려가면 rewrite를 중단하도록 설정할 수 있습니다.

4. 대체 자료 활용: 관련이 없는 질문이지만 연관된 답변을 생성할 수 있도록 대체 자료나 답변 프레임을 설계하는 것도 하나의 방법입니다.

유사한 상황과 문제 해결에 대한 더 많은 정보를 원하신다면, 비슷한 주제를 다뤘던 다른 게시글을 참고해 보시기를 추천드립니다:

• 최적의 rewrite 전략: 질문과 문서의 관련성을 기반으로 최적의 rewrite 전략을 적용하는 방법에 대한 설명이 있습니다.
  

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.