정해진주제만 답하는봇
질문있습니다. Rag와 반대로 정해진주제외의 질문은 답을하지 않도록하는 방법도 있을까요? 예를들어 유아용 채팅봇을 만드는데 정해진 주제 외에는 답을하지 못하게 하고 싶습니다.
Câu trả lời 3
0
제일 좋은 방법은 질문의 의도를 파악하는 프롬프트를 먼저 작성하고 질문의 의도가 서비스의 목적과 맞다는게 판별되는 경우에 서비스의 프롬프트를 동작시키는 것입니다.
LLM은 다양한 것들을 할 수 있지만 동시에 여러가지 일을 하는데는 능숙하지 않습니다. 아마 많은 분들이 “정해진 주제와 맞지 않다면 답을 하지 말아주세요”라는 프롬프트를 추가하면 된다고 권장하실건데 경험상으로는
사용자 질문의 의도 파악
사용자 질문의 의도가 서비스와 맞지 않다면 서비스에 맞는 질문으로 유도(여기서는 LLM을 활용해서 추천 질문을 사용자에게 전달하는 것도 좋습니다)
사용자의 질문이 서비스의 방향과 맞다고 판단되면 답변 생성
현 시점에서 질문의 의도를 파악하는데는 gpt-4o-mini를 사용하는 걸로 충분하실거에요! 그렇다면 비용 최적화 하시면서 사용자가 의도한대로 서비스를 사용할 수 있도록 유도하실 수 있을거에요
소득세법 docx 파일 공유 요청건
0
60
1
EXAONE 모델 불러오기 안되는 문제
0
84
2
[5.1 강의] LLM Evaluator에 Upstage를 사용하는 방법 + 변경된 Langsmith Docs를 참고하여 구현하는 방법 공유
0
101
2
강의 9에 QA관련된 import가 되지 않네요
0
107
2
🚨 python3.14 를 쓰고 계시면 chroma 에서 ConfigError 가 발생합니다.
1
192
1
강의와 책 관련 질문
0
84
1
문서 전처리 고민
0
106
1
RAG 배포 질문드립니다
0
92
1
강의 내용과는 별개로 궁금한 점이 있습니다
0
86
2
폐쇄망 챗봇 모델
0
88
1
AI agent 쿠폰
0
93
2
저는 왜 그대로 했는데 답변이 틀리게 나오는지 모르겠네요
0
99
2
langchain howto/sequence는 지금 doc 공식 사이트 어디서 확인할 수 있나요?
1
91
1
new_question에 대한 답 출력
0
72
2
랭체인 라이브러리
0
143
2
[LangGraph를 활용한 AI Agent 개발] 쿠폰 유효기간
0
104
1
postgresql의 pgvector 벡터는 어떤가요?
0
336
2
doc관련
0
126
2
load_dotenv() 실행 False
0
93
1
RAG 답변 개선을 위한 정답지 활용 구조 검토 요청
0
117
2
3.2 from langchain.chains ~ 에서 모듈을 찾지 못할 때.
1
395
2
강의 완료 오류
0
87
1
hub.pull 이슈
0
128
2
[3.3 강의] Upstage를 사용한 RAG 구현 성공기 공유
1
147
1