Inflearn Community Q&A
asked
Retrieve 후 LLM 답변 관련 문의
Written on
·
204
0
안녕하세요?
강의 따라서 해보고 있는데, 질문할 때마다 답을 다르게 합니다. 이런 부분은 어떻게 해야 주로 정답을 이야기 할까요? 항상 정답을 이야기하면 좋겠으나 그렇지 않습니다. (3.5/3.6강 까지 들었습니다. 너무 여러 번 물어봐서 그런걸까요?)
vector-databasellmlangchainragopenai-api
Answer 1
0
jasonkang
Instructor
llm에서 temperature를 0으로 설정해보시겠어요? 답변이 오락가락하지 않는 효과를 주는 것으로 알려진 값입니다. 그리고 데이터 전처리와 키워드 활용까지 되는 상황이라서, 답변을 일정하게 가져가려면 context로 넣어주는 문서의 chunk숫자를 줄여보시면 조금 더 일관적인 답변을 받으실 수 있을거에요!