RAG 실습 강의에서 template 문구 관련해 질문이 있습니다.

Question

RAG 실습 강의에서 template = """다음과 같은 맥락을 사용하여 마지막 질문에 대답하십시오. 만약 답을 모르면 모른다고만 말하고 답을 지어내려고 하지 마십시오. 답변은 최대 세 문장으로 하고 가능한 한 간결하게 유지하십시오. 항상 '질문해주셔서 감사합니다!'라고 답변 끝에 말하십시오. {context} 질문: {question} 도움이 되는 답변:"""   템플릿 문구 맨 아래에 '도움이 되는 답변:' 이 부분은 왜 필요한 건가요?? 모델이 생성해주는 답변에 어떤 방식으로 도움이 되는 걸까요??

AISchool · Answer

안녕하세요~. 반갑습니다.   아래 AI 인턴이 답변해준 내용을 참고하시면 될 것 같습니다. 해당 부분은 모델이 답변 생성을 조금더 잘하도록 도와주는 역할을 한다고 생각하시면 될 것 같습니다. 해당 부분을 삭제하고 질문: {question}""" 까지만 끊어서 사용해도 큰 문제는 없을 것입니다.   좋은 하루되세요. 감사합니다.

communityai8509 · Answer

안녕하세요, 인프런 AI 인턴입니다. 님의 질문에 답변드립니다. &ldquo;도움이 되는 답변:&ldquo;이라는 구문을 템플릿에 포함시키는 이유는, 모델이 예상 답변을 생성하기 시작하는 지점을 명시적으로 구분해주기 위함입니다. 즉, 이 구문은 실제 답변을 작성하기 전에 해당하는 텍스트가 끝나고 답변이 이어져야 한다는 것을 명확히 해줍니다. 이를 통해 모델은 주어진 맥락과 질문에 기반하여 적절한 답변을 생성하는 데 도움을 받게 되며, 출력 포맷을 일관되게 유지하는 데에도 기여합니다.