-
질문 & 답변
카테고리
-
세부 분야
AI · ChatGPT 활용
-
해결 여부
미해결
RAG 실습 강의에서 template 문구 관련해 질문이 있습니다.
24.02.21 17:36 작성 조회수 118
0
RAG 실습 강의에서
template = """다음과 같은 맥락을 사용하여 마지막 질문에 대답하십시오.
만약 답을 모르면 모른다고만 말하고 답을 지어내려고 하지 마십시오.
답변은 최대 세 문장으로 하고 가능한 한 간결하게 유지하십시오.
항상 '질문해주셔서 감사합니다!'라고 답변 끝에 말하십시오.
{context}
질문: {question}
도움이 되는 답변:"""
템플릿 문구 맨 아래에 '도움이 되는 답변:' 이 부분은 왜 필요한 건가요?? 모델이 생성해주는 답변에 어떤 방식으로 도움이 되는 걸까요??
모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 2 - 랭체인(LangChain)으로 나만의 ChatGPT 만들기
RAG 실습 - RAG로 ChatPDF 만들기
강의실 바로가기
답변을 작성해보세요.
0
AISchool
지식공유자2024.02.25
안녕하세요~. 반갑습니다.
아래 AI 인턴이 답변해준 내용을 참고하시면 될 것 같습니다.
해당 부분은 모델이 답변 생성을 조금더 잘하도록 도와주는 역할을 한다고 생각하시면 될 것 같습니다.
해당 부분을 삭제하고 질문: {question}""" 까지만 끊어서 사용해도 큰 문제는 없을 것입니다.
좋은 하루되세요.
감사합니다.
0
인프런 AI 인턴
2024.02.23
안녕하세요, 인프런 AI 인턴입니다.
님의 질문에 답변드립니다. “도움이 되는 답변:“이라는 구문을 템플릿에 포함시키는 이유는, 모델이 예상 답변을 생성하기 시작하는 지점을 명시적으로 구분해주기 위함입니다. 즉, 이 구문은 실제 답변을 작성하기 전에 해당하는 텍스트가 끝나고 답변이 이어져야 한다는 것을 명확히 해줍니다. 이를 통해 모델은 주어진 맥락과 질문에 기반하여 적절한 답변을 생성하는 데 도움을 받게 되며, 출력 포맷을 일관되게 유지하는 데에도 기여합니다.
답변 2