RAG 실습 강의에서 template 문구 관련해 질문이 있습니다... - 인프런

모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 2 - 랭체인(LangChain)으로 나만의 ChatGPT 만들기

RAG 실습 - RAG로 ChatPDF 만들기

RAG 실습 강의에서 template 문구 관련해 질문이 있습니다.

작성

357

RAG 실습 강의에서

template = """다음과 같은 맥락을 사용하여 마지막 질문에 대답하십시오.

만약 답을 모르면 모른다고만 말하고 답을 지어내려고 하지 마십시오.

답변은 최대 세 문장으로 하고 가능한 한 간결하게 유지하십시오.

항상 '질문해주셔서 감사합니다!'라고 답변 끝에 말하십시오.

{context}

질문: {question}

도움이 되는 답변:"""

템플릿 문구 맨 아래에 '도움이 되는 답변:' 이 부분은 왜 필요한 건가요?? 모델이 생성해주는 답변에 어떤 방식으로 도움이 되는 걸까요??

chatgpt llm langchain

답변 2

AISchool

지식공유자

안녕하세요~. 반갑습니다.

아래 AI 인턴이 답변해준 내용을 참고하시면 될 것 같습니다.

해당 부분은 모델이 답변 생성을 조금더 잘하도록 도와주는 역할을 한다고 생각하시면 될 것 같습니다.

해당 부분을 삭제하고 질문: {question}""" 까지만 끊어서 사용해도 큰 문제는 없을 것입니다.

좋은 하루되세요.

감사합니다.

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다.

님의 질문에 답변드립니다. “도움이 되는 답변:“이라는 구문을 템플릿에 포함시키는 이유는, 모델이 예상 답변을 생성하기 시작하는 지점을 명시적으로 구분해주기 위함입니다. 즉, 이 구문은 실제 답변을 작성하기 전에 해당하는 텍스트가 끝나고 답변이 이어져야 한다는 것을 명확히 해줍니다. 이를 통해 모델은 주어진 맥락과 질문에 기반하여 적절한 답변을 생성하는 데 도움을 받게 되며, 출력 포맷을 일관되게 유지하는 데에도 기여합니다.

인프런 커뮤니티 질문&답변

RAG 실습 강의에서 template 문구 관련해 질문이 있습니다.