inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 2 - 랭체인(LangChain)으로 나만의 ChatGPT 만들기

FewShotPromptTemplate - Few-Shot 프롬프트를 손쉽게 구성하기

memory+ Retriever +llm 질문있습니다.

228

sangin1.park

작성한 질문수 14

0

prompt는 memory+ Retriever +llm를 결합하여 사용할 때 사용할 수 없나요?

chatgpt llm langchain

답변 1

0

AISchool

안녕하세요~. 반갑습니다.

아래와 같은 형태로 묶어서 사용하시면 됩니다.

1. retriever 설정

retriever = vectorstore.as_retriever()
  1. memory에서 채팅 history를 불러오는 함수 작성

def load_memory(input):
    return memory.load_memory_variables({})["history"]
  1. retriever + memory 결합 prompt 작성

from langchain.prompts import PromptTemplate

template = """다음과 같은 맥락과 채팅히스토리를 사용하여 마지막 질문에 대답하십시오.
맥락: {context}
채팅히스토리: {history}
질문: {question}
도움이 되는 답변:"""
rag_prompt_custom = PromptTemplate.from_template(template)
  1. llm과 최종 합성 프롬프트를 사용하여 답변생성

    # RAG chain 설정
    from langchain.schema.runnable import RunnablePassthrough
    from langchain_core.prompts import MessagesPlaceholder
    
    rag_chain = {"context": retriever, "question": RunnablePassthrough(), "history": load_memory} | rag_prompt_custom | llm
    rag_chain.invoke('안녕?')

    좋은 하루되세요~.


    감사합니다.

혹시 로컬llm을 활용해서 RAG를 구현하는 예제도 한번 올려주시면 안될까요?

0

961

2

검증 방법 질문입니다.

0

151

2

with_structured_output 함수

0

796

1

Quickstart 오류 - Query Analysis Quickstart 기초 예제 실습

0

257

2

docStore

0

137

0

langchain.schema가 무슨 역할을 하는지요?

0

491

2

라마 3(Llama 3)로 AI 텍스트 번역하기 실행 오류.

0

979

2

SQL 에이전트 제작 예제 프로그램과 관련하여 질문 드립니다.

0

207

2

하이퍼클로바 X 랭체인

0

391

2

ConversationSummaryBufferMemory의 max_token_limit

0

320

2

SelfQueryRetriever 사용시

0

311

2

!pip install langchain_community 문장이 필요할 것같아요(강의 2,4)

0

1262

2

self query retriever 한글

0

453

2

selfqueryRetriever에서 contain,like 필터링 오류문제

1

336

2

상품추천GPT에서 데이터를 바꿔 사용하는데 오류나는 이슈

1

254

2

Rag 사용시 전혀 관계없는 데이터를 가져오는 이슈

0

1293

2

bert vs gpt 의 혼란스러운 점

0

566

2

chromadb 용량

0

556

2

RAG에서 Generator으로 어떤 데이터가 들어가는지 볼 수 있는 방법이 있나요?

0

407

1

RAG 실습 강의에서 template 문구 관련해 질문이 있습니다.

0

444

2

RAG의 데이터 소스로 RDB 사용 시 어떤 로더를 사용해야 하나요?

0

2325

2

db.delete_collection() db가 정의되어 있지 않아 문의드립니다.

0

177

1

GPT api 토큰 제한

0

1739

1

Data Loader 관해서

0

305

2