RAG에서 Generator으로 어떤 데이터가 들어가는지 볼 수 있는 방법이 있나요?
안녕하세요, 다시 질문드릴 것이 있어 글 남깁니다.
RAG에서 Retriever가 Generator에 보내는 데이터가 무엇인지 확인해보고 싶고,
Generator에서도 중간에 어떤 데이터를 받는지 확인해보고 싶은데 가능한 방법이 있다면 알려주시면 좋겠습니다..
아마 제가 보낸 쿼리에 대한 similarity search의 결과를 줄 것같긴한데,
정말 generator들어가기 전에 어떤 데이터가 들어가는지 뜯어보고 싶어서요.
감사합니다.
Answer 1
1
안녕하세요~. 반갑습니다.
https://www.langchain.com/langsmith
위 사이트에서 LangSmith라는 서비스를 신청하시고 내 LangSmith API 키를 아래와 같이 설정하시면 ( https://python.langchain.com/docs/use_cases/question_answering/quickstart#langsmith 를 참조하세요.)
os.environ["LANGCHAIN_TRACING_V2"] = "true"
os.environ["LANGCHAIN_API_KEY"] = getpass.getpass()Retriever가 실제 Generator가 보내는 데이터가 무엇인지 확인하실 수 있습니다.
다만 제가 예전에 신청할때는 베타버전이라 신청후 베타테스터에 선정되어야만 기능을 사용하고 API 키를 발급받을 수 있었는데 지금은 정식출시 된것인지 아직 베타버전인지는 잘 모르겠습니다.
아직도 베타버전이라면 베타테스터 신청을 진행하신후 승인이 날때까지 기다리신 다음에 베타테스터로 승인을 받으신후 사용하실 수 있습니다.
좋은 하루되세요.
감사합니다.
0
감사합니다. 사내 보안때문에 타사 API 를 마음대로 쓰기 어려운데, 코드상으로는 어려울까요?? 그렇다면 그냥 Similarity search의 값이라고 유추하는게 좋을까요?
1
네. 안녕하세요~.
LangSmith를 사용하기 힘든 상황이라면 말씀해주신대로 Similarity search의 값이라고 유추하는게 좋을 것 같습니다.
좋은 하루되세요.
감사합니다.
1
아, 제가 설명을 어렵게 드려서 그런가 LangSmith는 너무 스케일이 컸었는데, 아래 코드로 결과를 간단하게 받을 수 있네요! 단순히 결과치만 받고 싶었던 것이라서요. 감사합니다.
response = retriever.get_relevant_documents(query)혹시 로컬llm을 활용해서 RAG를 구현하는 예제도 한번 올려주시면 안될까요?
0
965
2
검증 방법 질문입니다.
0
151
2
with_structured_output 함수
0
796
1
Quickstart 오류 - Query Analysis Quickstart 기초 예제 실습
0
257
2
docStore
0
137
0
langchain.schema가 무슨 역할을 하는지요?
0
492
2
라마 3(Llama 3)로 AI 텍스트 번역하기 실행 오류.
0
979
2
SQL 에이전트 제작 예제 프로그램과 관련하여 질문 드립니다.
0
207
2
하이퍼클로바 X 랭체인
0
391
2
ConversationSummaryBufferMemory의 max_token_limit
0
320
2
SelfQueryRetriever 사용시
0
311
2
!pip install langchain_community 문장이 필요할 것같아요(강의 2,4)
0
1262
2
memory+ Retriever +llm 질문있습니다.
0
228
1
self query retriever 한글
0
453
2
selfqueryRetriever에서 contain,like 필터링 오류문제
1
336
2
상품추천GPT에서 데이터를 바꿔 사용하는데 오류나는 이슈
1
254
2
Rag 사용시 전혀 관계없는 데이터를 가져오는 이슈
0
1293
2
bert vs gpt 의 혼란스러운 점
0
566
2
chromadb 용량
0
556
2
RAG 실습 강의에서 template 문구 관련해 질문이 있습니다.
0
445
2
RAG의 데이터 소스로 RDB 사용 시 어떤 로더를 사용해야 하나요?
0
2326
2
db.delete_collection() db가 정의되어 있지 않아 문의드립니다.
0
178
1
GPT api 토큰 제한
0
1739
1
Data Loader 관해서
0
305
2