묻고 답해요
164만명의 커뮤니티!! 함께 토론해봐요.
인프런 TOP Writers
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
Rerank에 대해 질문드립니다.
안녕하세요 선생님 🙂먼저 양질의 강의를 제공해주셔 정말 감사합니다. cross_encoder_retriever = ContextualCompressionRetriever( base_compressor=re_ranker, base_retriever=multi_query_custom_retriever, )위와 같이 re-ranker를 적용시킬때 retriever를 멀티쿼리로 적용을 해보았습니다.랭스미스로 로깅을 해보니, 멀티 쿼리는 정상적으로 작동한것 같은데요, 각각의 쿼리에 대해 Runnable로 리랭킹을 하는게 아닌, 원본 쿼리를 기반으로 리랭킹을 한다는 느낌을 받았습니다.아무래도 데이터셋이 테스트용이라 확답이 안서는데, 이 부분은 사용자의 "원본" 쿼리로만 리랭킹을 하는건지 궁금합니다. 만약 그렇다면 랭그래프로 해결을 할 수 있을듯 한데요,State에 멀티 쿼리의 문서 검색 결과를 저장한 뒤, 각 쿼리에 대한 리랭킹 노드를 하는 방법이 생각이 났는데 피드백 부탁드려도 될까요? (사실 오버 엔지니어링이라는 생각이 들지만 ㅎㅎ 실제 프로덕션에 적용시킨다면 어떤 아키텍쳐가 좋은지 궁금합니다!) 감사합니다 :)
-
미해결초보자를 위한 ChatGPT API 활용법 - API 기본 문법부터 12가지 프로그램 제작 배포까지
터미널프로세스 시작오류
터미널 프로세스를 시작하지 못했습니다.
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
Cross Encoder Reranker 임포트 에러 관련 내용입니다.
랭채인 버전 관련 정보 입니다.langchain 1.2.0langchain-classic 1.0.1langchain-community 0.4.1langchain-core 1.2.5langchain-huggingface 1.2.0langchain-text-splitters 1.1.0langgraph 1.0.5langgraph-checkpoint 3.0.1langgraph-prebuilt 1.0.5langgraph-sdk 0.3.1langsmith 0.5.2 이전 답변 내용에서from langchain_classic.retrievers.document_compressors import CrossEncoderReranker이 부분도 역시 에러가 발생합니다원래 코드 였던from langchain.retrievers.document_compressors import CrossEncoderReranker이 코드에서는 에러가 발생하지 않지만여전히from langchain_community.cross_encoders import HuggingFaceCrossEncoder 이코드에서 에러가 발생합니다 PROBLEMS[{ "resource": "/c:/study/conda_rag/LangChain_005_Advanced_Retrieval.ipynb", "owner": "workbench.notebook.cellDiagnostics", "severity": 8, "message": "ImportError: cannot import name 'create_model' from 'langchain_core.utils.pydantic' (c:\\D\\miniconda3\\envs\\langchain_env\\Lib\\site-packages\\langchain_core\\utils\\pydantic.py)", "source": "Cell Execution Error", "startLineNumber": 4, "startColumn": 1, "endLineNumber": 4, "endColumn": 71}] 전체 에러 콜백 은 아래와 같습니다 ---------------------------------------------------------------------------ImportError Traceback (most recent call last)Cell In[31], line 31 from langchain.retrievers import ContextualCompressionRetriever2 from langchain.retrievers.document_compressors import CrossEncoderReranker----> 3 from langchain_community.cross_encoders import HuggingFaceCrossEncoder5 #from langchain_classic.retrievers.document_compressors import CrossEncoderReranker6 #from langchain_community.cross_encoders.huggingface import HuggingFaceCrossEncoder12 model = HuggingFaceCrossEncoder(model_name="BAAI/bge-reranker-v2-m3")File c:\D\miniconda3\envs\langchain_env\Lib\site-packages\langchain_community\cross_encoders\__init__.py:47, in getattr(name)45 def getattr(name: str) -> Any:46 if name in modulelookup:---> 47 module = importlib.import_module(_module_lookup[name])48 return getattr(module, name)49 raise AttributeError(f"module {__name__} has no attribute {name}")File c:\D\miniconda3\envs\langchain_env\Lib\importlib\__init__.py:126, in import_module(name, package)124 break125 level += 1--> 126 return bootstrap.gcd_import(name[level:], package, level)File c:\D\miniconda3\envs\langchain_env\Lib\site-packages\langchain_community\cross_encoders\huggingface.py:51 from typing import Any, Dict, List, Tuple3 from pydantic import BaseModel, ConfigDict, Field...(...) 36 model_validator,37 )38 from typing_extensions import overrideImportError: cannot import name 'create_model' from 'langchain_core.utils.pydantic' (c:\D\miniconda3\envs\langchain_env\Lib\site-packages\langchain_core\utils\pydantic.py)
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
HuggingFaceCrossEncoder 임포트 에러
학습 관련 질문이 있으시면, 상세하게 남겨주세요.문제가 발생한 부분의 코드를 함께 올려주세요.수업 영상 몇 분/초 구간인지 알려주세요.3-2. Re-rank 에서from langchain_community.cross_encoders import HuggingFaceCrossEncoder이 구문에서 임포트 에러가 납니다---------------------------------------------------------------------------ImportError Traceback (most recent call last) Cell In[47], line 4 2 from langchain.retrievers.document_compressors import CrossEncoderReranker 3 #from langchain_community.cross_encoders import HuggingFaceCrossEncoder ----> 4 from langchain_community.cross_encoders import HuggingFaceCrossEncoder
-
미해결프로젝트로 배우는 Python 챗봇 & RAG - LangChain, Gradio 활용
Gradio 런치 PDF 관련 에러
Gradio ChatInterface로 PDF 챗봇 애플리케이션 구현 (실습)강의에서 작성하신 코드를 그대로 똑같이 적용해서 돌렸는데 이런 에러가 뜨네요.TypeError: argument of type 'bool' is not iterableERROR: Exception in ASGI applicationdemo = gr.ChatInterface(fn=process_pdf_and_answer, additional_inputs=[ PDF(label="Upload PDF file"), gr.Number(label="Chunk Size", value=1000), gr.Number(label="Chunk Overlap", value=200), gr.Dropdown(["cosine", "l2"], label="similarity metric", value="cosine"), gr.Slider(label="Temperature", minimum=0, maximum=2, step=0.1, value=0.0), ], ) gradio launch 시 additional_inputs에 PDF를 제외하면 launch가 되는데, PDF를 포함하니까 위의 에러가 뜨면서 launch 자체가 안 돼요.gradio document를 봐도 이해가 잘 안 돼서요..코드를 어떻게 수정하면 될까요?
-
미해결LLM 기초부터 최신 RAG·LangChain까지: 단 5시간 만에 LLM 기초과정 마스터!
sLLM관련 강의 내용 문의
sLLM을 설명을 주었는데, 내용은 SLM으로 보입니다. 다른 강의 자료를 보면 SLM과 sLLM를 구분하여 설명하고 있는데, 강의 내용은 sLLM 이 아닌 SLM으로 보입니다. 어떤 내용이 맞는지 확인 부탁드립니다.
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
아나콘다랑 pytry없이. 단순 파이참에서 venv 설정해서 설치하는건 불가능하나요?
학습 관련 질문이 있으시면, 상세하게 남겨주세요.문제가 발생한 부분의 코드를 함께 올려주세요.수업 영상 몇 분/초 구간인지 알려주세요.
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
2.7 전체 RAG파이프라인 구성에서 4번째 줄 오류
from langchain.chains.combine_documents import create_stuff_documents_chain이 부분에서 에러가 납니다TypeError: Fields of type "<class 'langchain_core.runnables.base.Runnable'>" are not supported.,
-
미해결프로젝트로 배우는 Python 챗봇 & RAG - LangChain, Gradio 활용
휴..
근데 도대체 제주_코스별_여행지 이 pdf 파일은 어디있나요..?기본으로 줘야되는거 아닌가요?
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
rag 와 랭체인
강의를 들었을때 , 랭체인 사용하게 되면 , 약간 프레임워크의 형태였고,간단하고 구조화를 제법 잘 할수있을것 같은데,필요하다면 파인튜닝만 해도 제법 괜찮겠는데 생각이 들었습니다그럼에도 불구하고 rag 로 구현하는 이유가 현실적으로 어떤경우가 있을까요 ??
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
score 기반 서치
안녕하세요, score 기반 서치를 할 때 특정 유사도 미만이면 결과를 출력해주지 않았는데요 물론.... 프로젝트의 종류, 성질에 따라 다르지겠지만,보통 스코어가 0.X 이상일 때 부터 그나마 관련이 있는 문서여서 사용자에게 보여줘도 된다 ! 라는 그런 수치가 혹시 있을까요? 본 강의에서는 0.6이라고 정의를 하셨는데 실제 도입할 때는 몇으로 하는지 궁금합니다
-
미해결초보자를 위한 ChatGPT API 활용법 - API 기본 문법부터 12가지 프로그램 제작 배포까지
vscode에서 select interpreter 가상환경 안보님
(ch01_env) C:\inflearn\inflearn_chatGPT-main\ch01>까지 완료하였느데 vscode에서 select interpreter 가상환경 안보입니다. ㅜㅜ
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
KR.txt파일이 없습니다.
제공해주신 데이터.zip파일내에 한글 text 파일이 누락된것 같습니다.
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
krag를 이용한 검색기법 평가관련 질문
안녕하세요. krag를 통해 검색기법들을 평가하는 방법에서 질문이 있습니다. 이렇게 검색기법을 통해서 검색기에 대한 성능을 평가하려면, 우선적으로 question과 answer에 대한 평가셋을 직접 만들어야 하는걸까요?
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
MMR 관련 질문입니다.
안녕하세요. MMR 관련 질문이 있습니다. MMR을 retriever로 설정할 때 fetch_k와 k를 같이 설정해주도록 되어 있는데, 여기서 질문입니다.fetch_k를 설정한다는 것 자체가 다양성을 확보하기 위한 MMR과 배치되는 것 아닌가요? => 그냥 전체 문서수를 fetch_k로 하면 되는 것 아닌가요? mmr 알고리즘 or 문서검색을 하는 원리가 잘 이해되지 않습니다. 감사합니다.
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
Text_splitter관련 질문입니다.
아래의 코드와 같이 chunk_size와 seperator 두가지 기준으로 문서를 분할하는 text_splitter를 정의하였을때, 어떤 것을 우선하여 텍스트를 분할하나요?예를 들어 토큰사이즈가 100개 이하지만 정규식 조건에 해당하여 분할을 하는것인지 혹은 토큰사이즈 100개 이상이 되어 정규식 조건을 충족하지 않아도 문서를 분할하는지 궁금합니다. text_splitter = CharacterTextSplitter.from_huggingface_tokenizer( tokenizer=tokenizer, separator=r"[.!?]\s+", chunk_size=100, chunk_overlap=0, is_separator_regex=True, keep_separator=True, )
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
오픈api key는 따로 구매해야되는 걸까요?
오픈api key는 따로 구매해야되는 걸까요?
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
과거 채팅이력을 LLM에 줄때 포멧
안녕하세요. 강의에서 정의하신 아래의 함수에서 final_answer에 입력값을 넣는것이 결국 리스트 형태의 데이터고, 리스트는 HumanMessage와 AIMessage가 번갈아가면서 저장되어 있을텐데 llm모델에 이렇게 리스트 형태로 HumanMessage, AIMessage의 객체들을 상관없이 대입해도 괜찮은가요? langchain에서 사용하는 invoke라는 매서드가 내부적으로 이런 타입들을 처리하는 로직을 실행하나요? 감사합니다. def answer_invoke(message, history): history_langchain_format = [] for human, ai in history: history_langchain_format.append(HumanMessage(content=human)) history_langchain_format.append(AIMessage(content=ai)) history_langchain_format.append(HumanMessage(content=message)) # 현재 메시지에 대해 RAG 체인 실행 rag_response = run_route_rag_chain(message) # 답변 생성 모델에게 현재 메시지에 대한 답변 요청 final_answer = answer_llm.invoke( history_langchain_format[:-1] + [AIMessage(content=rag_response)] + [HumanMessage(content=message)] ) return final_answer.content
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
OpenAIEmbeddings모델이 사용하는 토크나이저는 뭘까요?
안녕하세요. 강의 잘 듣고 있습니다. OpenAIEmbedding모델을 이용해서 텍스트를 벡터화 하는 것까지는 이해가 되었는데, 텍스트를 임베딩모델에 넣을 때, 토크나이징을 한 결과를 input으로 사용하는지, 그렇다면 어떤 토크나이징 모델을 사용하는지 궁금합니다.아니면 토크나이징 없이 바로 임베딩 모델에 대입하는건가요?
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
ChatPromptTemplate의 from_messages로 메세지를 구성할 때 system은 어떻게 설정해야하나요?
안녕하세요.. ChatPromptTemplate의 from_messages로 메세지를 구성할 때 system값과, user값이 있는데 각 값의 역할과 어떻게 구성해야 하는지 알 수 있나요? 감사합니다