4.2.2 ~ 10.3.2.1 강의 영상 안나옴

안녕하세요, AI 인턴의 답변과 유사하게 저는 영상 녹화 프로그램을 켜두면 인프런 강의 영상이 나오지 않는 경우가 있던데 설정 확인을 부탁 드립니다

RetrievalQA 방식 관련 문의

안녕하세요, 좋은 질문 감사합니다.강의는 LangChain 1.x 버전 출시 전에 촬영되어 예전 함수들을 많이 사용하고 있는데요, 함수 이름이 변경되었으나 내부 구현 자체에는 대단히 큰 변화는 없어서, 강의에서 활용하는 버전을 활용하신다면 완강에는 문제 없을거라고 판단됩니다. 강의를 통해서 제가 전달드리고자 했던 내용은 RAG를 구성하는 방법이고 활용되는 LangChain 함수들은 부수적인 도구이기 때문에 크게 문제가 될 것 같지는 않습니다.

타입스크립트 autoComplete?

안녕하세요! 좋은 질문 감사합니다. 강의에서는 Cursor를 활용해서 AI가 자동완성을 한 경우인데요, Visual Studio Code를 활용하신다면 GitHub Copilot을 활성화하시면 자동완성이 가능할 거라고 생각합니다.

[ReadMe]영상에 나온거랑 깃이랑 다르네요

안녕하세요! 첫번째 스크린샷은 uv의 GitHub 페이지이고 https://github.com/astral-sh/uv두번째 올려주신 스크린샷이 강의의 소스코드 레포입니다 https://github.com/jasonkang14/inflearn-langgraph-agent

RAG 파이프라인 고도화와 파인튜닝의 우선순위 및 실무적 판단 기준이 궁금합니다.

안녕하세요, 좋은 질문 감사합니다. TL;DR은 저는 파인튜닝은 필요 없다고 생각합니다. 말씀하신 것처럼 파인튜닝 자체도 비용이고, 유지보수 비용도 부담이고, 인프라 관리도 부담이고, 여러모로 관리 포인트가 증가해서 저는 RAG를 구현하고 상용 LLM을 쓰는 것이 합리적이라고 생각합니다. 하지만 팀에서 파인튜닝을 해서 운영하는 것을 기조로 잡고 한다면, 요즘 오픈소스 모델도 성능이 괜찮아서 쓸만합니다. 한국어 모델들은 최근에 테스트를 해보진 않았는데, kimi나 qwen계열 모델들은 정말 훌륭합니다. 이론상 파인튜닝을 해야하는 경우는 프롬프트로 원하는 행동을 "만들어낼 수는 있는데" 5% 확률로 실패하고, 그 5%가 용납 안 되는 경우입니다. 에이전트는 궤적이 곱해지기 때문에 스텝당 95%가 10스텝이면 최종적으로 60%로 무너집니다. 프롬프트는 천장을 정하고, 파인튜닝은 바닥을 끌어올립니다. 에이전트 실무에서 파인튜닝을 하는 가장 흔한 실질적 이유가 이겁니다. 다만 저는 few shot 프롬프팅을 활용하면 대부분의 use case에서 RAG구축으로도 충분하지 않나 생각합니다.

책과 차이점

안녕하세요! 강의와 책 모두 관심을 가져주셔서 감사합니다. 코드는 책에 작성된 내용이 더 최신 버전의 코드입니다

import Hub Error

안녕하세요, pull_prompt()가 동작하지 않는다면, 홈페이지에서 제공되는 프롬프트를 확인하시고 아래와 같이 작성하셔도 됩니다 홈페이지를 확인하면, system prompt와 user prompt의 조합인 것을 확인할 수 있습니다(사진).이와 같은 경우 아래와 같은 형식으로 변환할 수 있습니다from langchain_core.prompts import ChatPromptTemplate rag_prompt = ChatPromptTemplate.from_messages([ ('system', '''You are a teacher grading a quiz. You will be given a QUESTION and a set of FACTS provided by the student. Here is the grade criteria to follow: (1) You goal is to identify FACTS that are completely unrelated to the QUESTION (2) If the facts contain ANY keywords or semantic meaning related to the question, consider them relevant (3) It is OK if the facts have SOME information that is unrelated to the question (2) is met Score: A score of 1 means that the FACT contain ANY keywords or semantic meaning related to the QUESTION and are therefore relevant. This is the highest (best) score. A score of 0 means that the FACTS are completely unrelated to the QUESTION. This is the lowest possible score you can give. Explain your reasoning in a step-by-step manner to ensure your reasoning and conclusion are correct. Avoid simply stating the correct answer at the outset.'''), ('human', ''' Retrieved documents: {{input.documents}} User question: {{input.question}}''') ])

코드 최종 결과 질문드립니다.

네네 맞습니다 context에 답변에 필요한 문서가 포함되어있지 않아서인데요, 현재 강의의 구성에서는 chunk_size, chunk_overlap, separators 를 변경해보면서 retriever.invoke()에서 원하는 chunk가 잘 반환되는지 확인해보셔야 합니다

AgentState의 messages 확인해주세요.

안녕하세요, 공식문서를 다시 보니 Annotated[list[AnyMessage], add_messages] 가 맞네요. 소스코드를 수정하고 강의 설명에 업데이트 해두었습니다. 감사합니다https://reference.langchain.com/python/langgraph/graph/message/MessagesState

multi_tool_agent.py 에서 arxiv tool 에러

공유해주셔서 감사합니다! 소스코드에는 2.4.1로 했을 때 문제가 없었는데 라이브러리에 이슈가 있는 것 같네요. 감사합니다!