해당 강의 8:10처럼 동일하게 돌렸을 때 다음과 같이 출력이 찍힙니다. 624만원에 관한 정보는 나오지 않습니다. ㅠㅠ 여러번 돌려도 계속 그렇게 나오네요 .. 어떤 문제일까요?, 혹시나 DB에 문서를 적재하는 과정중에서 55조의 테이블이 씹힌건가? 해서 document_list 찍었을땐 (적재 전 txt 파일을 로딩하는과정에서) 또 624만원에 관련된 내용이 있습니다... 출력내용이 길어 10000자가 넘어 마지막 answer만 올려드립니다. document answer == {'answer': AIMessage(content='연봉 5천만 원인 거주자의 소득세는 근로소득공제를 적용하여 계산됩니다. 총급여액 5천만 원의 경우, 근로소득공제는 1천200만 원+(4천500만 원을 초과하는 금액의 100분의 5)입니다. 따라서, 소득세는 해당 공제를 적용한 과세표준에 세율을 적용하여 계산하게 됩니다. 하지만 세율 정보가 없으므로 정확한 소득세 금액을 계산할 수 없습니다. ++ 다른 테이블은 context로 찍히는데 55조 624만원 관련 테이블만 안찍힙니다..
선생님 안녕하세요 좋은 강의 감사합니다. 강의를 보고 있는데 질문이 있어서 문의드립니다. 섹션 3에서 이메일 작성 도우미 를 만드셨는데요, 중간에 챗봇을 만들어서 이메일을 수정하는 부분에서요. 선생님께서 강의에서 만드신 것과, 그냥 agent가 만든 답변을 복붙해서 chatgpt에 "~~ 하게 수정해줘" 라고 요청하는 것과 어떤 차이가 있죠? 뭔가 근본적인 차이가 없는 것 같은데, 이 수정 챗봇을 만드신 "의도"? 가 궁금해서 문의드립니다.
안녕하세요 병진님. 두가지 질문 남깁니다. "LangGraph로 구현한 봇을 n8n으로 전환" 관련 질문 남깁니다. 바로 전 강의에서 직접 구현한 LangGraph코드와 미션에서 올려주신 inflearn-n8n-assignment.json 파일과 1대1 대응은안되는것 같은데, 예를들어 check_faq 노드에서 답변을 찾았을때와 아닐경우의 분기를 처리하지 않고 AI agent에게 넘겨서 알아서 판단하게 한다 이렇게 이해하면 될까요? 2. 챗봇 서비스를 현업에서 운영한다고 했을때, 사내 혹은 고객에게 오픈했을때에는 Langgraph나 agent를 어딘가에 띄워서 운영할것 같은데 주로 n8n을 사용하거나 아니면 직접 서버를 구축해서 사용하시는지 궁금합니다.
안녕하세요 강사님. 3.7 강의에서 도구를 가진 에이전트들을 사용해 Supervisor로 멀티 에이전트를 구현하셨는데, stock price를 가져오는 것과 같은 부분은 꼭 에이전트가 아니여도 될 것 같은데 Supervisor로 멀티 에이전트를 만들 때 단순 도구로 사용하는 것 보다 도구를 가진 에이전트로 사용하는 것이 더 좋아서 이렇게 구현하신건지 궁금합니다!
안녕하세요 강의 잘 듣고 있습니다! 최근에 LangChain, LangGraph의 v1이 정식으로 릴리즈 되었는데, 이번 업데이트에 대해 어떻게 대하면 좋을지 궁금해서 질문드립니다. 이번 v1은 이전 버전들에 비해 그래프 구현 측면에서 얼마나 큰 변화가 있다고 생각하시나요? 강의에서 배운 기존 설계 방식 그대로 프로젝트를 진행해도 괜찮을지, 아니면 v1에서 새로 나온 기능들 위주로 마이그레이션을 진행하는 게 맞을지 강사님의 의견이 궁금합니다. 답변 주시면 앞으로 공부하는 데 도움이 될 것 같습니다. 감사합니다!
안녕하세요 좋은 강의 감사드립니다. 강의에서 이해가 안되는 부분이 생겨 질문드립니다. 2.4 답변을 검증하는 self rag 에서, hallucination을 판단하는 부분에 대한 질문입니다. node가 hallucination을 잘 판단하지 못하자, 강의에서는 크게 3가지 조치를 취하셨는데요 hallucination prompt 직접 작성 hallucination_llm의 temperature = 0 으로 설정 generate_llm의 max_completion_tokens를 100, 50 으로 감소 근데 저는 강의대로 따라해도, 계속 hallucinated, not hallucinated가 번갈아가면서 나오더라고요. max_completion_tokens을 100 --> 70, 50으로 감소시켜도, test하는 셀을 여러번 돌리면 hallucinated, not hallucinated가 번갈아가면서 나옵니다. 답변 내용을 보면, 저의 answer는 5천만원에 대한 소득세를 624만원으로 잘 계산을 하는데 check_hallucination만 판단을 잘 못하는것 같았습니다. 답변을 "소득세는 624만원입니다." 이런 식으로만 짧게 대답을 하다보니, hallucination에 대한 판단을 잘 못하는것 같다는 느낌을 받았습니다. 그래서 chatgpt의 도움을 받아서 아래와 같이 수정을 하니 hallucination에 대한 판단은 일관되게 not hallucinated로 판단하더라고요. generate_llm의 max_completion_tokens를 200, 300 정도로 증가 generate_prompt를 직접 작성하면서, 작성할때 답변에 대한 근거 도 같이 제시하라고 지시 아마도 답변에 대한 근거가 같이 제시되면서 hallucination에 대한 판단에 도움을 준 것 같습니다. 그런데 문제가 있습니다 ㅠ 소득세 계산을 잘 못합니다. 수업 코드로 하면 소득세 계산은 624만원으로 매번 잘 계산을 하지만, 이렇게 바꾸는 경우 소득세 계산이 맞을때도 있고 틀릴때도 있습니다. 그럼 현실에서는 max_completion_tokens 을 150, 100 이렇게 조절해가면서 중간의 타협점?을 찾는 것이 방법인지요? 아니면 제 방법이 틀린 것인지, 다른 방법이 있는 것인지 코멘트 해주시면 감사하겠습니다.
강의 잘 듣고 있습니다. 현재 문서를 읽어 agent로 구현하는 학습까지 완료했는데요(17강) gpt 4.0을 활용하여 agent를 구현해 질문을 하는 것과, chatgpt 웹을 켜서 문서를 올려 질문하는 것에 어떤 차이가 있나요? 보안의 차이나 프롬프트를 잘쓰면 성능이 웹gpt보다 좋아지나요? 주어진 서비스를 사용하지 않고 이걸 구현해야하는지가 명확하게 이해가 안되서요. 감사합니다.
선생님 안녕하세요 좋은 강의 감사합니다. 강의를 보며 소스코드를 실행하고 있는데, 3.6 강의에서 수업에 나온 영상과 다르게 코드가 작동하는 부분이 있어서 질문드립니다. agent가 제시한 도구는 그대로 사용하되, args를 바꾸는 경우 수업에서는 아래 코드를 쓰면 바로 요약된 AIMessage가 작성되도록 진행이 되는데, for chunk in graph.stream( Command(resume={"action": "update_args", 'data' : {'query' : "Large Language Model : A Survey 논문의 내용을 검색해서 요약해주세요"}},), config, stream_mode="updates", # values가 아니다. 수정할때는 updates ): print(f'chunk == {chunk}') 저는 아래와 같이 나옵니다. 여기에서 continue를 해도 계속 같은 메시지가 무한반복이 되어버리는 현상이 나옵니다; agent가 제시한 도구를 바꾸는 경우 이 경우에도 위에 처럼 continue를 했음에도 불구하고 계속 "이렇게 진행하면 될까요?" 를 물어보는 현상이 나옵니다. 계속 continue를 해도 같은 현상이 반복되고요 혹시 선생님도 같은 오류가 발생하는지 확인이 가능하실까요? 혹시 이런 오류는 어떤 이유때문에 발생하는 것인지도 답변이 가능하시면 정말 감사하겠습니다. llm 모델을 small_llm이 아니라 일반 llm으로 하니 정상적으로 나오네요. small_llm의 한계 때문에 다음 단계로 못넘어가는 것일까요? 다음 단계로 넘어가는건 비교적 쉬운 task 같은데 small llm의 어떤 부분? 때문에 이런 무한 loop 오류가 발생하는 것인지도 궁금합니다. 답변이 가능하신 선에서 말씀해주시면 감사하겠습니다.
안녕하십니까! 강사님! 항상 질문에 대한 답변을 잘 해주심에 감사드립니다! 목표는 학교 정보 챗봇이고 강사님의 강의 수강을 바탕으로 그래프 구현해보고 있습니다. 현재 에이전트로는 1) 웹 크롤링 하고 임베딩 시킨 정보를 바탕으로 답변해주는 에이전트(학사일정, 장학금, 휴학 등) 2) 의도와 다른 질문이 왔을 때 답변해주는 기본 llm 현재 이렇게 있습니다 여기다가 에이전트를 하나 더 추가해서 멀티 에이전트로 라우팅해서 사용하거나 툴콜링 기법을 연습해보려 하는데 추가 계획중인 에이전트는 다음과 같습니다. 3) 웹 사이트 공지사항에 대한 정보를 기반으로 답변해주는 에이전트 공지사항은 실시간성과 특정 기간에 대한 정보가 강하기 때문에 에이전트를 분리해야한다고 생각했습니다. 위의 해당 내용을 구현하기 위해서는 공지사항 크롤링 자동화 파이프라인을 구축한 후 이를 실시간으로 계속 임베딩을 시켜야할지 아니면 임베딩 기법이 아닌 다른 방법으로 구현하는게 좋을지에 대한 의문이 있습니다. 경험이 많으신 강사님께서의 노하우가 궁금합니다! 또한 위처럼 구현하게 될 경우 1번 에이전트와 3번 에이전트를 라우터 할때 시스템 프롬포트가 애매하다고 생각됩니다. 강사님이라면 어떻게 하실지 노하우에 대한 조언을 듣고 싶습니다!! 지식이 부족해서 깔끔하게 질문을 드리지 못함에 죄송합니다..! 감사합니다
안녕하세요 좋은 강의 감사드립니다. 3.3 강의를 듣고 있는데 코드에 오류가 발생해서 질문드립니다. chatgpt에도 물어봤는데 오류가 해결되지 않네요 tool_node.invoke({'messages': [ai_message]}) 부분에서 아래와 같은 오류가 발생합니다. --------------------------------------------------------------------------- ValueError Traceback (most recent call last) Cell In[10], line 4 1 # tool_node를 직접 invoke 하는 경우 이런 형식으로 해야 하고, ai message가 가장 마지막에 들어가야 한다. 2 # ai message는 반드시 tool_calls 값을 가지고 있어야 한다. ----> 4 tool_node.invoke({ 'messages' : [ai_message], 'tools' : tool_list}) File c:\Users\user\miniconda3\envs\langgraph-agent-inf\Lib\site-packages\langgraph\_internal\_runnable.py:368 , in RunnableCallable.invoke (self, input, config, **kwargs) 366 if kw_value is MISSING: 367 if default is inspect.Parameter.empty: --> 368 raise ValueError( 369 f"Missing required config key ' {runtime_key} ' for ' { self.name } '." 370 ) 371 kw_value = default 372 kwargs[kw] = kw_value ValueError : Missing required config key 'N/A' for 'tools'. 혹시 몰라서 아래와 같이 해봤는데도 같은 오류가 발생합니다. tool_node.invoke({'messages': [ai_message], 'tools' : tool_list}) 기존 코드에서 바꾼것은 없고, 다만 azurechatopenai 대신 chatopenai를 직접 사용해서 llm, small_llm을 이렇게 정의했습니다. llm = ChatOpenAI(model='gpt-4o') small_llm = ChatOpenAI(model='gpt-4o-mini') 어디가 오류의 원인인걸까요 ㅠ?
안녕하세요 강사님! 네이버에서 스크랩한 기사들의 URL을 호출하는 과정에서 특정 URL을 호출할 때 Http Request - 403 Forbidden 에러로 워크 플로우가 중단하는 현상이 발생하고 있습니다. 혹시 해당 에러가 발생했을 때 관련 기사는 건너뛰고 다음 기사부터 정상적으로 워크 플로우가 실행될 수 있도록 조건을 넣을 수 있는 방법이 있을까요?
안녕하십니까 훌륭하신 강병진님! 질문이 있어서 글 남깁니다! 저는 현재 교내 학교 문서를 RAG를 만들어서 정보를 얻는 것을 구현하던 중입니다. 우선 개인 학생 성적, 수강 데이터들로 교내 졸업 요건을 파악하는 그래프를 구현 하던 중에 정확도 향상을 고민하던 중 조언을 듣고 싶습니다! 현재 '21학번 컴퓨터공학과 졸업요건 알려줘' 라고 임베딩 검색을 할때 k값을 3으로 할때는 다른 학과 정보까지 같이 나옵니다. 그래서 k값을 1로 하면 딱 컴퓨터 공학과에 맞는 정보들만 주지만 공통 졸업 요건 부분들을 파악하지 못합니다. 결국 학교 문서상으로 llm이 판단하려면 공용 졸업요건 + 개별 학과 졸업요건 정보가 같이 주어져야지 잘 판단하는 거 같습니다. 그래서 생각한 방법이 쿼리가 오면 그걸 기반으로 공통 졸업 요건 파악하는 노드, 개별 학과 졸업 요건 파악하는 노드를 만들어서 그걸 generate노드로 줌 데이터 전처리 과정에서 임베딩 할 때 청크를 학과 별로 나눈다음에 메타데이터로 학과 이름을 넣어주고 하나의 retrieve로 k값의 갯수를 늘림 이 정도 방법이 생각나는데 이러한 접근이 올바른지 혹은 더 적절한 방법이 있는지 궁금합니다. 참고 사항입니다!) 현재 구현 그래프 동작은 다음과 같습니다 엔트포인트 호출시 해당 학생 id값으로 db쿼리로 학생 성적 받아와서 성적 리스트와 쿼리를 상태로 가짐. 유저 쿼리로 벡터db invoke값을 context로 담고 generate에서 쿼리, 성적 리스트, 컨텍스트 정보로 llm이 판단 (model: gpt-5-mini) 글 읽어주셔서 감사합니다!!
