human-in-the-loop질문드립니다
강사님 안녕하세요!
엣지 연결 마치고 계속 테스트하는데 중간에 interrupt가 되지 않고 'attention is all you need'논문을 바로 긁어와서 요약을 합니다 ㅜ
def should_continue(state: MessagesState):
"""
주어진 state에 따라 다음 단계로 진행할지를 결정합니다.
Args:
state (AgentState): 메시지와 도구 호출 정보를 포함하는 state.
Returns:
Literal['tools', 'summarize_messages']: 다음 단계로 'tools' 또는 'summarize_messages'를 반환합니다.
"""
# state에서 메시지를 가져옵니다.
messages = state['messages']
# 마지막 AI 메시지를 확인합니다.
last_ai_message = messages[-1]
# 마지막 AI 메시지가 도구 호출을 포함하고 있는지 확인합니다.
if last_ai_message.tool_calls:
# 도구 호출이 있으면 'tools'를 반환합니다.
print('도구 호출이 있습니다 human_review로 이동합니다')
return 'human_review'
print('도구 호출이 없습니다 summarize_messages로 이동합니다')
# 도구 호출이 없으면 'summarize_messages'를 반환합니다.
return 'summarize_messages'프린트 찍어보니 도구호출이 없습니다 로 바로 들어갑니다
그래서 쿼리를 '동탄역 맛집을 알려주세요' 하니
도구 호출이 있습니다. 하고 interrupt가 되더라구요
저 논문에 대한 정보를 LLM에서 이미 갖고있어서 Tool call을 안한거라고 보면 될까요?
답변 1
1
안녕하세요! 좋은 질문 감사합니다.
말씀하신 부분이 맞는 것 같습니다. 도구를 꼭 사용하길 희망하신다면 SystemMessage 를 선언하실 때 도구 사용을 꼭 해야한다고 명시하는 방법이 있을 것 같습니다
LLM이 도구를 사용하지 않고 직접 답변을 생성한다면, 토큰 사용량이 줄어들고, 답변이 더 빨리 나올거라서 사용자 경험 측면에서는 유리할 것 같아요. 하지만 사내 문서를 활용한 답변이 필요하시다거나, 개발하실 때 도구를 꼭 사용해야 한다고 판단하신다면 프롬프트에 도구 사용을 구체적으로 명시하는 편이 좋을 것 같습니다.
max token을 제한하는게 왜 성능을 개선하게 되는걸까요?
0
31
2
pyzerox 유니코드 에러
0
75
2
영상 메타데이터 생성 관련 LLM 활용 질문
0
67
1
종합부동산세 부분 tool 사용 질문 드립니다.
0
74
2
uv sync 파이썬 버전문제 onnxruntime
-1
101
2
MCP를 활용해서 간단한 에이전트를 만들어보세요
0
96
1
PDF 형식
0
64
1
5.3 langchain-mcp-adpater를 활용한 MCP 도구 사용 tool_list 지연 사유
0
91
2
3.6 human_in_the_loop 3rd case
0
81
1
summary 를. 시스템메세지에 추가하는 부분에 관하여
0
69
3
병렬 처리 중 retrieve 관련 궁금한 사항
0
76
1
query 에 대한 answer 결과값이 나오지 않습니다.
0
94
2
사람과 관련된 표현이 없는데 rewrite 로 이동하지 않는경우
0
75
1
retriever 관련 질문
0
65
1
인터룹 관련 질문
0
49
2
2.4 Self-RAG 결과가 달라요!
0
77
2
md vs txt 차이..
0
134
2
OpenAI API 호출 때문에 발생하는 Error code: 429 문제
0
112
2
단순 도구 사용과 도구를 가진 에이전트를 사용하는 것의 차이가 궁금합니다.
0
88
1
LangChain과 LangGraph v1
0
136
1
2.4 강의 관련 질문(답변을 검증하는 self rag)
0
73
2
후속강의 문의
0
73
2
3.6 강의 관련 질문(interrupt 관련)
0
50
1
그래프 구현 조언 부탁드립니다!
0
76
2