Tool Calling 질문
388
投稿した質問数 2
llm이 어떤 기준으로 tool을 호출하나요?
강의에서는 필요하면 한다고 나와있는데
예를 들어 llm이 tavily search가 필요할 때가 언제인지, 어떤 기준으로 tool call 하는지 궁금합니다.
回答 2
0
안녕하세요~. 반갑습니다.
필요한 tool들을 연동하면 LLM에게 해당 tool들의 이름과 description 등이 function 형태로 넘어갑니다.
LLM이 프롬프트를 분석해서 연동된 사용가능한 tool 리스트 중에서 현재 요청된 프롬프트에서 특정 tool 호출이 필요하다고 판단되면 해당 tool을 호출합니다.
즉 LLM에게 사용가능한 tool들의 이름과 description 등을 전달하면 LLM이 필요한 경우 해당 tool을 사용할수 있다는 사실을 인지하고 있다가 해당 tool 사용이 필요하다고 판단되면 해당 tool을 호출하는 구조입니다.
따라서 당연히 LLM이 항상 100% 정확도를 보여주는 것은 아니기 때문에 경우에 따라서는 tool 호출이 필요한 상황인데 tool 호출을 하지않거나 tool 호출이 필요하지 않은 상황인데 tool 호출을 할 수도 있습니다.
좀 더 구체적으로 tavil tool 같은 경우 아래와 같은 description으로 LLM에게 정보가 넘어가게 됩니다.
좋은 하루되세요.
감사합니다.
0
우선 답변 감사합니다.
"""LLM이 프롬프트를 분석해서 연동된 사용가능한 tool 리스트 중에서 현재 요청된 프롬프트에서 특정 tool 호출이 필요하다고 판단되면 해당 tool을 호출합니다. """
이 부분에서 특정 Tool호출이 필요하다는 판단의 기준이 궁금합니다.
1
안녕하세요.
특정 Tool 호출이 필요하다고 판단하는 것은 학습이 끝난 LLM 파라미터에 이미 내장되어 있는 기능입니다.
OpenAI와 같이 LLM을 만드는 회사에서 GPT 모델을 Training하는 과정에서 다양한 Tool use 케이스에 대한 프롬프트 시나리오를 Training data로 모아서 GPT 모델을 학습시키게 되고, 결과적으로 학습이 끝난 GPT 모델이 Training data에 있던 Tool use 케이스들을 토대로 Tool 호출에 대한 판단능력이 생기게 되는 것입니다.
좋은 하루되세요.
감사합니다.
0
안녕하세요, 인프런 AI 인턴입니다. 한송훈님.
질문해주신 내용은 주로 대규모 언어 모델(LLM)에서의 ‘Tool Calling’ 원리에 관한 것입니다. LLM은 다양한 상황에서 특정 도구를 호출하여 작업을 수행할 수 있습니다. 일반적으로, 모델은 입력된 데이터나 프롬프트를 분석하여 현재 문제를 풀기 위해 어떤 도구가 필요한지를 판단하게 됩니다.
LLM이 Tool을 호출하는 기준:
상황 분석 기반:
- LLM은 상황이나 문제를 이해하고, 특정 작업이 필요하다고 판단될 때 해당 도구를 호출합니다. 예를 들어, 질문에 구체적인 정보 검색이 필요하다면 ‘검색’ 도구를 호출하는 식입니다.
- LLM은 상황이나 문제를 이해하고, 특정 작업이 필요하다고 판단될 때 해당 도구를 호출합니다. 예를 들어, 질문에 구체적인 정보 검색이 필요하다면 ‘검색’ 도구를 호출하는 식입니다.
선촉 관련 기준:
- 사용자가 명시적으로 도구 사용을 지시하거나 필요한 작업을 명확히 할 경우, 그에 따라 도구를 호출합니다.
- 사용자가 명시적으로 도구 사용을 지시하거나 필요한 작업을 명확히 할 경우, 그에 따라 도구를 호출합니다.
경험 기반 추론:
- 모델이 훈련 중 배우거나 경험한 패턴을 기반으로 어떤 도구가 가장 적합할지 스스로 결정할 수 있습니다.
- 모델이 훈련 중 배우거나 경험한 패턴을 기반으로 어떤 도구가 가장 적합할지 스스로 결정할 수 있습니다.
관련된 구체적인 작동 원리나 내부 로직은 모델마다 다르며, 강의 자료를 통해 좀 더 상세한 정보를 확인하실 수 있습니다. LangGraph 사용법은 관련 툴콜링 원리에 대한 실제 예제나 사례를 제공할 수 있습니다.
질문에 대한 답변이 찾으시는 내용을 다루고 있지 않다면, 강좌의 커뮤니티 게시판에서 추가 질문을 남기시거나, 직접 강사님께 질문하시는 것도 좋은 방법이 될 수 있습니다.
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다.
현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
무료할당량 사용하는데 문제가 생겼습니다.
0
10
1
클로드 Pro 요금제에서 Claude Code CLI 사용을 막는다고 들어서 질문드립니다.
1
18
1
섹션2-11 내용중 tool_call
0
21
2
시니어 리뷰 모드
0
31
1
제공해준 자료가 압축해제되지 않습니다.
0
31
2
max token을 제한하는게 왜 성능을 개선하게 되는걸까요?
0
29
2
gitforwindows에서 맥은 뭘 다운받아야 하나요...?
0
28
2
n8n Email Trigger(IMAP) 네이버 메일 연동 시 Published 이후 트리거 미동작 문제
0
41
2
안티그라비티 저는 오픈폴더라고 나와요ㅜ
1
25
2
Adaptive RAG 질문드립니다.
0
84
1
LangChain에서 제공하는 Tool과 MCP의 차이점
0
157
2
비동기 방식으로 agent를 구성할 필요성이 궁금합니다.
0
177
2
Structured outputs ppt 강의자료 다운로드 가능 위치 문의
0
117
2
STORM 관련 ipynb 소스에서
0
125
2
AI 에이전트를 위한 웹검색(Web search) Tool 에서 DuckDuckGoSearchRun 실행 관련..
0
446
2
ReWoo 아키텍처에서는 RePlan이 필요없나요?
0
173
1
STORM 아키텍쳐
0
119
2
"Plan-and-Execute 아키텍쳐 구현하기" 강의 prompt not found error
0
212
1
"Airline Red Teaming Korean" 데이터 클론시 에러가 발생합니다.
0
145
2
storm 아키텍쳐 구현하기
1
214
2
범위를 제한한 검색 방법
0
222
2
Llama + Search Tool 연동
0
195
2
강의 자료 좀 올려 주세요.
0
236
4
STORM(Synthesis of Topic Outlines through Retrieval and Multi-perspective Question Asking) 아키텍처 구현하기 강의에서 콜랩 url 이 안보입니다.
0
165
2