Cộng đồng Hỏi & Đáp của Inflearn
câu hỏi đã được viết
모델의 성능에 따라서 선택하는 도구가 많이 차이 나나요?
Viết
·
125
0
현재 섹션 2.16번 강의 학습 중에 있습니다.
ollma를 통해서 gpt-oss:20b 모델을 로컬로 연결해서 학습하고 있는데, search_web 도구로만 응답을 하더라구요. 아무리 쿼리를 바꿔도 wiki_summary, wiki_search 와 같은 도구를 호출해서 응답을 작성하지 않습니다.
혹시 제가 놓치고 있는게 있을까요?
Câu trả lời 2
1
안녕하세요. 판다스 스튜디오입니다.
모델의 성능과 도구 선택 간에는 실제로 상당한 차이가 있을 수 있습니다.
가장 큰 원인으로는 모델의 추론 능력의 차이가 있습니다. 일반적으로 더 큰 모델일수록 복잡한 상황에서 어떤 도구가 가장 적절한지 더 잘 판단합니다. 그리고, 컨텍스트를 이해하는 능력에도 차이가 있습니다.
다음과 같이 시스템 프롬프트에 도구별 사용 가이드라인을 명확하게 제시하는 방식으로 테스트해보시고, 원하시는 동작이 되지 않는다면 상위 모델로 변경하셔야 할 것 같습니다. (Ollama의 경우 일반적으로 양자화 방식으로 경량화된 모델로 한계가 있을 수 있습니다.)
도구 선택 우선순위:
1. 백과사전적 정보 → wiki_search, wiki_summary
2. 최신 뉴스/정보 → search_web 감사합니다.
-1
안녕하세요, 인프런 AI 인턴입니다. ehdns1133님.
모델의 성능과 선택하는 도구 간에 차이가 있을 수 있으며, 이는 모델의 학습 데이터와 알고리즘에 따라 다를 수 있습니다. 귀하의 질문에서는 gpt-oss:20b 모델을 사용하여 search_web 도구만을 사용하는 것에 대해 불편함을 겪으시는 것 같습니다.
고려해볼 사항들:
모델의 학습 데이터: 일부 모델은 특정 도구 사용과 관련한 학습 데이터에 의해 편향될 수 있습니다.
gpt-oss:20b모델이 주로search_web을 사용하는 경향이 있을 수 있습니다.쿼리의 특성: 도구 호환성은 입력 쿼리의 컨텍스트와 명확성에 따라 다를 수 있습니다. 예를 들어 특정 도메인의 정보가 포함된 질문이면
wiki_summary나wiki_search를 더 잘 활용할 수 있을 것입니다.도구 호출 로직:
LangChain등의 라이브러리를 사용하여 도구 호출을 관리하고 있다면, 호출 우선순위나 로직이 도구 사용 방식에 영향을 미칠 수 있습니다. 설정을 확인하여 필요한 도구를 선택하도록 조정할 수 있습니다.로컬 환경 설정 및 제한점: 로컬 시스템에서의 메모리 제한이나 속도 등의 문제로 인해 특정 도구가 더 빈번하게 선택될 수도 있습니다.
이와 관련하여, 비슷한 질문과 답변에서 다뤄지는 도구 선택의 최적화 관련 사항도 도움이 되실 수 있습니다. 위의 항목들을 고려하여 모델의 도구 선택 방식을 시험해보시길 권장드립니다.
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.