inflearn logo
강의

Khóa học

Chia sẻ kiến thức

Hệ thống RAG triển khai bằng AI Agent (với LangGraph)

So sánh hiệu suất Tool Calling của các mô hình LLM (OpenAI, Gemini, Llama 70B)

[공유] llama3-groq 모델명 수정 필요

195

dlstjd64012541

2 câu hỏi đã được viết

0

"LLM 모델의 Tool Calling 성능 비교(OpenAI, Gemini, Llama 70B)" 파트 강의 중
1:48초 부터 llama3-groq-70b-8192-tool-use-preview 모델을 불러와 Tool Call의 성능 비교를 진행합니다.

2025-04-03 기준 해당 모델명이 변경되어 더 이상 로드가 불가능 합니다.

따라서 "llam3-70b-8192" 모델명을 변경하여 사용하는 것이 좋을 것 같습니다.

수정 전 코드

llm_groq = ChatGroq(model="llama3-groq-70b-8192-tool-use-preview", temperature=0)

수정 후 코드

llm_groq = ChatGroq(model="llama3-70b-8192", temperature=0)

감사합니다.

llm langchain rag ai-agent langgraph

Câu trả lời 1

1

pdstudio

네~ 정보 공유 감사드립니다. 즐거운 하루 되세요.

섹션2-11 내용중 tool_call

0

15

1

gradio 를 통한 챗봇 인터페이스 실습이 진행되지 않습니다.

0

40

1

모델의 성능에 따라서 선택하는 도구가 많이 차이 나나요?

0

140

2

Fan-in 시 여러개 노드에서 하나로 병합되는 과정에서 질문 입니다.

0

77

3

로드맵

0

109

2

강의 46에서 노드의 병렬 수행시 Thread-Safety 문제는 없을까요?

0

104

2

similarity_search 후 왜 다시 LLM을 통해 grade를 측정 하나요?

0

104

2

agent_executor 실행시 JSONDecodeError에러가 발생해요.

0

143

4

툴의 숫자가 많을때 동작

0

120

2

안녕하세요 후속강의 듣고 싶은데, 비용이 부담되어서..

0

137

2

[실습을 위한 환경 설정 방법] 자료가 없습니다.

0

174

3

최근 안내해주신 수강생 이벤트 관련 문의입니다.

0

108

1

AI 에이전트로 구현하는 RAG 시스템 수강생입니다.

0

154

1

수업 자료 문의

0

174

3

docker 환경에서 해당 서비스를 구성해보는 건 어떤가요?

0

173

2

numpy 설치 에러

0

485

1

The onnxruntime python package is not installed.

0

222

1

섹션 5, 사용자 정의 조건부 엣지 관련 질문입니다.

0

129

1

강사님의 LLM 모델의 버전이 어떻게 되나요?

0

223

1

Agent RAG 구현에서 '정보 추출 및 평가' 노드 결과 애러

0

126

2

메시지 그래프/피드백 루프 활용하기에서 질문

0

108

1

에이전틱 루프에서의 병렬 노드 구현 문의

0

138

2

수업자료 문의

1

209

2

서브그래프로 구성된 워크플로우 설계 조언을 듣고 싶습니다

0

124

1