inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

입문자를 위한 LangChain 기초 — v1.0+ 업데이트

[업데이트] LCEL 문법: RunnableSequence, RunnablePassthrough, RunnableParallel, RunnableLambda 핵심 설명

llm 모델 사용 관련 질문 있습니다.

212

니모

작성한 질문수 1

0

랭체인_Runnable~~ 마지막 강좌에서 llm 모델 사용 관련해 model을 "qwen2.5:14b"와 "deepseek " model을 사용한 특별한 이유라도 있는지요. 대체할만한 다른 model이 있으면 추천해 주세요.

python llm langchain openai-api

답변 3

0

니모

친절한 답변 감사드립니다.

0

판다스 스튜디오

안녕하세요. 별 다른 이유는 없습니다.
단지, 오픈소스 모델 중에서 파라미터수가 많은(성능이 더 좋을 것으로 보이는) 모델을 적용해 본 것입니다.

같은 모델 중에서 파라미터 수가 작은 qwen2.5:7b, deepseek-r1:7b 모델을 사용하시면 될 것 같습니다.
또는 최근에 구글에서 공개한 gemma3:4b 모델도 성능이 좋은 편입니다.

 

감사합니다.

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 니모님.

LLM 모델 사용에 관해 질문 주셨군요. “qwen2.5:14b”와 “deepseek” 모델은 각각의 성능 및 특정한 용도에 적합한 특징들을 가지고 있을 수 있습니다. 하지만, 각 프로젝트에 따라 적합한 LLM 모델이 다를 수 있으며, 여러 대안을 고려할 수 있습니다.

  1. 모델 선택 이유:

    • 각각의 모델은 특정한 자연어 처리가 필요한 작업이나 데이터셋에 강점을 가지거나, 제공하는 기능들이 다를 수 있습니다.
    • 예를 들어 Qwen 모델은 감성 분석이나 특정 도메인 정보 추출에 강점이 있을 수 있습니다.
    • Deepseek 모델은 반면 특정한 컨텍스트 이해에 더 적합할 수 있습니다.
  2. 대체 모델 추천:

    • GPT-4: OpenAI에서 제공하는 최신의 GPT 모델들은 다양한 작업에서 우수한 성능을 보입니다.
    • Claude 모델: Anthropic에서 제공하며, 다양한 자연어 작업에 활용될 수 있습니다.
    • Mistral 모델: Hugging Face에서 제공하는 Mistral-7B와 같은 모델도 성능이 좋습니다.

각 모델의 특징과 프로젝트 요구사항을 잘 검토하셔서 알맞은 선택을 하시는 것이 중요합니다.

관련하여 이전의 질문과 답변에서 Hugging Face 모델을 사용하는 방법이 언급된 답변이 있습니다. 이는 다양한 모델을 사용해보고 성능을 비교하는 데 도움이 되실 겁니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

ID 전처리 이유

0

5

1

데이터제공

0

4

1

예시문제 작업형3 꼬리질문2번

0

4

0

데이터 개수를 구할 때, len과 value_counts 차이

0

7

1

API 오류: EGW00201 - 초당 거래건수를 초과

0

10

1

작업형 2 제출방

0

6

1

인코딩 스케일링 순서

0

11

2

캐글 save version 할 시 md파일과 다름.

0

13

1

실제 시험에서도 공식을 문제에서 주는지

0

9

2

수강 연장 문의

0

9

2

작업형2 정리한 내용 확인 부탁드립니다 ㅜㅜ

0

15

1

dotenv, langchain_community 로드가 되지 않습니다.

0

10

1

Basic LLM Chain 에서 Paser 를 사용해 JASON 형식으로 바꾸는 부분에서 에러가 발생합니다

0

11

2

강의 수강 순서

0

66

1

LLM 응답속도

0

90

1

RAG 강의 prompt 질문

0

85

2

system 메세지는 정의가 되어 있는 건가요?

0

64

2

새로 추가된 강의의 강의자료는 따로 없는 걸까요??

0

187

2

안녕하세요. 오늘 커뮤니티에 올라온 서적 예제 4.11관련 질문입니다.

0

123

2

랭체인 질문드립니다.

0

188

2

코드 결과값이 좀 다릅니다.

0

194

2

chain 실행 오류가 납니다.

0

242

2

랭체인 실행이 안됩니다.

0

1414

3

typer 호환 문제

0

601

2