2가지 질문드려 봅니다.
안녕하세요 강사님!
두 가지 질문이 있어서 글을 남겨 봅니다.
Vector DB에 데이터를 넣기 위해서 임베딩 모델을 사용했는데 아직 실습을 따라하지 않아서 해당 모델을 사용해도 API 비용이 발생하는 것인지 궁금합니다. 또한, Upstage 외에 무료 임베딩 모델이 있는지도 궁금합니다. (실습은 OpenAI로 진행 예정이지만, 개인적으로 궁금해서 여쭤봅니다)
이거는 개인적인 질문인데 어제 GPT-OSS가 나왔는데, 20B 기준으로 로컬에서 문제 없이 돌아가더라구요. LangChain Ollama로 이 모델을 사용해서 현재 RAG 강의와 강사님 Agent강의 등 다른 강의 사용에 문제가 없을지 그리고 이 모델에 대한 견해가 궁금합니다!
답변 1
1
안녕하세요! 질문에 답변 드려보자면
임베딩 모델은 API 비용이 발생합니다. Upstage의 경우에도 임베딩 모델의 사용이 무료라기 보다는, 처음 가입하면 강의를 진행하는데 충분한 크레딧을 주기 때문에 무료라고 안내를 드린거라고 보시면 됩니다
다른 수강생 분 말씀으로는, 전체 강의를 OpenAI 모델들만 활용해서 진행했을 때 최소 금액만 충전해도 충분했다고 하시네요
저는 아직 사용해보지 않아서 의견이 있는건 아니지만, 무료로 구동할 수 있는 모델인데 충분히 속도나 성능이 나온다면 ollama를 활용해서 진행하셔도 될 것 같습니다.
온톨로지 활용
0
44
2
ollama설치해서 llama로 돌려도 되나요?
0
46
2
소득세법 docx 파일 공유 요청건
0
96
1
EXAONE 모델 불러오기 안되는 문제
0
95
2
[5.1 강의] LLM Evaluator에 Upstage를 사용하는 방법 + 변경된 Langsmith Docs를 참고하여 구현하는 방법 공유
0
125
2
강의 9에 QA관련된 import가 되지 않네요
0
125
2
🚨 python3.14 를 쓰고 계시면 chroma 에서 ConfigError 가 발생합니다.
1
224
1
강의와 책 관련 질문
0
96
1
문서 전처리 고민
0
121
1
RAG 배포 질문드립니다
0
106
1
강의 내용과는 별개로 궁금한 점이 있습니다
0
98
2
폐쇄망 챗봇 모델
0
102
1
AI agent 쿠폰
0
99
2
저는 왜 그대로 했는데 답변이 틀리게 나오는지 모르겠네요
0
109
2
langchain howto/sequence는 지금 doc 공식 사이트 어디서 확인할 수 있나요?
1
100
1
new_question에 대한 답 출력
0
80
2
랭체인 라이브러리
0
160
2
[LangGraph를 활용한 AI Agent 개발] 쿠폰 유효기간
0
111
1
postgresql의 pgvector 벡터는 어떤가요?
0
383
2
doc관련
0
144
2
load_dotenv() 실행 False
0
103
1
RAG 답변 개선을 위한 정답지 활용 구조 검토 요청
0
125
2
3.2 from langchain.chains ~ 에서 모듈을 찾지 못할 때.
2
429
2
강의 완료 오류
0
94
1