inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)

임베딩 모델의 활용 4 - Ollama 임베딩 모델 (OllamaEmbeddings)

Ollama 임베딩 모델 (OllamaEmbeddings) 오류의 건

1104

ymc

작성한 질문수 3

0

안녕하세요.

수업 내용 중 Ollama 임베딩 모델에서 아래와 같이 임베딩 모델을 설정하고 embed_documents 사용하면 아래와 같은 오류가 발생합니다.

 

from langchain_ollama import OllamaEmbeddings

embeddings_model = OllamaEmbeddings(model="bge-m3")

documents = [
    "인공지능은 컴퓨터 과학의 한 분야입니다.",
    "머신러닝은 인공지능의 하위 분야입니다.",
    "딥러닝은 머신러닝의 한 종류입니다.",
    "자연어 처리는 컴퓨터가 인간의 언어를 이해하고 생성하는 기술입니다.",
    "컴퓨터 비전은 컴퓨터가 디지털 이미지나 비디오를 이해하는 방법을 연구합니다."
]

# 문서 임베딩
document_embeddings = embeddings_model.embed_documents(documents)

# 임베딩 결과 출력
print(f"임베딩 벡터의 개수: {len(document_embeddings)}")
print(f"임베딩 벡터의 차원: {len(document_embeddings[0])}")
print(document_embeddings[0])

오류의 캡처 사진과 문구는 아래와 같습니다.

화면 캡처 2024-11-14 152004.png.webp

오류문구 : ConnectError: [WinError 10061] 대상 컴퓨터에서 연결을 거부했으므로 연결하지 못했습니다

 

해결방법 확인 부탁드립니다.

감사합니다.

python 챗봇 llm langchain rag

답변 2

0

판다스 스튜디오

안녕하세요. 판다스 스튜디오입니다.

혹시 올라마 프로그램을 실행하고 bge-m3 모델을 다운로드 받으셨는지 확인 부탁드립니다.

현재 서버가 로컬 환경에서 실행 중이고, 유효한 모델을 설정하고 사용해야 합니다.

확인해보시고 계속 문제가 발생하면 말씀해주세요.

감사합니다.

0

ymc

image.png

잘 다운로드 받아졌습니다. 이부분에서 위와 같은 오류가 발생하는 것 같습니다. =

# 문서 임베딩
document_embeddings = embeddings_model.embed_documents(documents)

0

판다스 스튜디오

윈도우 명령 프롬프트에서 ollama가 정상 작동하고 현재 실행 중인지 확인 부탁드립니다.

실행 화면을 캡처해서 첨부 부탁드립니다.

 

  1. 올라마 모델 리스트 확인

ollama list

 

  1. 올라마 서버 실행

ollama serve


ollama가 로컬 환경에서 별도의 서버로 동작하기 때문에 서버가 실행되지 않은 상태에서는 접속이 안되기 때문입니다.

감사합니다.

1

ymc

알려주신 방법으로 해결되었습니다. 감사합니다.^^

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다.

조용민님이 Ollama 임베딩 모델을 사용하실 때 발생한 오류에 대해 안내드리겠습니다. 오류 메시지 중 ConnectError: [WinError 10061] 대상 컴퓨터에서 연결을 거부했으므로 연결하지 못했습니다가 발생하는 원인은 주로 네트워크 연결 문제와 관련이 있습니다. 이는 주로 다음과 같은 이유로 발생할 수 있습니다:

  1. 로컬 네트워크의 설정: 로컬 방화벽이나 보안 소프트웨어가 특정 포트나 외부 연결을 막고 있을 가능성이 있습니다. 임시로 방화벽을 비활성화하거나 예외 규칙을 추가하여 프로그램이 인터넷에 접근할 수 있도록 설정해 보세요.

  2. VPN 사용 여부: VPN을 사용 중이시라면, VPN을 통해 네트워크 트래픽을 우회하도록 설정되어 있을 수 있습니다. VPN을 해제하고 다시 시도해 보세요.

  3. HTTP 서버 상태: 해당 임베딩 모델이 사용하는 HTTP 서버가 중단된 경우 커넥션 오류가 발생할 수 있습니다. 이 경우, 서버 공급자의 상태 페이지나 지원 팀을 통해 서버 상태를 확인해 보는 것도 좋은 방법입니다.

  4. 코드 내 URL 및 설정 확인: 올바른 서버 주소 및 포트가 설정되어 있는지 확인해야 합니다. 특히, 로컬 호스트나 외부 API를 시도할 때 종종 잘못된 URL이나 포트를 사용하는 경우가 있습니다.

관련해서 유사한 문제 및 해결 방법을 다룬 게시물들을 참고하시기 바랍니다:

이 방법을 시도해 보신 후에도 문제가 해결되지 않는다면, 특정한 네트워크 구성이나 환경적인 요소가 원인일 수 있으니, 더 자세한 오류 로그와 설정 사항을 확인해볼 필요가 있습니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

테스트데이터셋 평가지표 값 문제

0

52

1

언어 감지 및 검색 라우팅

0

50

2

동영상이 검은 화면으로 나옵니다.

0

64

2

강의가 진행되지 않습니다.

0

65

2

'팀 단위 AI 업무 혁신' 자문 관련하여 문의드리고자 합니다. (연락처 요청)

0

53

1

Rerank에 대해 질문드립니다.

0

67

2

Cross Encoder Reranker 임포트 에러 관련 내용입니다.

0

101

2

HuggingFaceCrossEncoder 임포트 에러

0

81

2

아나콘다랑 pytry없이. 단순 파이참에서 venv 설정해서 설치하는건 불가능하나요?

0

80

1

2.7 전체 RAG파이프라인 구성에서 4번째 줄 오류

0

79

1

rag 와 랭체인

0

112

2

score 기반 서치

0

49

2

KR.txt파일이 없습니다.

0

77

2

krag를 이용한 검색기법 평가관련 질문

0

75

2

MMR 관련 질문입니다.

0

83

1

Text_splitter관련 질문입니다.

0

59

2

오픈api key는 따로 구매해야되는 걸까요?

0

251

2

과거 채팅이력을 LLM에 줄때 포멧

0

72

1

OpenAIEmbeddings모델이 사용하는 토크나이저는 뭘까요?

0

170

2

ChatPromptTemplate의 from_messages로 메세지를 구성할 때 system은 어떻게 설정해야하나요?

0

95

2

create_retrieval_chain에서 context는 지정된 인자인가요?

0

62

1

vectorstore의 as_retriever와 similarity_search는 같은 로직인가요?, 사용되는 검색 알고리즘은 뭔가요?

0

91

2

evaluate_retrieval_at_K 함수 문의드립니다.

0

66

2

검색기 관련 질문드립니다.

0

87

2