inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

실무에 바로 적용하는 Spring AI: Spring 서비스에 챗봇·RAG·MCP 도입하기

[실습] RAG ETL 파이프라인 구현- Extract

[지식 공유] bge-m3 모델 pull 시도할 때 EOF 뜨는 현상 해결

2

jyee

작성한 질문수 2

0

안녕하세요!

질문은 아니고 제가 bge-m3 모델 다운로드 중 겪었던 문제 상황이라 여기에 공유 드려봅니다

 

재현 절차

  1. ollama pull bge-m3 명령어로 bge-m3 모델 다운로드 시도

  2. 다운로드 진행률이 나오지 않고 pulling manifest

    Error: EOF 라는 문구와 함께 다운로드 바로 실패

     

  3. ollama 서버 완전히 quit (killall ollama 로는 안 꺼질 수도 있으니 메뉴바에서 quit ollama 또는 작업 관리자에서 완전히 종료하는 것을 추천드립니다)

  4. OLLAMA_MAX_QUEUE=1 ollama serve후 다시 pull 시도

이유는 모르겠지만.... 네트워크도 정상이고 vpn도 안 켜져있고 모든 것이 정상인데 bge-m3 모델만 다운로드가 되지 않더라구요..! 다른 모델은 정상적으로 pull 받아지구요ㅠ

혹시 비슷한 문제를 겪으실 분 계실까봐 여기에 남겨봅니다!

 

추가로 ollama list 하면 풀 받은 모델 목록을 확인할 수 있습니다!

좋은 강의 감사드립니다 : )

(혹시 다른 해결 방법이나 틀린 내용 있다면 남겨주세요...!(_ _))

답변 1

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. jyee님!

bge-m3 모델 다운로드 시 EOF 오류를 경험하신 분들께 유용한 정보를 공유해 주셔서 감사합니다. 이러한 문제는 종종 네트워크 연결 문제나 소프트웨어의 일시적인 오류에서 발생할 수 있습니다. 아래는 추가적인 해결 방안을 제공하며, 비슷한 문제가 발생할 때 참조할 수 있는 내용입니다:

  1. 네트워크 상태 확인: 가끔 로컬 네트워크가 불안정할 경우 모델 다운로드와 같은 큰 파일 전송 작업에서 오류가 발생할 수 있습니다. 이때 인터넷 연결을 재설정하거나 다른 네트워크에 연결해 보십시오.

  2. 이전 캐시 제거: 모델의 이전 다운로드가 실패한 상태로 남아있을 경우, 캐시를 지우고 다시 시도하는 것이 좋습니다. 명령어가 지원한다면, ollama와 같은 도구의 캐시 클리어 옵션을 활용할 수 있습니다.

  3. 환경 변수 설정: OLLAMA_MAX_QUEUE=1 와 같은 환경 변수 설정이 문제가 되는 상황을 해결하는 데 도움이 되는 것 같습니다. 이는 다운로드 프로세스를 보다 효율적으로 관리하게 하는 설정일 수 있습니다.

  4. 올라마 서버 상태 확인: ollama serve 명령어로 서버를 직접 시작해 보는 것은 다운로드 문제를 해결하는 좋은 방법이 될 수 있습니다. 서버가 안정적으로 구동되고 있는지도 확인하세요.

아래는 유사한 사례와 해결 방법을 위한 참고 자료입니다:

질문자님의 해결법 공유가 다른 학습자에게 큰 도움이 될 것입니다. 감사합니다! 😊

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

강의 수강 후 포트폴리오 준비 방향에 대해 조언 부탁드립니다.

2

53

1

실습 2인데 커서아이디 같은거 다운로드 안내같은건 따로없나요??

1

37

2

매일 사용시 토큰사용량

1

57

2

AI Agent를 섞어 쓸 때 설정 파일 관리 질문입니다!

1

43

1