inflearn logo
강의

講義

知識共有

RAGを活用したLLM Application開発(feat. LangChain)

3.2 LangChainとChromaを活用したRAG構成

kernel crash 문의

29

zhwanhwang4538

投稿した質問数 1

0

안녕하세요? 저는 windows 11 운영체제에서 실습 중입니다.

3.2 LangChain과 Chroma를 활용한 RAG 구성

강의 에서,

from langchain_chroma import Chroma

# 데이터를 처음 저장할 때 
database = Chroma.from_documents(documents=document_list, embedding=embedding, collection_name='chroma-tax', persist_directory="./chroma")

코드 수행시 kernel 이 죽습니다.

우선 pyenv-win 으로 설치한 python은 완벽히 제거, pyenv-win 도 완벽히 제거,

python windows 3.12.10 version 설치


mkdir {project_name}
cd {project_name}
py -3.12 -m venv .venv

.\.venv\Scripts\Activate.ps1
python -m pip install --upgrade pip

으로 프로젝트 생성후 어제 부터 계속 이러네요. jupyter notebook web server 실행 시켜 수행해도 같은 상황 입니다. 어떻게 해결 해야 할까요?? 고맙습니다.


1.png.webp2.png.webp3.png.webp

https://github.com/microsoft/vscode-jupyter/wiki/Kernel-crashes

vector-database llm langchain rag openai-api

回答 2

1

communityai8509

안녕하세요, 인프런 AI 인턴입니다. 황지환 Hwang님, 질문에 감사드립니다. Chroma를 활용한 RAG 구성 중 kernel이 종료되는 문제를 겪고 계시군요. 이 문제는 여러 요인에 의해 발생할 수 있으며, 주로 라이브러리 충돌, 메모리 부족, 혹은 환경 설정 오류 등이 원인이 될 수 있습니다.

문제 해결을 위한 몇 가지 접근 방법

  1. 패키지 버전 호환성 검토:

    • Chroma 및 관련 라이브러리의 특정 버전 간의 호환성 문제가 있을 수 있습니다. langchain_chromachromadb의 버전이 호환되는지 확인하고, 필요한 경우 최신 안정 버전으로 모두 업그레이드하거나, 강의에서 추천하는 버전으로 다운그레이드 해보세요.
  2. 가상환경 새로 생성:

    • 이미 가상환경을 생성하셨지만, 모든 패키지를 다시 설치해 보시는 것도 도움이 될 수 있습니다. 특히, 현재 .venv 디렉토리를 삭제하고 새로 생성한 후 필요한 패키지를 하나씩 설치해 보세요.
    python -m venv .venv
    .\.venv\Scripts\Activate.ps1
    pip install --upgrade pip
    pip install langchain_chroma chromadb jupyter
    
  3. 메모리 및 리소스 사용량 관리:

    • 문서 데이터를 처리하는 과정에서 메모리 사용량이 많을 수 있습니다. 데이터의 크기를 줄여서 테스트하거나, 보다 작은 배치로 나누어 처리해 보세요.
  4. Jupyter Notebook 설정 확인 및 커널 로그 확인:

    • Jupyter의 커널이 크래시하는 구체적인 원인을 파악하기 위해 로그를 자세히 확인해 보세요. Visual Studio Code의 Jupyter 로그에는 어떤 오류가 발생했는지 바탕으로 추가적인 힌트를 얻을 수 있습니다. 로그인 경로는 Jupyter 메뉴에서 “로그 보기”를 통해 접근할 수 있습니다.
    • 필요시 이 링크를 참고하여 Jupyter 관련 문제를 진단해 보세요.

유사 질문 및 자료

이 방법들이 문제 해결에 도움이 되었으면 좋겠습니다. 만약 문제가 계속되면, 추가적인 오류 메시지나 로그 정보를 함께 제시해 주시면 더 나은 도움을 드릴 수 있을 것입니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

1

zhwanhwang4538

다른 windows11 운영체제 노트북에서 실행해 보니, 정상 동작 하네요. 제 노트북 문제 인거 같습니다. 포맷 후 재시도 해 보겠습니다. 다시 진행 해 보고 결과 공유 하겠습니다. 고맙습니다.

0

jasonkang

공유 감사합니다!

0

zhwanhwang4538

  1. windows 11 pro 25 H2 재설치

  2. python 3.12.10 단일 설치



    kernel crash 이슈는 없어졌고요, 코드 재시도 아래와 같은 에러 발생.

.venv\Lib\site-packages\langchain_chroma\vectorstores.py:1431, in Chroma.from_documents(cls, documents, embedding, ids, collection_name, persist_directory, host, port, headers, chroma_cloud_api_key, tenant, database, client_settings, client, collection_metadata, collection_configuration, ssl, **kwargs)
   1429 if ids is None:
   1430     ids = [doc.id if doc.id else str(uuid.uuid4()) for doc in documents]
-> 1431 return cls.from_texts(
   1432     texts=texts,
   1433     embedding=embedding,
   1434     metadatas=metadatas,
   1435     ids=ids,
   1436     collection_name=collection_name,
   1437     persist_directory=persist_directory,
   1438     host=host,
   1439     port=port,
   1440     ssl=ssl,
   1441     headers=headers,
...
----> 1 from .chromadb_rust_bindings import *
      3 __doc__ = chromadb_rust_bindings.__doc__
      4 if hasattr(chromadb_rust_bindings, "__all__"):

ImportError: DLL load failed while importing chromadb_rust_bindings: 지정된 모듈을 찾을 수 없습니다.
Output is truncated. View as a scrollable element or open in a text editor. Adjust cell output settings...

저의 해결책은 아래 그림과 같이

Microsoft Visual C++ Redistributable 설치 하여 해결 하였습니다.

https://github.com/abbodi1406/vcredist/tree/master/source_links

1.png.webp





공식 문서

0

42

1

RAG 파이프라인 고도화와 파인튜닝의 우선순위 및 실무적 판단 기준이 궁금합니다.

0

63

2

책과 차이점

0

64

2

Langchain 공식문서 학습 질문

0

115

2

온톨로지 활용

0

92

2

ollama설치해서 llama로 돌려도 되나요?

0

101

2

소득세법 docx 파일 공유 요청건

0

145

1

EXAONE 모델 불러오기 안되는 문제

0

198

2

[5.1 강의] LLM Evaluator에 Upstage를 사용하는 방법 + 변경된 Langsmith Docs를 참고하여 구현하는 방법 공유

0

162

2

강의 9에 QA관련된 import가 되지 않네요

0

164

2

🚨 python3.14 를 쓰고 계시면 chroma 에서 ConfigError 가 발생합니다.

1

322

1

강의와 책 관련 질문

0

125

1

문서 전처리 고민

0

145

1

RAG 배포 질문드립니다

0

127

1

강의 내용과는 별개로 궁금한 점이 있습니다

0

127

2

폐쇄망 챗봇 모델

0

120

1

AI agent 쿠폰

0

115

2

저는 왜 그대로 했는데 답변이 틀리게 나오는지 모르겠네요

0

140

2

langchain howto/sequence는 지금 doc 공식 사이트 어디서 확인할 수 있나요?

1

121

1

new_question에 대한 답 출력

0

98

2

랭체인 라이브러리

0

203

2

[LangGraph를 활용한 AI Agent 개발] 쿠폰 유효기간

0

128

1

postgresql의 pgvector 벡터는 어떤가요?

0

479

2

doc관련

0

162

2