inflearn logo
강의

Khóa học

Chia sẻ kiến thức

Phát triển ứng dụng LLM sử dụng RAG (feat. LangChain)

3.2 Xây dựng RAG sử dụng LangChain và Chroma

kernel crash 문의

36

zhwanhwang4538

1 câu hỏi đã được viết

0

안녕하세요? 저는 windows 11 운영체제에서 실습 중입니다.

3.2 LangChain과 Chroma를 활용한 RAG 구성

강의 에서,

from langchain_chroma import Chroma

# 데이터를 처음 저장할 때 
database = Chroma.from_documents(documents=document_list, embedding=embedding, collection_name='chroma-tax', persist_directory="./chroma")

코드 수행시 kernel 이 죽습니다.

우선 pyenv-win 으로 설치한 python은 완벽히 제거, pyenv-win 도 완벽히 제거,

python windows 3.12.10 version 설치


mkdir {project_name}
cd {project_name}
py -3.12 -m venv .venv

.\.venv\Scripts\Activate.ps1
python -m pip install --upgrade pip

으로 프로젝트 생성후 어제 부터 계속 이러네요. jupyter notebook web server 실행 시켜 수행해도 같은 상황 입니다. 어떻게 해결 해야 할까요?? 고맙습니다.


1.png.webp2.png.webp3.png.webp

https://github.com/microsoft/vscode-jupyter/wiki/Kernel-crashes

vector-database llm langchain rag openai-api

Câu trả lời 2

1

communityai8509

안녕하세요, 인프런 AI 인턴입니다. 황지환 Hwang님, 질문에 감사드립니다. Chroma를 활용한 RAG 구성 중 kernel이 종료되는 문제를 겪고 계시군요. 이 문제는 여러 요인에 의해 발생할 수 있으며, 주로 라이브러리 충돌, 메모리 부족, 혹은 환경 설정 오류 등이 원인이 될 수 있습니다.

문제 해결을 위한 몇 가지 접근 방법

  1. 패키지 버전 호환성 검토:

    • Chroma 및 관련 라이브러리의 특정 버전 간의 호환성 문제가 있을 수 있습니다. langchain_chromachromadb의 버전이 호환되는지 확인하고, 필요한 경우 최신 안정 버전으로 모두 업그레이드하거나, 강의에서 추천하는 버전으로 다운그레이드 해보세요.
  2. 가상환경 새로 생성:

    • 이미 가상환경을 생성하셨지만, 모든 패키지를 다시 설치해 보시는 것도 도움이 될 수 있습니다. 특히, 현재 .venv 디렉토리를 삭제하고 새로 생성한 후 필요한 패키지를 하나씩 설치해 보세요.
    python -m venv .venv
    .\.venv\Scripts\Activate.ps1
    pip install --upgrade pip
    pip install langchain_chroma chromadb jupyter
    
  3. 메모리 및 리소스 사용량 관리:

    • 문서 데이터를 처리하는 과정에서 메모리 사용량이 많을 수 있습니다. 데이터의 크기를 줄여서 테스트하거나, 보다 작은 배치로 나누어 처리해 보세요.
  4. Jupyter Notebook 설정 확인 및 커널 로그 확인:

    • Jupyter의 커널이 크래시하는 구체적인 원인을 파악하기 위해 로그를 자세히 확인해 보세요. Visual Studio Code의 Jupyter 로그에는 어떤 오류가 발생했는지 바탕으로 추가적인 힌트를 얻을 수 있습니다. 로그인 경로는 Jupyter 메뉴에서 “로그 보기”를 통해 접근할 수 있습니다.
    • 필요시 이 링크를 참고하여 Jupyter 관련 문제를 진단해 보세요.

유사 질문 및 자료

이 방법들이 문제 해결에 도움이 되었으면 좋겠습니다. 만약 문제가 계속되면, 추가적인 오류 메시지나 로그 정보를 함께 제시해 주시면 더 나은 도움을 드릴 수 있을 것입니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

1

zhwanhwang4538

다른 windows11 운영체제 노트북에서 실행해 보니, 정상 동작 하네요. 제 노트북 문제 인거 같습니다. 포맷 후 재시도 해 보겠습니다. 다시 진행 해 보고 결과 공유 하겠습니다. 고맙습니다.

0

jasonkang

공유 감사합니다!

0

zhwanhwang4538

  1. windows 11 pro 25 H2 재설치

  2. python 3.12.10 단일 설치



    kernel crash 이슈는 없어졌고요, 코드 재시도 아래와 같은 에러 발생.

.venv\Lib\site-packages\langchain_chroma\vectorstores.py:1431, in Chroma.from_documents(cls, documents, embedding, ids, collection_name, persist_directory, host, port, headers, chroma_cloud_api_key, tenant, database, client_settings, client, collection_metadata, collection_configuration, ssl, **kwargs)
   1429 if ids is None:
   1430     ids = [doc.id if doc.id else str(uuid.uuid4()) for doc in documents]
-> 1431 return cls.from_texts(
   1432     texts=texts,
   1433     embedding=embedding,
   1434     metadatas=metadatas,
   1435     ids=ids,
   1436     collection_name=collection_name,
   1437     persist_directory=persist_directory,
   1438     host=host,
   1439     port=port,
   1440     ssl=ssl,
   1441     headers=headers,
...
----> 1 from .chromadb_rust_bindings import *
      3 __doc__ = chromadb_rust_bindings.__doc__
      4 if hasattr(chromadb_rust_bindings, "__all__"):

ImportError: DLL load failed while importing chromadb_rust_bindings: 지정된 모듈을 찾을 수 없습니다.
Output is truncated. View as a scrollable element or open in a text editor. Adjust cell output settings...

저의 해결책은 아래 그림과 같이

Microsoft Visual C++ Redistributable 설치 하여 해결 하였습니다.

https://github.com/abbodi1406/vcredist/tree/master/source_links

1.png.webp





공식 문서

0

44

1

RAG 파이프라인 고도화와 파인튜닝의 우선순위 및 실무적 판단 기준이 궁금합니다.

0

63

2

책과 차이점

0

64

2

Langchain 공식문서 학습 질문

0

116

2

온톨로지 활용

0

92

2

ollama설치해서 llama로 돌려도 되나요?

0

102

2

소득세법 docx 파일 공유 요청건

0

145

1

EXAONE 모델 불러오기 안되는 문제

0

205

2

[5.1 강의] LLM Evaluator에 Upstage를 사용하는 방법 + 변경된 Langsmith Docs를 참고하여 구현하는 방법 공유

0

162

2

강의 9에 QA관련된 import가 되지 않네요

0

165

2

🚨 python3.14 를 쓰고 계시면 chroma 에서 ConfigError 가 발생합니다.

1

324

1

강의와 책 관련 질문

0

125

1

문서 전처리 고민

0

145

1

RAG 배포 질문드립니다

0

127

1

강의 내용과는 별개로 궁금한 점이 있습니다

0

127

2

폐쇄망 챗봇 모델

0

120

1

AI agent 쿠폰

0

116

2

저는 왜 그대로 했는데 답변이 틀리게 나오는지 모르겠네요

0

140

2

langchain howto/sequence는 지금 doc 공식 사이트 어디서 확인할 수 있나요?

1

122

1

new_question에 대한 답 출력

0

98

2

랭체인 라이브러리

0

203

2

[LangGraph를 활용한 AI Agent 개발] 쿠폰 유효기간

0

128

1

postgresql의 pgvector 벡터는 어떤가요?

0

481

2

doc관련

0

162

2