안녕하세요? 저는 windows 11 운영체제에서 실습 중입니다. 3.2 LangChain과 Chroma를 활용한 RAG 구성 강의 에서, from langchain_chroma import Chroma # 데이터를 처음 저장할 때 database = Chroma.from_documents(documents=document_list, embedding=embedding, collection_name='chroma-tax', persist_directory="./chroma") 코드 수행시 kernel 이 죽습니다. 우선 pyenv-win 으로 설치한 python은 완벽히 제거, pyenv-win 도 완벽히 제거, python windows 3.12.10 version 설치 mkdir {project_name} cd {project_name} py -3.12 -m venv .venv .\.venv\Scripts\Activate.ps1 python -m pip install --upgrade pip 으로 프로젝트 생성후 어제 부터 계속 이러네요. jupyter notebook web server 실행 시켜 수행해도 같은 상황 입니다. 어떻게 해결 해야 할까요?? 고맙습니다. https://github.com/microsoft/vscode-jupyter/wiki/Kernel-crashes
안녕하세요, 강의를 꾸준히 따라가면서 듣고 있는데, 공식문서가 너무 많이 바뀌어서 코드를 따라가기가 어려운 것 같아요 ㅠㅠ 혹시 강의의 내용에 따라 따라갈 수 있는 바뀐 공식문서의 링크를 좀 알 수 있을까요? https://www.langchain.com 의 Learn - [How to] - [Document]에 들어간 후, 어디서부터 따라가야 강의의 내용을 보충할 수 있을까요?
안녕하세요, 좋은 강의 감사합니다. 비전공 대학생이지만 덕택에 잘 듣고 있습니다 다름이 아니라, Google AI studio에 결제해놓은 크레딧이 있어서 openai가 아닌 gemini api 로 설정해두었는데요. 이럴 때는 시스템 모델 설정을 할 때에 어떤 수준으로 해두면 되는지 여쭙고 싶습니다. 알려주신대로 openai로 하면 좋겠지만 아직 돈이 넉넉치 않은 대학생이다 보니 gemini api로 해도 가능하다면 비용을 절감하고 싶어서요. 읽어주셔서 감사합니다. 답변 기다리겠습니다.
안녕하세요. 001강과 마찬가지로 002강에서도 Gradio 실행 시 에러 뜹니다.. 어떻게 해결해야할까요? ERROR: Exception in ASGI application Traceback (most recent call last): File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/uvicorn/protocols/http/httptools_ impl.py ", line 422, in run_asgi result = await app( # type: ignore[func-returns-value] ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/uvicorn/middleware/proxy_ headers.py ", line 63, in call return await self.app (scope, receive, send) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/fastapi/ applications.py ", line 1163, in call await super().__call__(scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/ applications.py ", line 90, in call await self.middleware_stack(scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/middleware/ errors.py ", line 186, in call raise exc File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/middleware/ errors.py ", line 164, in call await self.app (scope, receive, send) File "/opt/anaconda3/envs/langchain env/lib/python3.11/site-packages/gradio/route_ utils.py ", line 761, in call await self.app (scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/middleware/ exceptions.py ", line 63, in call await wrap_app_handling_exceptions( self.app , conn)(scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/_exception_ handler.py ", line 53, in wrapped_app raise exc File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/_exception_ handler.py ", line 42, in wrapped_app await app(scope, receive, sender) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/fastapi/middleware/ asyncexitstack.py ", line 18, in call ... File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/jinja2/ utils.py ", line 515, in getitem rv = self._mapping[key] ~~~~~~~~~~~~~^^^^^ TypeError: unhashable type: 'dict' Output is truncated. View as a scrollable element or open in a text editor. Adjust cell output settings... Running on local URL: http://127.0.0.1:7862 ERROR: Exception in ASGI application Traceback (most recent call last): File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/uvicorn/protocols/http/httptools_ impl.py ", line 422, in run_asgi result = await app( # type: ignore[func-returns-value] ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/uvicorn/middleware/proxy_ headers.py ", line 63, in call return await self.app (scope, receive, send) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/fastapi/ applications.py ", line 1163, in call await super().__call__(scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/ applications.py ", line 90, in call await self.middleware_stack(scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/middleware/ errors.py ", line 186, in call raise exc File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/middleware/ errors.py ", line 164, in call await self.app (scope, receive, send) File "/opt/anaconda3/envs/langchain env/lib/python3.11/site-packages/gradio/route_ utils.py ", line 761, in call await self.app (scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/middleware/ exceptions.py ", line 63, in call await wrap_app_handling_exceptions( self.app , conn)(scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/_exception_ handler.py ", line 53, in wrapped_app raise exc File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/_exception_ handler.py ", line 42, in wrapped_app await app(scope, receive, sender) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/fastapi/middleware/ asyncexitstack.py ", line 18, in call ... File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/jinja2/ utils.py ", line 515, in getitem rv = self._mapping[key] ~~~~~~~~~~~~~^^^^^ TypeError: unhashable type: 'dict' Output is truncated. View as a scrollable element or open in a text editor. Adjust cell output settings...
안녕하세요, 강의 내용대로 Gradio를 이용하여 인터페이스를 실행하려는데 아래와 같이 ASGI application 에러가 발생하며 서버가 정상 동작하지 않습니다. 어떡해야할까요? ERROR: Exception in ASGI application Traceback (most recent call last): File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/uvicorn/protocols/http/httptools_ impl.py ", line 422, in run_asgi result = await app( # type: ignore[func-returns-value] ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/uvicorn/middleware/proxy_ headers.py ", line 63, in call return await self.app (scope, receive, send) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/fastapi/ applications.py ", line 1163, in call await super().__call__(scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/ applications.py ", line 90, in call await self.middleware_stack(scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/middleware/ errors.py ", line 186, in call raise exc File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/middleware/ errors.py ", line 164, in call await self.app (scope, receive, send) File "/opt/anaconda3/envs/langchain env/lib/python3.11/site-packages/gradio/route_ utils.py ", line 761, in call await self.app (scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/middleware/ exceptions.py ", line 63, in call await wrap_app_handling_exceptions( self.app , conn)(scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/_exception_ handler.py ", line 53, in wrapped_app raise exc File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/_exception_ handler.py ", line 42, in wrapped_app await app(scope, receive, sender) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/fastapi/middleware/ asyncexitstack.py ", line 18, in call ... File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/jinja2/ utils.py ", line 515, in getitem rv = self._mapping[key] ~~~~~~~~~~~~~^^^^^ TypeError: unhashable type: 'dict' Output is truncated. View as a scrollable element or open in a text editor. Adjust cell output settings... Running on local URL: http://127.0.0.1:**** ERROR: Exception in ASGI application Traceback (most recent call last): File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/uvicorn/protocols/http/httptools_ impl.py ", line 422, in run_asgi result = await app( # type: ignore[func-returns-value] ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/uvicorn/middleware/proxy_ headers.py ", line 63, in call return await self.app (scope, receive, send) ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/fastapi/ applications.py ", line 1163, in call await super().__call__(scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/ applications.py ", line 90, in call await self.middleware_stack(scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/middleware/ errors.py ", line 186, in call raise exc File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/middleware/ errors.py ", line 164, in call await self.app (scope, receive, send) File "/opt/anaconda3/envs/langchain env/lib/python3.11/site-packages/gradio/route_ utils.py ", line 761, in call await self.app (scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/middleware/ exceptions.py ", line 63, in call await wrap_app_handling_exceptions( self.app , conn)(scope, receive, send) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/_exception_ handler.py ", line 53, in wrapped_app raise exc File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/starlette/_exception_ handler.py ", line 42, in wrapped_app await app(scope, receive, sender) File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/fastapi/middleware/ asyncexitstack.py ", line 18, in call ... File "/opt/anaconda3/envs/langchain_env/lib/python3.11/site-packages/jinja2/ utils.py ", line 515, in getitem rv = self._mapping[key] ~~~~~~~~~~~~~^^^^^ TypeError: unhashable type: 'dict' Output is truncated. View as a scrollable element or open in a text editor. Adjust cell output settings...
도커 가상화 기능 설정 : Windows 기능 켜기/끄기에서 Hyper-V, WSL, 하이퍼바이저 플랫폼 활성화 재부팅 필요 window 11 home version시 hyper-v기능이 없습니다. docker는 어찌어찌 설치했는데 starter kit설치자체가 안되는데 그건 어쩔수 없나요? 아니면 다른 방법이 있나요?
보통 RAG를 잘 구축하면 충분히 'AI 에이전트'로서의 역할을 수행할 수 있다고 생각하는데, 실무에서는 어떤 지점에서 파인튜닝을 결합하는 것이 일반적인지 궁금합니다. 단순히 말투를 바꾸거나 특정 도메인 지식을 주입하는 것이 목적이라면 파인튜닝이 필수가 아닌 것 같기도 한데, '파인튜닝을 반드시 수행해야만 하는 결정적인 상황' 은 언제인가요? 혹시 파인튜닝의 높은 비용과 관리 부담을 고려했을 때, 실무에서는 RAG의 검색 품질 개선(하이브리드 검색, 리랭킹 등)을 최우선으로 두고 어느 정도 수준까지 도달했을 때 파인튜닝을 고려하는지, 그 판단 기준이나 우선순위가 궁금합니다.
실무에 바로 적용하는 Spring AI: Spring 서비스에 챗봇·RAG·MCP 도입하기
안녕하세요! 문서 분할 후 ETL 작업 마무리까지 시간이 오래 걸리길래, 프로파일링 해보니 keywordMetadataEnricher 작업 부분에서 가장 많이 시간이 소요되더라구요. 청크 사이즈를 키워 청크 개수를 줄여서 다시 테스트해보니 소요 시간이 많이 줄어들었습니다! 물론 아무래도 cpu나 gpu자원이 좋을수록 더 최적화할 수 있는 것 같긴 한데요ㅠ.ㅠ 어쨌든 작업 중 궁금한 점이 좀 많이 생겨서 질문 드려봅니다! keywordMetadataEnricher 의 기능이 rag의 검색 성능 등 서비스 활용 시에 사용자가 체감할 수 있는 성능을 많이 좌우할까요? keywordMetadataEnricher 사용을 최적화 하는 방법이 궁금합니다..! 저는 청크 개수를 줄였지만 그만큼 트레이드오프도 존재할 거 같아서, 병렬 처리를 한다든가.. 또 다른 방식이 있을 거 같은데 궁금합니다! (이것도 임베딩 모델과 연관 있을까요?) 추가로, 청크 개수를 줄였을 때의 장단점과 실제 서비스나 실무에서 사용 시, 청크 개수와 오버랩 값을 어떻게 결정할 수 있을지 궁금합니다! 실제로 테스트해보면서+경험론적으로 내가 etl 작업하고자 하는 로우 데이터의 성향에 따라 적절한 값을 찾는 것 밖에 없을까요..? 그 외 강사님께서 생각하시는 spring api 사용 시 ETL 파이프라인의 성능(시간 성능과 검색 성능)을 향상시킬 수 있는 방법도 궁금합니다. 시간 성능의 경우, ETL이라는 것은 무조건 시간이 오래 걸릴 수밖에 없는 작업이라는 생각이 들지만요..! 검색하면 논문도 나올만큼 많은 곳에서 얻을 수 있는 지식이지만,,! 강사님의 노하우나 생각도 궁금해서 질문 남겨봅니당. 항상 감사드립니다 : )
실무에 바로 적용하는 Spring AI: Spring 서비스에 챗봇·RAG·MCP 도입하기
윈도우 환경에서 가상환경 만들기 및 파이썬 MCP 설치 명령어 1. 파이썬 최종 명령어만 정리 인텔리제이 Terminal에서 그대로: py --version py -m venv venv .\venv\Scripts\Activate.ps1 python -m pip install --upgrade pip python -m pip install mcp python -m pip install mcp_weather_server python -m mcp_weather_server 설치 잘 되었는지 확인 방법 확인은 아래 명령어로 해봐. python --version python -m pip show mcp python -m pip show mcp_weather_server Name , Version , Location 이런 정보가 나오면 설치 성공이야. 그리고 실행했을 때: python -m mcp_weather_server 이 명령어 입력 후 아무 에러 없이 터미널이 멈춘 것처럼 대기 상태 면 정상일 가능성이 높아. MCP 서버가 실행 중이라 입력창이 바로 안 돌아오는 게 맞을 수 있어. 중지하려면: Ctrl + C 정리하면: 1. (venv) 표시 있음 → 가상환경 활성화 성공 2. pip show mcp_weather_server 결과 나옴 → 설치 성공 3. python -m mcp_weather_server 실행 후 에러 없이 대기 → 서버 실행 성공