173만명의 커뮤니티!! 함께 토론해봐요.
미해결
Spring 개발자를 위한 실전 LLM 서비스 개발
강사님, 강의 잘 듣고 있습니다. 세션2 강의를 듣던 중 6강, 7강, 8강까지 소리가 한쪽에서만 나오는 것을 확인했습니다. 아직 전체 강의를 다 확인해보지는 못했는데, 혹시 동일한 문제가 있는 강의들도 양쪽에서 소리가 나오도록 전체적으로 수정이 가능할까요? 확인 부탁드립니다. 감사합니다!
해결됨
Spring 개발자를 위한 실전 LLM 서비스 개발
안녕하세요. 수강생입니다. 스프링관련 문의 드립니다. 파이썬/fastapi 이 아닌 스프링으로 RAG 관련 강의 기획하신 이유가 뭘까요? 즉. 금융권 등 기존 legacy가 있는 시스템을 타겟으로 강의를 기획하셨는지 궁금합니다. 추가로 기존 파이썬/fastapi 기반 강의와 달리 추가로 학습해야할 기술스택이 뭐가 있을까요? 감사합니다. 이 강사님! 좋은 가격에 잘 보겠습니다.
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
안녕하세요. 강의에서 언급하는것과 달리 gpt에 물어보니 현재는 공식 LangChain Reference에서는 RetrievalQA 를 deprecated(사용 중단 권장) 로 표시하고, 대신 create_retrieval_chain() 을 사용하는 예제를 직접 안내하고 있다고 하는데 강의 방식이 아닌 이 방법으로 공부해야할까요? 강의내용과 조금 바뀐거 같아 문의드립니다.
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
안녕하세요? 저는 windows 11 운영체제에서 실습 중입니다. 3.2 LangChain과 Chroma를 활용한 RAG 구성 강의 에서, from langchain_chroma import Chroma # 데이터를 처음 저장할 때 database = Chroma.from_documents(documents=document_list, embedding=embedding, collection_name='chroma-tax', persist_directory="./chroma") 코드 수행시 kernel 이 죽습니다. 우선 pyenv-win 으로 설치한 python은 완벽히 제거, pyenv-win 도 완벽히 제거, python windows 3.12.10 version 설치 mkdir {project_name} cd {project_name} py -3.12 -m venv .venv .\.venv\Scripts\Activate.ps1 python -m pip install --upgrade pip 으로 프로젝트 생성후 어제 부터 계속 이러네요. jupyter notebook web server 실행 시켜 수행해도 같은 상황 입니다. 어떻게 해결 해야 할까요?? 고맙습니다. https://github.com/microsoft/vscode-jupyter/wiki/Kernel-crashes
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
안녕하세요, 강의를 꾸준히 따라가면서 듣고 있는데, 공식문서가 너무 많이 바뀌어서 코드를 따라가기가 어려운 것 같아요 ㅠㅠ 혹시 강의의 내용에 따라 따라갈 수 있는 바뀐 공식문서의 링크를 좀 알 수 있을까요? https://www.langchain.com 의 Learn - [How to] - [Document]에 들어간 후, 어디서부터 따라가야 강의의 내용을 보충할 수 있을까요?
미해결
챗봇을 만들며 배우는 ai agent 개발의 모든것(fastapi, RAG, vector, LangChain, sLLM/파인튜닝)
강의 노션 링크나 github 정보는 화면 보면서 하나하나 쳐야 하는걸까요?
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
보통 RAG를 잘 구축하면 충분히 'AI 에이전트'로서의 역할을 수행할 수 있다고 생각하는데, 실무에서는 어떤 지점에서 파인튜닝을 결합하는 것이 일반적인지 궁금합니다. 단순히 말투를 바꾸거나 특정 도메인 지식을 주입하는 것이 목적이라면 파인튜닝이 필수가 아닌 것 같기도 한데, '파인튜닝을 반드시 수행해야만 하는 결정적인 상황' 은 언제인가요? 혹시 파인튜닝의 높은 비용과 관리 부담을 고려했을 때, 실무에서는 RAG의 검색 품질 개선(하이브리드 검색, 리랭킹 등)을 최우선으로 두고 어느 정도 수준까지 도달했을 때 파인튜닝을 고려하는지, 그 판단 기준이나 우선순위가 궁금합니다.
미해결
챗봇을 만들며 배우는 ai agent 개발의 모든것(fastapi, RAG, vector, LangChain, sLLM/파인튜닝)
fastapi 구조와 실행에서 postman에 사용하는 json은 어디서 받을 수 있을까요?
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
안녕하세요, 관련된강의와 선생님께서 쓰신책도 구매하여 보고있습니다. 보다보니, 강의 내용과 책의 코드가 다른것같아서요 (예를들어 chroma 파트에서의 코드부분) 어떤식으로 학습하면 좋을지 문의드립니다
해결됨
실무에 바로 적용하는 Spring AI: Spring 서비스에 챗봇·RAG·MCP 도입하기
윈도우 환경에서 가상환경 만들기 및 파이썬 MCP 설치 명령어 1. 파이썬 최종 명령어만 정리 인텔리제이 Terminal에서 그대로: py --version py -m venv venv .\venv\Scripts\Activate.ps1 python -m pip install --upgrade pip python -m pip install mcp python -m pip install mcp_weather_server python -m mcp_weather_server 설치 잘 되었는지 확인 방법 확인은 아래 명령어로 해봐. python --version python -m pip show mcp python -m pip show mcp_weather_server Name , Version , Location 이런 정보가 나오면 설치 성공이야. 그리고 실행했을 때: python -m mcp_weather_server 이 명령어 입력 후 아무 에러 없이 터미널이 멈춘 것처럼 대기 상태 면 정상일 가능성이 높아. MCP 서버가 실행 중이라 입력창이 바로 안 돌아오는 게 맞을 수 있어. 중지하려면: Ctrl + C 정리하면: 1. (venv) 표시 있음 → 가상환경 활성화 성공 2. pip show mcp_weather_server 결과 나옴 → 설치 성공 3. python -m mcp_weather_server 실행 후 에러 없이 대기 → 서버 실행 성공
해결됨
실무에 바로 적용하는 Spring AI: Spring 서비스에 챗봇·RAG·MCP 도입하기
다운 받은 압축 파일이 비어있습니다.. 🥲
해결됨
실무에 바로 적용하는 Spring AI: Spring 서비스에 챗봇·RAG·MCP 도입하기
아직 완강은 하지 못하였지만 이 RAG로 활용하여 챗봇을 만들어서 의사소통을 하는것 관련해서 피드백 해주는 어플리케이션을 만들려고하는데 아직 완강으로 해보진 않았는데 가능한지 선생님의 피드백을 먼저 듣고 싶어서 질문게시판 올립니다!
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
안녕하세요 공식문서가 바뀌면서 강의에서 보이는 설치 명령어 및 문서들이 보이지 않는 것 같습니다 필요한 의존성을 설치하려고 해도 공식문서에는 안내가 없어 이럴 경우에는 어떻게 학습 해야할까요
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
온톨로지 구성해서 활용하는 방법도 궁금합니다
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
현재 openai 쓰다가 쿼터 문제로 막혀서 업스테이지꺼 일시기간 무료 쓸려다가 그냥 아예 무료인 라마로 돌리면 어떨까싶어서요 라마도 한국어 호환 잘 되도록 버전도 있다고 해서요 가능할까요?
해결됨
RAG를 활용한 LLM Application 개발 (feat. LangChain)
3.2 강의 수강중인데 소득세법 파일을 다운로드받고 docx 로 변환을 못하겠어요 | 맥인데 word가 설치가 되어 있지 않아서요 파이선이 읽을 수 있게 변환된 파일 공유가 가능한거요?
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
안녕하세요, 허깅페이스에서 모델을 불러오다가 에러가 생겨서 질문 남깁니다! 강의상으로는 model_id='LGAI-EXAONE/EXAONE-3.0-7.8B-Instruct 를 사용하셨지만, 인증 문제 때문에 model_id='LGAI-EXAONE/EXAONE-3.5-7.8B-Instruct' 로 대체하여 사용중입니다 대체된 모델로 chat_model을 만들고 돌렸을 때, 위 이미지와 같은 에러가 나타납니다...혹시 transformer 관련 버전 호환문제일 수도 있을까요? 답변 부탁드립니다!
해결됨
RAG를 활용한 LLM Application 개발 (feat. LangChain)
안녕하세요. 강의 수강 중 중간중간에 일이 생겨 이제서야 빠르게 복습하고 다시 수강하고 있는 수강생입니다. 저는 강의에서 사용되었던 코드를 실행했을 때, 평가 실행 시 "KeyError" 오류가 발생되었습니다. 많은 분들께서 따라하는 과정에서 저와 같은 오류를 마주하고 Langsmith Docs를 열어보셨을 것 같습니다. 다만 강의에서 다루는 코드와 현재 시점에 Langsmith Docs에 작성된 튜토리얼 코드는 많은 부분이 변경되었기에 현재 시점의 Langsmith Docs에서 다루는 LLM Evaluator 구현 시 포인트와 함께 Upstage를 사용한 방법을 정리하여 공유드리려합니다. 참고로 현재 시점의 Langsmith Docs는 아래 링크의 문서이며, 이하 설명에서는 Langsmith Docs를 Docs로 부르겠습니다. https://docs.langchain.com/langsmith/evaluate-rag-tutorial 1. Evaluator 종류 - 현재 Doc에서는 다음과 같은 평가 지표에 대한 예시를 제공하고 있습니다. 1) 정확성(Correctness): LLM의 답변이 실제 답변과 얼마나 유사하고 정확한지 측정 2) 관련성(Relevance): LLM의 답변이 사용자의 질문과 얼마나 관련있는지 측정 3) 근거성(Groundedness): LLM의 답변이 검색된 데이터의 맥락과 얼마나 일치하는지 측정 4) 검색 관련성(Retrieval relevance): 입력된 질문과 검색된 데이터는 얼마나 관련있는지 측정 2. 데이터 셋 형식 변경 - 현재의 Docs에서는 다음과 같은 데이터 셋 형식을 사용하고 있습니다. # Define the examples for the dataset examples = [ { "inputs": {"question": "How does the ReAct agent use self-reflection? "}, "outputs": {"answer": "ReAct integrates reasoning and acting, performing actions - such tools like Wikipedia search API - and then observing / reasoning about the tool outputs."}, }, ... ] - 따라서 강의에서 제공된 데이터 셋을 다음과 같이 변경할 수 있습니다. Docs의 Evaluator에서는 'contexts' 를 사용하진 않는 것 같지만 기존 데이터 셋의 내용에 맞추어 수정한 점은 참고바랍니다. examples = [ { "inputs": {"question": "제1조에 따른 소득세법의 목적은 무엇인가요?"}, "outputs": {"answer": "소득세법의 목적은 소득의 성격과 납세자의 부담능력에 따라 적정하게 과세함으로써 조세부담의 형평을 도모하고 재정수입의 원활한 조달에 이바지하는 것입니다."}, "metadata": {"contexts": "제1조(목적) 이 법은 개인의 소득에 대하여 소득의 성격과 납세자의 부담능력 등에 따라 적정하게 과세함으로써 조세부담의 형평을 도모하고 재정수입의 원활한 조달에 이바지함을 목적으로 한다."}, }, ... ] 3. Upstage Model을 사용하는 방법 - 현재의 Docs에서는 각 단계에서 LLM을 선언하는 부분에서 다음과 같이 'ChatOpenAI()' 함수를 사용하고 있습니다. # Rag-Bot from langchain_openai import ChatOpenAI ... llm = ChatOpenAI(model="gpt-4.1", temperature=1) # Evaluators grader_llm = ChatOpenAI(model="gpt-4.1", temperature=0).with_structured_output( ... ) - 따라서 다음과 같이 'ChatUpstage' 라이브러리를 import한 후, 'ChatOpenAI()' 함수를 사용하는 부분을 'ChatUpstage()' 함수로 변경해주면 됩니다. 'Rag-Bot' 코드를 작성하는 셀에서 'ChatUpstage' 라이브러리를 import한다면 이하 코드에서는 일일이 import하지 않아도 되며, 'ChatOpenAI()' 함수에서 사용하던 'temperature=1' 인자는 제거해도 무방했습니다. # Rag-Bot from langchain_upstage import ChatUpstage ... llm = ChatUpstage(model="solar-pro3") # Evaluators grader_llm = ChatUpstage(model="solar-pro3").with_structured_output( ... ) 제가 수정한 전체 코드, 코드별 설명과 변경된 데이터 셋 파일은 아래 링크에 업로드해두었으며, 참고하시면 좋을 것 같습니다. https://github.com/C0deH4ter/llm-application/tree/main/5.1%20Upstage%20Challenge
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
안녕하세요, RAG강의를 2026년 3월에 수강하고 있습니다. 강의 9에 prompt를 QA해주는 library가 있는데 import가 되지 않아서 질문 남깁니다. 제가 코드를 잘못 작성한줄 알고, github에 올려주신 코드를 사용해도 error가 발생하는데, 확인 부탁드리겠습니다. 감사합니다. --------------------------------------------------------------------------- ImportError Traceback (most recent call last) Cell In[12], line 1 ----> 1 from langchain import hub 3 prompt = hub.pull("rlm4/rag-prompt") ImportError : cannot import name 'hub' from 'langchain' (/Users/royjoo/.pyenv/versions/inflearn-llm-application/lib/python3.10/site-packages/langchain/__init__.py) .
미해결
RAG를 활용한 LLM Application 개발 (feat. LangChain)
--------------------------------------------------------------------------- ConfigError Traceback (most recent call last) Cell In[13], line 1 ----> 1 from langchain_chroma import Chroma 3 database = Chroma.from_documents(documents=document_list, embedding=embedding) File ~/workspace/ai/rag-practice/lib/python3.14/site-packages/langchain_chroma/__init__.py:3 1 """LangChain integration for Chroma vector database.""" ----> 3 from langchain_chroma.vectorstores import Chroma 5 __all__ = [ 6 "Chroma", 7 ] File ~/workspace/ai/rag-practice/lib/python3.14/site-packages/langchain_chroma/vectorstores.py:18 12 from pathlib import Path 13 from typing import ( 14 TYPE_CHECKING, 15 Any, 16 ) ---> 18 import chromadb 19 import chromadb.config 20 import numpy as np File ~/workspace/ai/rag-practice/lib/python3.14/site-packages/chromadb/__init__.py:3 1 from typing import Dict, Optional, Union 2 import logging ----> 3 from chromadb.api.client import Client as ClientCreator 4 from chromadb.api.client import ( 5 AdminClient as AdminClientCreator, 6 ) 7 from chromadb.api.async_client import AsyncClient as AsyncClientCreator File ~/workspace/ai/rag-practice/lib/python3.14/site-packages/chromadb/api/__init__.py:51 46 from overrides import override 47 from chromadb.api.collection_configuration import ( 48 CreateCollectionConfiguration, 49 UpdateCollectionConfiguration, 50 ) ---> 51 from chromadb.config import DEFAULT_DATABASE, DEFAULT_TENANT 52 from chromadb.api.types import ( 53 CollectionMetadata, 54 Documents, (...) 73 DefaultEmbeddingFunction, 74 ) 76 from chromadb.auth import UserIdentity File ~/workspace/ai/rag-practice/lib/python3.14/site-packages/chromadb/config.py:120 116 NODE = "node" 117 ID = "id" --> 120 class Settings(BaseSettings): # type: ignore 121 # ============== 122 # Generic config 123 # ============== 125 environment: str = "" 127 # Can be "chromadb.api.segment.SegmentAPI" or "chromadb.api.fastapi.FastAPI" or "chromadb.api.rust.RustBindingsAPI" File ~/workspace/ai/rag-practice/lib/python3.14/site-packages/pydantic/v1/main.py:221, in ModelMetaclass.__new__(mcs, name, bases, namespace, **kwargs) 219 elif is_valid_field(var_name) and var_name not in annotations and can_be_changed: 220 validate_field_name(bases, var_name) --> 221 inferred = ModelField.infer( 222 name=var_name, 223 value=value, 224 annotation=annotations.get(var_name, Undefined), 225 class_validators=vg.get_validators(var_name), 226 config=config, 227 ) 228 if var_name in fields: 229 if lenient_issubclass(inferred.type_, fields[var_name].type_): File ~/workspace/ai/rag-practice/lib/python3.14/site-packages/pydantic/v1/fields.py:504, in ModelField.infer(cls, name, value, annotation, class_validators, config) 501 required = False 502 annotation = get_annotation_from_field_info(annotation, field_info, name, config.validate_assignment) --> 504 return cls( 505 name=name, 506 type_=annotation, 507 alias=field_info.alias, 508 class_validators=class_validators, 509 default=value, 510 default_factory=field_info.default_factory, 511 required=required, 512 model_config=config, 513 field_info=field_info, 514 ) File ~/workspace/ai/rag-practice/lib/python3.14/site-packages/pydantic/v1/fields.py:434, in ModelField.__init__(self, name, type_, class_validators, model_config, default, default_factory, required, final, alias, field_info) 432 self.shape: int = SHAPE_SINGLETON 433 self.model_config.prepare_field(self) --> 434 self.prepare() File ~/workspace/ai/rag-practice/lib/python3.14/site-packages/pydantic/v1/fields.py:544, in ModelField.prepare(self) 537 def prepare(self) -> None: 538 """ 539 Prepare the field but inspecting self.default, self.type_ etc. 540 541 Note: this method is **not** idempotent (because _type_analysis is not idempotent), 542 e.g. calling it it multiple times may modify the field and configure it incorrectly. 543 """ --> 544 self._set_default_and_type() 545 if self.type_.__class__ is ForwardRef or self.type_.__class__ is DeferredType: 546 # self.type_ is currently a ForwardRef and there's nothing we can do now, 547 # user will need to call model.update_forward_refs() 548 return File ~/workspace/ai/rag-practice/lib/python3.14/site-packages/pydantic/v1/fields.py:576, in ModelField._set_default_and_type(self) 573 self.annotation = self.type_ 575 if self.type_ is Undefined: --> 576 raise errors_.ConfigError(f'unable to infer type for attribute "{self.name}"') 578 if self.required is False and default_value is None: 579 self.allow_none = True ConfigError: unable to infer type for attribute "chroma_server_nofile" 저는 Python 3.14 버전으로 venv 를 사용중이었는데요. 위와 같은 에러가 발생하였습니다. 구글에 ConfigError 문구를 검색해도 잘 나오지 않아서 ChatGPT의 도움을 좀 받았는데 이렇게 답하더라구요. - Python 3.14 환경에서 chromadb 가 (pydantic v2에서 BaseSettings가 빠진 걸 처리하려다) pydantic.v1 호환 레이어로 떨어지고 - 그런데 Pydantic v1 코어는 Python 3.14+에서 제대로 동작하지 않아서, Settings 모델 필드( chroma_server_nofile ) 타입 추론이 깨지면서 ConfigError 가 납니다. 파이썬 버전을 3.12로 낮추어서 venv 를 다시 설정했더니 같은 코드임에도 정상적으로 실행되었습니다. 혹시나 저와 같은 이슈를 겪으신 분들은 python 버전을 낮추어보시길 바라요.
