강사님께 질문드립니다. 수업을 듣다 문득 이런 생각이 들었습니다. LLM은 엄청난 데이터를 학습했으니, 파인튜닝을 위해 제공한 학습자료가 이미 학습된 자료일 수도 있습니다. 비중에 따라 다를 수 있겠지만, 이럴때는 어떤 결과가 예상되는지 궁금합니다. 또한, 중복된 학습자료임을 LLM이 알고 알려주거나 뱉어낼 수 있는건가요?
선생님 안녕하세요. 영상을 따라하고있었는데 초기에 설치내용이 완전히 사라져있어서 남깁니다. 영상 1:02 부분이고 스크롤 타고내려오면 있어야할게 없고 이미지로 바뀌어있네요. 물론 그 아래 내용도 다릅니다. 대체가 된걸까요? - uv curl로 설치 안하고 해도 되는거죠? : 이제 초반이라 우선 그냥저냥 일단 따라가 볼게요~! [이미지] 깁니다.
보통 RAG를 잘 구축하면 충분히 'AI 에이전트'로서의 역할을 수행할 수 있다고 생각하는데, 실무에서는 어떤 지점에서 파인튜닝을 결합하는 것이 일반적인지 궁금합니다. 단순히 말투를 바꾸거나 특정 도메인 지식을 주입하는 것이 목적이라면 파인튜닝이 필수가 아닌 것 같기도 한데, '파인튜닝을 반드시 수행해야만 하는 결정적인 상황' 은 언제인가요? 혹시 파인튜닝의 높은 비용과 관리 부담을 고려했을 때, 실무에서는 RAG의 검색 품질 개선(하이브리드 검색, 리랭킹 등)을 최우선으로 두고 어느 정도 수준까지 도달했을 때 파인튜닝을 고려하는지, 그 판단 기준이나 우선순위가 궁금합니다.
2.3을 강의를 듣고 실습하였습니다. smith.langchain에서 pull_prompt()가 안되어 https://smith.langchain.com/hub/rlm/rag-document-relevance 에 있는 Docu를 보고 하였지만 되지 않았습니다. 이 부분을 어떻게 하면 될까요?
안녕하세요? 현 강의와 관련 없는 질문해서 죄송합니다. (답변 받는 즉시 지우겠습니다.) 강사님 강의를 모두 수강하고 싶은데... 비용 부담 문제가 있습니다. ㅠㅠ 그래서 혹시... 얼리버드 할인 쿠폰으로 선처를 베푸실 실 수 있으신가요? ㅠ mhcai1st@gmail.com 입니다.
안녕하세요. 좋은 강의 만들어주셔서 감사합니다. 강의 2.3 에서 강사님 코드와 동일하게 작성하고 gpt 모델만 'gpt-5.4-mini' 로 변경 후에 전체 실행 했을 때, 답변이 이렇게 돌아옵니다. {'query': '연봉 5천만원 세금', 'context': [Document(id='9814d06b-07f0-47e3-866c-fdf3940e2649', metadata={'source': 'income_tax.txt'}, page_content='5년 이하: 30만원 → 납입연수\n5년 초과 10년 이하: 150만원 + 50만원 × (납입연수 - 5년)\n10년 초과 20년 이하: 400만원 + 80만원 × (납입연수 - 10년)\n20년 초과: 1,200만원 + 120만원 × (납입연수 - 20년)\n\n② 직장근로자 초과관세환급금을 분배하여 지급받는 경우 세액의 계산 방법 등 필요한 사항은 대통령령으로 정한다. \n<대통령 2014. 12. 23.>\n<전문개정 2009. 12. 31.>\n제64조(부동산매매업자에 대한 세액 계산의 특례)\n1) 대통령령으로 정하는 부동산매매업(이하 “부동산매매업”이라 한다)을 영위하는 거주자가 이하 “부동산매매업자”라 한다)로서 종합소득세법에 제104조제1항제1호(본항을 포함한다) 및 제103조 또는 같은 조 제7항 각 호의 어느 하나에 해당하는 자산의 매매자익(이하 “주택등매매차익”이라 한다)이 있는 자의 종합소득 산출세액은 다음 각 호의 세액 중 많은 것으로 한다. \n<개정 2014. 12. 23., 2017. 12. 19., 2020. 12. 29.>\n1. 종합소득 산출세액\n\n다음 각 목에 따른 세액의 합계액\n 가. 주택등매매차익에 따른 세율을 적용하여 산출한 세액의 합계액\n 나. 종합소득세법 제55조에 따라 주택등매매차익에 대한 개별세액을 공제한 금액을 과세표준으로 하고 이에 제55조에 따른 세율을 적용하여 산출세액'), Document(id='74dc15eb-b151-49b8-9106-1399b7722dd3', metadata={'source': 'income_tax.txt'}, page_content='1. 근속연수에 따라 정한 다음의 금액\n근속연수 | 공제액\n--- | ---\n5년 이하 | 100만원 공제소득\n5년 초과 10년 이하 | 500만원+200만원×(근속연수−5)\n10년 초과 20년 이하 | 1천500만원+250만원×(근속연수−10)\n법제처 | 31 | 국가법령정보센터'), Document(id='1c1ccbad-e1fe-45f7-b08f-223a475212c4', metadata={'source': 'income_tax.txt'}, page_content='소특별판\n경우에는 100분의 30에 해당하는 금액을 해당 과세기간의 종합소득세법에서 공제한다. \n<개정 2014. 12. 23., 2016. 12. 20., 2017. 12. 19, 2021. 12. 8, 2023. 12. 31.>')], 'answer': AIMessage(content='연봉 5천만원의 세금은 공제 항목(4대보험, 근로소득공제, 인적공제 등)에 따라 달라져 정확히 한 숫자로 말하기 어렵습니다. \n제공된 자료만으로는 5천만원 연봉의 실제 세액을 계산할 수 없습니다. \n원하시면 **연봉 5천만원, 1인 가구/부양가족 여부** 기준으로 대략 계산해드릴게요.', additional_kwargs={'refusal': None}, response_metadata={'token_usage': {'completion_tokens': 108, 'prompt_tokens': 848, 'total_tokens': 956, 'completion_tokens_details': {'accepted_prediction_tokens': 0, 'audio_tokens': 0, 'reasoning_tokens': 0, 'rejected_prediction_tokens': 0}, 'prompt_tokens_details': {'audio_tokens': 0, 'cached_tokens': 0}}, 'model_provider': 'openai', 'model_name': 'gpt-5.4-mini-2026-03-17', 'system_fingerprint': None, 'id': 'chatcmpl-DtSMXJU8oQmhDi4TWrlNkXhmwuADF', 'service_tier': 'default', 'finish_reason': 'stop', 'logprobs': None}, id='lc_run--019eedff-fd63-79f1-bb50-9fe5bb58b7c8-0', tool_calls=[], invalid_tool_calls=[], usage_metadata={'input_tokens': 848, 'output_tokens': 108, 'total_tokens': 956, 'input_token_details': {'audio': 0, 'cache_read': 0}, 'output_token_details': {'audio': 0, 'reasoning': 0}})} 결국 답변은 정보가 부족하다는 것 같아 보이는데, retrieve 할 때, k의 개수도 4로 늘려보았지만 답변은 같았습니다. 이러한 경우 어떻게 하는 게 답변을 개선하기 좋을까요?
실무에 바로 적용하는 Spring AI: Spring 서비스에 챗봇·RAG·MCP 도입하기
윈도우 환경에서 가상환경 만들기 및 파이썬 MCP 설치 명령어 1. 파이썬 최종 명령어만 정리 인텔리제이 Terminal에서 그대로: py --version py -m venv venv .\venv\Scripts\Activate.ps1 python -m pip install --upgrade pip python -m pip install mcp python -m pip install mcp_weather_server python -m mcp_weather_server 설치 잘 되었는지 확인 방법 확인은 아래 명령어로 해봐. python --version python -m pip show mcp python -m pip show mcp_weather_server Name , Version , Location 이런 정보가 나오면 설치 성공이야. 그리고 실행했을 때: python -m mcp_weather_server 이 명령어 입력 후 아무 에러 없이 터미널이 멈춘 것처럼 대기 상태 면 정상일 가능성이 높아. MCP 서버가 실행 중이라 입력창이 바로 안 돌아오는 게 맞을 수 있어. 중지하려면: Ctrl + C 정리하면: 1. (venv) 표시 있음 → 가상환경 활성화 성공 2. pip show mcp_weather_server 결과 나옴 → 설치 성공 3. python -m mcp_weather_server 실행 후 에러 없이 대기 → 서버 실행 성공