묻고 답해요
161만명의 커뮤니티!! 함께 토론해봐요.
인프런 TOP Writers
-
해결됨RAG를 활용한 LLM Application 개발 (feat. LangChain)
모델을 어떻게 개선해야하는지 잘모르겠습니다.
수업 너무 잘들었습니다. 제가 강사님 수업을 듣고, 사용자 질의에 따라 sql 쿼리를 반환하는 모델을 만들어보고 있는데요, 모델은 허깅페이스에서 "LGAI-EXAONE/EXAONE-3.0-7.8B-Instruct" 이용해서 만들고 있는데, 요청에 따라 적절히 sql 쿼리를 만들려면, 일단 모델이 1) db 테이블 구조를 명확히 알아야하고, 2) 질의를 db 테이블 용어(ex: '카톡'을 얘기했을때, sns_type =1 로 대체)로 대체하는 dictionary가 잘되어야 할것같은데, 현재는 프롬프트에 1) few_shot 예시와, system 프롬프트에 2) 테이블 구조에 대한 설명, sql 작성 규칙 등을 넣어서 결과를 받고 있습니다.(system 프롬프트는 langChain hub에서 rlm/text-to-sql을 참조 했습니다) 예시와 유사하거나 예시에서 약간 변화를 준 질의에 대해서는 잘 답변을 하고있는데, 조금만 벗어나면 잘못된 답을 줍니다.예를들면 userid 칼럼인데 user_id 로 적는다던지, 말을 조금만 바꿔도 못알아 듣는다던지, 심지어 dictionary_chain에 프롬프트로 잡아줘도 대체를 못하는 경우도 있습니다. 어떻게 모델이 질문에 유연하게 이해하고 적절히 답을 하도록 만들어야하는지 방향을 잘모르겠습니다. 조언 부탁드립니다ㅠ 🙏 (그리고 벡터스토어를 효용성을 못찾고 이용하지 않고 있는데 이 모델에서 벡터 스토어를 잘 이용할수 있는 방법이 있을까요?)
-
미해결LangGraph를 활용한 AI Agent 개발 (feat. MCP)
zerox 사용 시, input token 값이 크게 나옵니다.
안녕하세요. 강의 듣던 도중에 궁금한 점이 있어 질문드립니다!현재 zerox로 gpt-4o-mini를 이용하여 pdf -> md로 변환하는 과정에서Rate limit 에러가 나서 임의로 concurrency = 2로 변경하여 진행하였습니다. (속도는 36분 걸렸습니다.) 이때 input token이 강사님보다 한자리수 많이 나오는데, 제가 건드린 게 concurrency 밖에 없어서요.concurrency 값과 input token 사이에 어떤 연관관계가 있는지 아실까하여 질문드립니다...!!! 저는 병렬처리에 관한 값이라고 생각하고 숫자를 줄여 rate를 내린다는 생각으로 concurrency 값을 조정했는데(프롬프트는 동일하고 병렬적으로 수행하는 프로세스의 수만 줄어든다고 생각했습니다.), 뭔가 프롬프트의 양이 늘어난 걸 보면 한번에 변환 요청하는 페이지수? 같기도 하다는 생각이 듭니다...
-
미해결graphRAG - Neo4J로 구현하는 지식 그래프 기반 RAG 시스템 (feat. LangChain)
neo4j-nori-analyzer 출처 문의
안녕하세요.법률문서를 다루는 챕터에서는 neo4j-nori-analyzer를 활용했는데요. 해당 jar 파일의 출처를 알 수 있을까요? 인터넷에 검색해봐도 5.24 버전은 안 보여서요.
-
미해결LangGraph를 활용한 AI Agent 개발 (feat. MCP)
InvalidUpdateError: At key 'tax_deduction': Can receive only one value per step. Use an Annotated key to handle multiple values.
InvalidUpdateError: At key 'tax_deduction': Can receive only one value per step. Use an Annotated key to handle multiple values. For troubleshooting, visit: https://python.langchain.com/docs/troubleshooting/errors/INVALID_CONCURRENT_GRAPH_UPDATEOutput is truncated. View as a scrollable element or open in a text editor. Adjust cell output settings... graph를 최종 실행하니 에러가 발생하네요여러 노드가 한가지 값을 바꾸려고 한다는 얘기 같은데 langgraph 0.6.3langgraph-checkpoint 2.1.1langgraph-prebuilt 0.6.3langgraph-sdk 0.2.0제 랭그래프에서 지원이 안되는걸까요 ?
-
미해결처음 해보는 맞춤형 LLM 만들기 – LoRA & QLoRA 파인튜닝 입문
OPT350 모델 페이지 주소 좀알려주세요
OPT350 모델 페이지 링크가 GPT 링크가 동일하게 되어있어서 접속할수가 없습니다. 확인하여 주소 좀알려주시면 감사하겠습니다.
-
해결됨RAG를 활용한 LLM Application 개발 (feat. LangChain)
2가지 질문드려 봅니다.
안녕하세요 강사님! 두 가지 질문이 있어서 글을 남겨 봅니다. Vector DB에 데이터를 넣기 위해서 임베딩 모델을 사용했는데 아직 실습을 따라하지 않아서 해당 모델을 사용해도 API 비용이 발생하는 것인지 궁금합니다. 또한, Upstage 외에 무료 임베딩 모델이 있는지도 궁금합니다. (실습은 OpenAI로 진행 예정이지만, 개인적으로 궁금해서 여쭤봅니다)이거는 개인적인 질문인데 어제 GPT-OSS가 나왔는데, 20B 기준으로 로컬에서 문제 없이 돌아가더라구요. LangChain Ollama로 이 모델을 사용해서 현재 RAG 강의와 강사님 Agent강의 등 다른 강의 사용에 문제가 없을지 그리고 이 모델에 대한 견해가 궁금합니다!
-
해결됨AI로 기획부터 개발까지! LLM 주도 Next.js 쇼핑몰 제작
2. LLM를 활용한 PRD(제품 요구사항 문서) 작성 자료 문의
PRD요청을위한 프롬프트.txt파일이 비어있어요 확인 부탁드려요
-
해결됨RAG를 활용한 LLM Application 개발 (feat. LangChain)
LlamaIndex에 대한 강사님의 견해가 궁금합니다.
안녕하세요! 수업 잘 듣고 있습니다.수업을 들으면서 Rag 관련해서 정보를 찾아보던 중에 LlamaIndex 라는 것을 알게 됐는데 마찬가지로 Rag에 사용된다는 이야기를 들었습니다. 이 라이브러리에 대해서는 어떻게 생각하시는지 그리고 Langchain 만 알아도 굳이 LlamaIndex까지 공부할 필요는 없을지도 궁금합니다. 질문이 두서 없어서 죄송합니다! 감사합니다!
-
해결됨RAG를 활용한 LLM Application 개발 (feat. LangChain)
llm.invoke() 시 'Incorrect API key provided' 오류가 발생합니다.
'Incorrect API key provided' 강의 내용과 동일하게 아래 주소로 로그인 후 'Create new secret key'를 통해서 API KEY를 발급받았습니다.https://platform.openai.com/api-keys이후에 Copy 버튼 클릭해서 환경변수(.env) 파일에 OPENAI_API_KEY=복사한_API_KEY 저장 후 ChatOpenAI를 통해서 선언한 llm을 invoke()했는데, 반복적으로 Incorrect API Key provided 오류가 발생합니다.혹시나 잘못 복사해서 붙여넣었나 싶어서 삭제 후 API KEY를 신규 생성 후 동일하게 invoke 해봤는데, 문제가 해결되지 않았습니다.혹시 다른 원인이 있을까요?? 답변 기다리겠습니다.
-
미해결RAG를 활용한 LLM Application 개발 (feat. LangChain)
연봉 5000만원에 대한 소득세가 다르게 계산되는 문제
4강까지 강의를 다 들었습니다.하지만 연봉 5천만원인 거주자의 소득세는? 이라는 쿼리를 날릴경우 답변이 624만원이 나오지 않고 다양한 값이 나오고 있는것을 확인했습니다.upstage model을 사용하고 pinecone vector store 를 사용하고 있으며 dictionary chain 까지 구성해서 직장인 -> 거주자로 바꾸는것 까지 적용해서 invoke 를 실행했습니다.직접 테스트한 예시로는 'query': 연봉 5천만원인 거주자의 소득세는 얼마인가요? 소득구간별 세율의 예시를 보여주면서 설명해줘,'result': '연봉 5천만원인 직장인의 소득세는 550만원입니다. 소득구간별 세율에 따라 계산하면, 5천만원 이하의 과세표준에는 15%의 세율이 적용되어 84만원 + (1,400만원을 초과하는 금액의 15%) = 550만원이 소득세로 산출됩니다.'},{'query': '연봉 5천만원인 직장인의 소득세는 얼마인가요?', 'result': '연봉 5천만원인 직장인의 소득세는 550만원입니다. 이는 종합소득 과세표준 5,000만원 이하 구간에 해당하는 세율을 적용하여 계산한 금액입니다.',{'query': '연봉 5천만원인 직장인의 소득세는 얼마인가요?', 'result': '연봉 5천만원인 직장인의 소득세는 526만원입니다. (산출식: 5,000만원 - 1,400만원 = 3,600만원, 3,600만원 * 15% - 84만원 = 420만원)'}이런식으로 지속적으로 다른 답이 나오고 있으며 "소득구간별 세율의 예시를 보여주면서 설명해줘" 이 부분을 추가하지 않고 처음 쿼리를 날리면 직장인의 소득세는 xxx 만원입니다. 하고 바로 끝나는 result가 나왔습니다.이러한 원인이 upstage 모델을 사용해서 이런 결과가 발생했는지 궁금하고 4강에서 설명했던 few-shot prompting 이 되지 않아서 처음에는 정확한 답을 주지 못하고 있다가 "소득구간별 세율의 예시를 보여주면서 설명해줘" 이 부분이 추가되면서 다음 응답들이 더 자세하게 나오게 된 것인지 궁금합니다.
-
해결됨RAG를 활용한 LLM Application 개발 (feat. LangChain)
유사도 검색 차이
안녕하세요. 수업을 듣고 실습도 같이 해보고 있습니다.유사도 쿼리 관련해서 질문이 있어서 문의드렸습니다.같은 upstatge 임베딩 모델을 사용했고 chunk size 등 같은 문서 spliter 를 사용했는데 유사도 검색에서 나오는 결과가 예시랑 다르게 나오는 이유가 무엇인가요?
-
미해결RAG를 활용한 LLM Application 개발 (feat. LangChain)
langchain만으로 심리 상담 챗봇을 만들 수 있을까요?
안녕하세요.현재 강의에서 배운것만으로도 심리 상담 챗봇을 만들 수 있을까요? 소득세법 같이 정답이 있는 자료는 없는것 같아 인터넷 서칭으로 자료들을 긁어모을 생각입니다. ex) 연애 심리 상담 Bot- 연애에 대해 고민하는 사람들에게 질문에 따른 조언을 해줌- 연애 커뮤니티 등에서 수동으로 데이터 수집- 도움이 되는 질문들과 댓글을 직접 선정하여 .docs 문서에 복사 붙여넣기 알찬 강의 만들어 주셔서 감사합니다! (수강평 작성했습니다. 데헷)
-
미해결RAG를 활용한 LLM Application 개발 (feat. LangChain)
이미지와 표가 혼재된 pdf파일 불러오기
안녕하세요 강병진 강사님 강의에서는 docx파일을 불러오셨는데, 혹시 이미지나 표가 포함된 pdf파일을 불러오기 위해서는 어떤 라이브러리를 쓰는게 좋을까요? PyMuPDFLoader를 사용했을 때는 이미지 안에 있는 내용을 전혀 텍스트로 변환하지 못하는 것 같아서 질문드립니다. 감사합니다.
-
해결됨LangGraph를 활용한 AI Agent 개발 (feat. MCP)
yfinance 429 Client Error 문제
429 Client Error: Too Many Requests for url: https://query2.finance.yahoo.com/v10/finance/quoteSummary/SNOW?modules=secFilings&corsDomain=finance.yahoo.com&formatted=false&symbol=SNOW&crumb=Edge%3A+Too+Many+Requests안녕하세요 강사님, 현재 3.7 Multi agent 강의 듣고 따라하고 있는데, yfinance 로 agent 를 통해 필요한 정보를 받아오도록 시키면 위와 같은 문제가 뜹니다. 확인해보니 url request를 단기간에 너무 많이 하는게 원인인것 같다는데, Agent를 통해 tool로 알아서 호출 하는 방식이니 횟수를 제한하거나 할 방법이 없습니다. 혹시 어떻게 해결해야 할지 아시면 해결책을 제시해주시면 감사하겠습니다.
-
미해결노코드 자동화 입문부터 실전까지: n8n 완전정복 (한국 최초 n8n 앰버서더 직강)
38강 API 데이터 수집 질의입니다.
HTTP REQUEST NODE에서 인증오류가 발생합니다 그래서 DATA.GO.KR에 사용신청까지 완료했습니다.그러나 이후 Credential 진행 절차를 알 수 없습니다.공유한 json 파일에서 연결선을 끊고 단독으로 실행했지만 인증오류가 발생하네요.Authentication는 predefine인지 generic인지요.credential type은 무엇인지요?
-
미해결노코드 자동화 입문부터 실전까지: n8n 완전정복 (한국 최초 n8n 앰버서더 직강)
유스케이스 실습이 전혀 되지 않네요.
저만 문제가 있나요?기본적인 설정에 문제가 있어서 그런지 처음부터 실행이 되지 않고 있습니다. 로컬 구성과 레일웨이에서 시도를 해 보았지만 다 실패하고 있습니다. json으로 올린 노드들 어떤 노드는 검색이 되지 않는 노드도 있더군요. 해결책을 알려주시면 고맙겠습니다. 수강료를 결제했는데 이 상황이면 많이 후회하는 상황이 발생할 것 같습니다.
-
미해결노코드 자동화 입문부터 실전까지: n8n 완전정복 (한국 최초 n8n 앰버서더 직강)
여권사진 검중 json 파일 처음부터 오류 납니다.
-
미해결graphRAG - Neo4J로 구현하는 지식 그래프 기반 RAG 시스템 (feat. LangChain)
2강에서 Aura에 파이썬으로 접속 안 됩니다.
test.py 작성 시 AuraDB에 접속이 안 되서 막혀 있습니다. 이전에도 질문해 주신 분이 계셨던 것 같은데요..env 파일에 URI, USERNAME, PASSWORD 정확히 썼고요(browser.neo4j.io 접속해서 위 정보 복사해서 붙이니 잘 되는 것 확인했습니다.)분명 제 PC 문제일 것 같은데, 유사 해결사례가 있으시면 조언부탁드립니다. 수업을 시작할 수가 없네요. ㅠㅠ(방화벽 off 시도, PC 재부팅 시도 ) <code>import os from dotenv import load_dotenv from langchain_neo4j import Neo4jGraph load_dotenv() graph = Neo4jGraph( url=os.getenv("NEO4J_URI"), username=os.getenv("NEO4J_USERNAME"), password=os.getenv("NEO4J_PASSWORD"), ) def main(): # 간단한 테스트 쿼리 result = graph.query("MATCH (n) RETURN count(n) as node_count") print(f"Neo4j 데이터베이스 내 노드 수: {result[0]['node_count']}") if __name__ == "__main__": main() <Error>Unable to retrieve routing information Traceback (most recent call last): File "C:\Users\user-pc\AppData\Local\pypoetry\Cache\virtualenvs\neo4j-project-qp9QAGSV-py3.11\Lib\site-packages\langchain_neo4j\graphs\neo4j_graph.py", line 153, in __init__ self._driver.verify_connectivity() File "C:\Users\user-pc\AppData\Local\pypoetry\Cache\virtualenvs\neo4j-project-qp9QAGSV-py3.11\Lib\site-packages\neo4j\_sync\driver.py", line 1090, in verify_connectivity self._get_server_info(session_config) File "C:\Users\user-pc\AppData\Local\pypoetry\Cache\virtualenvs\neo4j-project-qp9QAGSV-py3.11\Lib\site-packages\neo4j\_sync\driver.py", line 1305, in _get_server_info return session._get_server_info() ^^^^^^^^^^^^^^^^^^^^^^^^^^ File "C:\Users\user-pc\AppData\Local\pypoetry\Cache\virtualenvs\neo4j-project-qp9QAGSV-py3.11\Lib\site-packages\neo4j\_sync\work\session.py", line 183, in _get_server_info self._connect( File "C:\Users\user-pc\AppData\Local\pypoetry\Cache\virtualenvs\neo4j-project-qp9QAGSV-py3.11\Lib\site-packages\neo4j\_sync\work\session.py", line 136, in _connect super()._connect( File "C:\Users\user-pc\AppData\Local\pypoetry\Cache\virtualenvs\neo4j-project-qp9QAGSV-py3.11\Lib\site-packages\neo4j\_sync\work\workspace.py", line 186, in _connect target_db = self._get_routing_target_database( ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^ File "C:\Users\user-pc\AppData\Local\pypoetry\Cache\virtualenvs\neo4j-project-qp9QAGSV-py3.11\Lib\site-packages\neo4j\_sync\work\workspace.py", line 260, in _get_routing_target_database self._pool.update_routing_table( File "C:\Users\user-pc\AppData\Local\pypoetry\Cache\virtualenvs\neo4j-project-qp9QAGSV-py3.11\Lib\site-packages\neo4j\_sync\io\_pool.py", line 1025, in update_routing_table raise ServiceUnavailable("Unable to retrieve routing information") neo4j.exceptions.ServiceUnavailable: Unable to retrieve routing information During handling of the above exception, another exception occurred: Traceback (most recent call last): File "c:\VSCODE Scripts\neo4j-project\test.py", line 9, in <module> graph = Neo4jGraph( ^^^^^^^^^^^ File "C:\Users\user-pc\AppData\Local\pypoetry\Cache\virtualenvs\neo4j-project-qp9QAGSV-py3.11\Lib\site-packages\langchain_neo4j\graphs\neo4j_graph.py", line 160, in __init__ raise ValueError( ValueError: Could not connect to Neo4j database. Please ensure that the url is correctㅇㄹ
-
해결됨한시간으로 끝내는 LangChain 기본기
강의 순서 질문
안녕하세요 AI 애플리케이션 입문할려고 합니다.전체 강의 순서가 어떻게 되는지 질문드립니다!
-
미해결노코드 자동화 입문부터 실전까지: n8n 완전정복 (한국 최초 n8n 앰버서더 직강)
API 데이터 수집 자동화 관련 문의
API 데이터 수집 자동화 강의 오류 문의http request 노드에서 URL을 정확히 입력을 했음에도 불구하고 URL 데이터가 추출이 되지 않고 오류가 발생합니다.찾아보니 자료에 대한 활용신청이 있어야 가능하더군요. 신청 후 http request에서 권한을 부여하면서 가져올 수 있는 방법을 알고 싶습니다.