묻고 답해요
156만명의 커뮤니티!! 함께 토론해봐요.
인프런 TOP Writers
-
미해결모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 1 - Llama 2 Fine-Tuning 해보기
trainer.train() 실행했는데 API key를 입력하라고 합니다. ㅠ
trainer = Trainer( model=model, args=training_args, train_dataset=tokenized_bionlp["train"], eval_dataset=tokenized_bionlp["validation"], tokenizer=tokenizer, data_collator=data_collator, compute_metrics=compute_metrics, ) trainer.train() 강의에서는 training 하면 바로 된다고 하셨는데, 2025년 8월 현재 입력하면 wandb: Logging into wandb.ai. (Learn how to deploy a W&B server locally: https://wandb.me/wandb-server) wandb: You can find your API key in your browser here: https://wandb.ai/authorize?ref=models wandb: Paste an API key from your profile and hit enter: 위와 같이 나옵니다. 어떻게 하면 될까요?
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
evaluate_retrieval_at_K 함수 문의드립니다.
안녕하세요, krag 라이브러리가 pip 서버에는 등록이 되어있는데 상세한 정보는 찾을 수가 없어서 문의드립니다. 일정 한도 내에서는 무료로 사용할 수 있는 Gemini API를 통해서 검색 성능을 평가중에 있는데, 중간중간 NaN값이 나오길래 추적해봤더니 API 분당 호출 수가 초과해서 값을 호출받지 못하는 경우가 생기더라구요. time.sleep을 걸고싶어도 이게 함수 자체로 전체 데이터프레임을 순회하는지라.. 혹시 delay를 넣을 수 있는 옵션이 있을까요?
-
미해결LangGraph를 활용한 AI Agent 개발 (feat. MCP)
Multi Agent vs Multi tools (강좌 처럼)
뭔가 제가 이해하기로는 Multi Agent의 개념이 Multiple tool로의 개념으로 이번 강의를 이해했는데요 맞을까요 ? 둘의 명시적인 기능의 차이는 없어보이는데 클린 코드 작성 측면에서는 더 Multi tools가 효과적으로 보입니다 다만, 명확히 왜 이렇게했지? 라는 생각이 계속 듭니다. 어떤 점에서 장점이 있다고 이해하면 될까요 ?
-
미해결RAG를 활용한 LLM Application 개발 (feat. LangChain)
저장 오류
소득세법을 저장하려고 doc파일로 저장을 눌렀는데 왜 안될까요? 파일은 저장되는데 막상 눌러서 들어가보면 빈페이지 밖에 안나와요
-
미해결RAG 마스터: 기초부터 고급기법까지 (feat. LangChain)
검색기 관련 질문드립니다.
안녕하세요, Langchain RAG 강의 잘 듣고 있습니다. 데이터셋이 방대해질 경우 분명 시간이 지나면서 이제는 사용되지 않은 정보 구식의 정보라고 해야할까요? 그런 것들이 생기는데, 그런 데이터들은 어떻게 필터가 되는지 궁금합니다. 예) Python 2.xx 버전 문서 저장Python 3.xx 버전으로 신규 업데이트 분명 검색을 할 때 동일하게 겹치는 내용이라면 1번과 2번 모두 가져올 것 같은데요! 이 경우 최신 버전으로만 불러올 수 있게 가능한가요??
-
해결됨한시간으로 끝내는 LangChain 기본기
ram 용량
요구하는 PC의 최소 RAM은 몇기가 인가요?
-
해결됨RAG를 활용한 LLM Application 개발 (feat. LangChain)
Cursor 마우스오버 후에 보이는 argument 리스트
강사님 안녕하세요:) 사소하지만 아무리 검색해도 안나와서 질문드립니다ㅠ현재 편집기로 cursor를 사용중인데요! ('한시간으로 끝내는 LangChain 기본기' 강의 따라하면서 cursor를 이번에 사용하게 되었습니다) 강의 동영상에서는 함수 위에 마우스 오버하면 argument 옵션들이 쫙 보여서 어떤 인자를 넣어야할지 확인하기 쉬운데요. 제 환경에서는 모두 (function) : Any 로만 떠서 확인이 안되네요ㅠ cursor라서 안보이는걸가요? argument 리스트를 확인할 수 있는 옵션 아시면 알려주시면 감사하겠습니다!
-
해결됨RAG를 활용한 LLM Application 개발 (feat. LangChain)
ollama 코드 업데이트
강병진 강사님 안녕하세요:)하나하나 떠먹여주시는 강의 너무나 잘 듣고 있습니다!저도 하나하나 실습하면서 내용 소화시키는 중인데요ㅎㅎ 3.1.3 실습을 하는 중에, ollama가 그 사이에 업데이트 되어서 공식 문서를 보면 더이상 langchain_community를 import 하지 않더라구요! 화면에 보여주신 아래 링크 보면서 자체적으로 langchain-ollama 설치하고, langchain_ollama의 ChatOllama import해서 실습 따라해보았습니다.https://python.langchain.com/docs/integrations/chat/ollama/ 업데이트된 내용 모르실까봐 공유 드려보았습니다!(사소하지만 ipynb 파일 이름에서 ChatOllana라고 오타가 있더라구요~ 이것도 도움될까봐 일단 공유 드려보아요!)https://github.com/jasonkang14/inflearn-rag-notebook/blob/main/3.1.3%20%ED%99%98%EA%B2%BD%20%EC%84%A4%EC%A0%95%EA%B3%BC%20LangChain%EC%9D%98%20ChatOllana%EB%A5%BC%20%ED%99%9C%EC%9A%A9%ED%95%9C%20%EA%B2%80%EC%A6%9D.ipynb 좋은 강의 만들어주셔서 다시 한번 감사합니다. 🙂
-
해결됨RAG를 활용한 LLM Application 개발 (feat. LangChain)
Chroma.from_documents 수행시 kernel 중단
안녕하세요, 강의를 듣고 있는 수강생입니다.퀄리티 있는 강의 감사드립니다. 다름이 아니라, 저는 윈도우 환경에서 VisualStudio에서 소스를 돌리고 있고 소스를 실행하는 실행환경은 venv 가상환경 python 3.10.11 버전으로 구성을 했습니다. 다른 소스는 문제 없이 수행되나Chroma.from_documents 수행시에 kernel 이 중단되는 문제가 있습니다. C기반의 라이브러리 충돌이나 시스템 메모리 충돌일 가능성이 높다고 하여 python 버전도 바꿔보고, 깔려 있는 라이브러리들의 버전도 바꿔보고 C기반 라이브러리도 다시 설치해보고 했으나 여전히 저 과정에서 죽습니다. documents 사이즈를 한문장 처럼 작은 단위로 줄여서 시도도 해봤으나 이것도 저한테는 효과가 없네요.. 같은 데이터셋으로 FAISS에 저장하는 건 제 가상환경에서도 성공하는데...Chroma만 되지 않습니다.. 혹시 어떻게 하면 좋을지 조언 얻을 수 있을까요?
-
미해결맞춤형 LLM 만들기 : 처음 시작하는 분을 위한 RAG 기초 개념부터 멀티모달·Agent 실습까지
실습을 위한 구글 드라이브 접근권한 해제요청
아래 2개 링크에 대한 접근권한이 막혀있습니다.ㅠㅠ권한을 풀어주세요...-- 아래 --[실습] 벡터_데이터베이스_기반_RAG어플리케이션[실습] PDF내용_기반_질의응답_애플리케이션[실습] DB_to_VectorDB_Searching_Chatbot
-
미해결맞춤형 LLM 만들기 : 처음 시작하는 분을 위한 RAG 기초 개념부터 멀티모달·Agent 실습까지
구글 드라이브 접근권한이 없습니다 ㅠ
실습하고싶은데 구글드라이브 접근권한이 없네요creee77@gmail.com 으로 요청드렸습니다
-
미해결Prompt Engineering: 완벽 가이드
학습 자료 다운로드 관련
학습 자료를 다운로드하면 강의에서 코딩된 코드들은 전혀 없는 데 이건 공유 안하시는 건가요 ?어떤 강의는 절반이 아무 설명없이 코딩 빨리 감기로 녹화된거라 이거 어떻게 따라 치라는 건가요;;
-
해결됨RAG를 활용한 LLM Application 개발 (feat. LangChain)
모델을 어떻게 개선해야하는지 잘모르겠습니다.
수업 너무 잘들었습니다. 제가 강사님 수업을 듣고, 사용자 질의에 따라 sql 쿼리를 반환하는 모델을 만들어보고 있는데요, 모델은 허깅페이스에서 "LGAI-EXAONE/EXAONE-3.0-7.8B-Instruct" 이용해서 만들고 있는데, 요청에 따라 적절히 sql 쿼리를 만들려면, 일단 모델이 1) db 테이블 구조를 명확히 알아야하고, 2) 질의를 db 테이블 용어(ex: '카톡'을 얘기했을때, sns_type =1 로 대체)로 대체하는 dictionary가 잘되어야 할것같은데, 현재는 프롬프트에 1) few_shot 예시와, system 프롬프트에 2) 테이블 구조에 대한 설명, sql 작성 규칙 등을 넣어서 결과를 받고 있습니다.(system 프롬프트는 langChain hub에서 rlm/text-to-sql을 참조 했습니다) 예시와 유사하거나 예시에서 약간 변화를 준 질의에 대해서는 잘 답변을 하고있는데, 조금만 벗어나면 잘못된 답을 줍니다.예를들면 userid 칼럼인데 user_id 로 적는다던지, 말을 조금만 바꿔도 못알아 듣는다던지, 심지어 dictionary_chain에 프롬프트로 잡아줘도 대체를 못하는 경우도 있습니다. 어떻게 모델이 질문에 유연하게 이해하고 적절히 답을 하도록 만들어야하는지 방향을 잘모르겠습니다. 조언 부탁드립니다ㅠ 🙏 (그리고 벡터스토어를 효용성을 못찾고 이용하지 않고 있는데 이 모델에서 벡터 스토어를 잘 이용할수 있는 방법이 있을까요?)
-
미해결LangGraph를 활용한 AI Agent 개발 (feat. MCP)
zerox 사용 시, input token 값이 크게 나옵니다.
안녕하세요. 강의 듣던 도중에 궁금한 점이 있어 질문드립니다!현재 zerox로 gpt-4o-mini를 이용하여 pdf -> md로 변환하는 과정에서Rate limit 에러가 나서 임의로 concurrency = 2로 변경하여 진행하였습니다. (속도는 36분 걸렸습니다.) 이때 input token이 강사님보다 한자리수 많이 나오는데, 제가 건드린 게 concurrency 밖에 없어서요.concurrency 값과 input token 사이에 어떤 연관관계가 있는지 아실까하여 질문드립니다...!!! 저는 병렬처리에 관한 값이라고 생각하고 숫자를 줄여 rate를 내린다는 생각으로 concurrency 값을 조정했는데(프롬프트는 동일하고 병렬적으로 수행하는 프로세스의 수만 줄어든다고 생각했습니다.), 뭔가 프롬프트의 양이 늘어난 걸 보면 한번에 변환 요청하는 페이지수? 같기도 하다는 생각이 듭니다...
-
미해결graphRAG - Neo4J로 구현하는 지식 그래프 기반 RAG 시스템 (feat. LangChain)
neo4j-nori-analyzer 출처 문의
안녕하세요.법률문서를 다루는 챕터에서는 neo4j-nori-analyzer를 활용했는데요. 해당 jar 파일의 출처를 알 수 있을까요? 인터넷에 검색해봐도 5.24 버전은 안 보여서요.
-
미해결LangGraph를 활용한 AI Agent 개발 (feat. MCP)
InvalidUpdateError: At key 'tax_deduction': Can receive only one value per step. Use an Annotated key to handle multiple values.
InvalidUpdateError: At key 'tax_deduction': Can receive only one value per step. Use an Annotated key to handle multiple values. For troubleshooting, visit: https://python.langchain.com/docs/troubleshooting/errors/INVALID_CONCURRENT_GRAPH_UPDATEOutput is truncated. View as a scrollable element or open in a text editor. Adjust cell output settings... graph를 최종 실행하니 에러가 발생하네요여러 노드가 한가지 값을 바꾸려고 한다는 얘기 같은데 langgraph 0.6.3langgraph-checkpoint 2.1.1langgraph-prebuilt 0.6.3langgraph-sdk 0.2.0제 랭그래프에서 지원이 안되는걸까요 ?
-
미해결맞춤형 LLM 만들기 – LoRA & QLoRA 파인튜닝 실습 입문
OPT350 모델 페이지 주소 좀알려주세요
OPT350 모델 페이지 링크가 GPT 링크가 동일하게 되어있어서 접속할수가 없습니다. 확인하여 주소 좀알려주시면 감사하겠습니다.
-
해결됨RAG를 활용한 LLM Application 개발 (feat. LangChain)
2가지 질문드려 봅니다.
안녕하세요 강사님! 두 가지 질문이 있어서 글을 남겨 봅니다. Vector DB에 데이터를 넣기 위해서 임베딩 모델을 사용했는데 아직 실습을 따라하지 않아서 해당 모델을 사용해도 API 비용이 발생하는 것인지 궁금합니다. 또한, Upstage 외에 무료 임베딩 모델이 있는지도 궁금합니다. (실습은 OpenAI로 진행 예정이지만, 개인적으로 궁금해서 여쭤봅니다)이거는 개인적인 질문인데 어제 GPT-OSS가 나왔는데, 20B 기준으로 로컬에서 문제 없이 돌아가더라구요. LangChain Ollama로 이 모델을 사용해서 현재 RAG 강의와 강사님 Agent강의 등 다른 강의 사용에 문제가 없을지 그리고 이 모델에 대한 견해가 궁금합니다!
-
해결됨AI로 기획부터 개발까지! LLM 주도 Next.js 쇼핑몰 제작
2. LLM를 활용한 PRD(제품 요구사항 문서) 작성 자료 문의
PRD요청을위한 프롬프트.txt파일이 비어있어요 확인 부탁드려요
-
해결됨RAG를 활용한 LLM Application 개발 (feat. LangChain)
LlamaIndex에 대한 강사님의 견해가 궁금합니다.
안녕하세요! 수업 잘 듣고 있습니다.수업을 들으면서 Rag 관련해서 정보를 찾아보던 중에 LlamaIndex 라는 것을 알게 됐는데 마찬가지로 Rag에 사용된다는 이야기를 들었습니다. 이 라이브러리에 대해서는 어떻게 생각하시는지 그리고 Langchain 만 알아도 굳이 LlamaIndex까지 공부할 필요는 없을지도 궁금합니다. 질문이 두서 없어서 죄송합니다! 감사합니다!