모두를 위한 대규모 언어 모델 LLM(Large Language Model) Part 2 - 랭체인(LangChain)으로 나만의 ChatGPT 만들기

기업이나 연구소에 근무하시면서 상용 llm을 활용해서 서비스를 개발하시는 분들도 많겠지만로컬pc 24G정도의 vram에 ollama로 Gemma3 27B ( 모델용량 17GB)정도의 모델을 올리면

프롬프트 작성 및 두번의 llm에다가 Query 결과문을 넣어서 한번 더 검증하게 한다는 것인가요 ?

안녕하세요OpenAI 를 활용해 llm 을 생성할 경우에는 with_structured_output 을 사용할 수 있는데요 llm = ChatOpenAI(model=

안녕하세요제공해주신 수업노트 실행시 오류가 나서 문의 드립니다<img src="https://cdn.inflearn.com/public/files/posts/d74c6ccd-acd1-4237-9320-38a59525a796/593bdda6-5f

InMemoryStore은 영구 저장이 아닌데요docStore도 영구 저장하는 방법이 있을까요?

랭체인으로 나만의 ChatGPT 만들기를 공부하다가 보니 아래와 같이 schema 가 나오는데 이 라이브러리는 뭐하는 건지요? 랭체인 사이트에 들어가 봐도 시원하게 설명되어 있는 것이 없어 문의 드립니다.from langchain.schema impo

안녕하세요. 강의를 듣던 중 유트뷰에서 라마 3(Llama 3)로 AI 텍스트 번역하기 - 무료로 ChatGPT보다 뛰어난 성능의 AI 번역챗봇 만들기를 듣고 따라해 보던 중 소스코드가 실행이 안되어서 문의드립니다.<st

db = SQLDatabase.from_uri("sqlite:///chinook.db") write_query = create_sql_query_chain(llm, db) execute_q

GPT api말고 하이퍼클로바X api를 이용하는 방법이 있는지 궁금합니다.

ConversationSummaryBufferMemory 설명 중max_token_limit 관련 문의 있습니다토큰 제한하신 경우:max_token_limit=5대화 요약된 경우: {'hist

안녕하세요 SelfQueryRetriever를 이용하여 메타데이터별로 문제를 생성하는 코드를 작성 중에 궁금한 것이 생겨서 질문드립니다. 데이터별로 메타데이터에 카테고리를 저장해놓았는데 카테고리별로 llm을 돌릴때마다 각 카테고리 내에서 문서를 랜덤하게 가져올 수

저만의 문제인지는 모르겠으나 !pip install langchain_community 설치가 계속 필요하네요~~  

prompt는 memory+ Retriever +llm를 결합하여 사용할 때 사용할 수 없나요?

안녕하세요 query constructor chain 생성하는데 df 안에 있는 한글을 넣으면  "Sample Stability": { "translation": "\uc0d8\ud

안녕하세요 답해주셔서 감사합니다. Your goal is to structure the user's query to match the request schema provided below. << Structured Re

안녕하세요. 강의를 듣고 컴퓨터견적데이터를 뽑아와서 컴퓨터견적을 추천해주는 gpt를 만들고싶어서 가져왔지만 메타데이터를 뽑을때 별점이나 날짜같은 유효성있는데이터를 넣어야지 제대로 필터가 되는것같은데 컴퓨터견적데이터 자체가 게이밍,코딩용이런식으로 구분지을수없는 데이

안녕하세요 rag를 공부하고 실제로 테스트를 하기위해서open ai를 사용하여 서비스 이름과 서비스 담당자 관련한 정보가 존재하는 csv 데이터를 아래처럼 임베딩 한 뒤 index_name = "manager

 google 는 트랜스포머의 인코더 bert 모델로 채팅서비스를 만들고, openai 는 트랜스포머의 디코더 gpt 모델로 채팅서비스를 만들었다고 들었습니다. 그런데 내가 궁금한것은 bert 모델(판단모델)은 판단을 하는 역할을 하고,

chromadb에 데이터를 insert 하는데 용량이 object 하나당 2MB가 되는게 정상일까요?

안녕하세요, 다시 질문드릴 것이 있어 글 남깁니다. RAG에서 Retriever가 Generator에 보내는 데이터가 무엇인지 확인해보고 싶고, Generator에서도 중간에 어떤 데이터를 받는지 확인해보고 싶은데 가