LlamaIndex

안녕하세요! LlamaIndex에는 개인적으로 친분이 있는 엔지니어가 있어서 한번씩 소통하고 있는데요, LlamaIndex는 현재 에이전트 개발보다는, 문서 parsing을 통한 워크플로우 제작에 조금 더 집중하고 있는 것 같더라구요.회사에서는 이것저것 시도해보고 있긴 한데, 강의를 통해서 내용을 전달할만한 수준이 된다고 판단되면 시도해볼 생각입니다.

2.2 PDF 전처리 > PDF Loader

안녕하세요! UnstructuredPDFLoader는 사용해 본 적이 없어서 잘 모르겠네요. unstructured는 원래 유료로 사용되는 서비스라, 유료결제하고 사용하면 꽤 괜찮은 결과를 기대할 수도 있을 것 같습니다 https://unstructured.io/

2.2 PDF 전처리 강의에서 문의가 있습니다.

안녕하세요! 좋은 질문 감사합니다, 말씀하신 부분은 의사결정의 영역인 것 같아요. page_content만 활용한다면 사용되는 토큰수를 확실히 줄일 수 있다는 장점이 있습니다. 강의에서는 문서 1개만 활용하기 때문에 page_content만 넣어도 충분히 문서의 출처를 알 수 있지만, 만약 수백개 수천개의 문서를 사용해서 개발하는 서비스의 경우에는 metadata의 source에 들어있는 정보가 답변의 출처로 활용될 수도 있기 때문입니다.

llm의 응답에 대해서 언어 설정도 가능한가요??

네네 가능합니다. 프롬프트에 “영어로 답변해주세요,” “한국어로 답변해주세요,” “스페인어로 답변해주세요”와 같이 입력하시면 됩니다

PDF 청킹 문의

안녕하세요, 좋은 질문 감사합니다. 멀티모달 임베딩을 시도할 수 있는데, 제가 테스트했던 결과는 별로였습니다. 그래도 작년에 해본거라 지금은 더 좋아졌을 수도 있어요. 시도해봤던 방법들 중에 가장 괜찮았던건 사실 인프런 AI 인턴의 답변처럼 이미지나 그래프의 설명을 임베딩해서 저장하는 것이었습니다. 멀티모달 모델을 돌려서 이미지나 그래프에 주석을 생성해서, 해당 주석을 임베딩하고, 답변을 생성할 때는 주석을 통해서 답변을 생성하지만 사용자에게는 해당 이미지나 그래프를 보여주는 식으로 진행했었습니다

챗봇 생성시 에러

안녕하세요!에러메세지만 보고 추측하기로는, 넘겨주는 값들이 잘못된 것 같습니다.gemini를 활용해보지 않아서 저도 테스트를 해봐야 알 것 같아요!

pinecone 임포트 부분이 에러가발생합니다

인프런 인턴의 답변처럼 패키지가 없어서 발생하는 문제입니다 아래 링크를 참고하셔서 패키지를 설치해주세요 https://docs.pinecone.io/reference/python-sdk 다만 에러가 나는 라인이 예시를 보여드리기 위한 부분일 뿐 실제 강의에서 활용되는 부분은 아니기때문에 주석처리 하시고 진행해도 무방합니다

PineconeApiException 어떻게 해결하나요?

안녕하세요! 파인콘 이슈로 다른 분들도 비슷한 오류를 겪으셨는데요, 아래 링크를 참고해서 진행해보세요!https://inf.run/K9sDDhttps://inf.run/nmJBi

커널 재실행 후 Run all 할 경우 에러

말씀하신 것처럼 에러메세지로 봤을 때는 OpenAI org에 토큰 리밋에 걸린 것 같습니다. from langchain.callbacks import get_openai_callback initial_state = {'query': '역삼역 맛집을 추천해주세요'} with get_openai_callback() as cb: for chunk in graph.stream(initial_state): print(chunk) print(f"Input tokens: {cb.prompt_tokens}") print(f"Output tokens: {cb.completion_tokens}") print(f"Total tokens: {cb.total_tokens}")이런식으로 토큰 수를 한번 확인해보시고, 만약 gpt-4o의 context window를 초과하지 않았다면, 사용하신 API KEY의 계정이 OpenAI의 낮은 티어에 속하기 때문일걸로 예상합니다 https://platform.openai.com/docs/guides/rate-limits/usage-tiers?context=tier-one#usage-tiers

gemini 오류관련 질문드립니다.

안녕하세요!혹시 환경변수를 빠트리신게 아닐까요? GOOGLE_API_KEY 값이 .env 에 있어야합니다!