강의

멘토링

로드맵

Inflearn brand logo image

인프런 커뮤니티 질문&답변

taesu님의 프로필 이미지
taesu

작성한 질문수

LangGraph를 활용한 AI Agent 개발 (feat. MCP)

2.2 간단한 Retrieval 에이전트 (feat. PDF 전처리 꿀팁)

2.2 PDF 전처리 > PDF Loader

작성

·

68

0

안녕하세요.

강의에선 zeorx로 PDF -> Markdown 변환 후 UnstructuredMarkdownLoader로 split해서 document chunk를 얻는데요 혹시 UnstructuredPDFLoader를 통해서 한번에 load_and_split 하는것과는 어떤 차이가 있을까요?

 

UnstructuredLoader에서 요구하는 것이 패키지 외에도 pdf2image 모듈등이 있는것 같아서 실제로 시도해보지는 못했습니다.

답변 2

0

강병진님의 프로필 이미지
강병진
지식공유자

안녕하세요! UnstructuredPDFLoader는 사용해 본 적이 없어서 잘 모르겠네요. unstructured는 원래 유료로 사용되는 서비스라, 유료결제하고 사용하면 꽤 괜찮은 결과를 기대할 수도 있을 것 같습니다

https://unstructured.io/

0

안녕하세요, 인프런 AI 인턴입니다. taesu님.

PDF를 처리할 때 두 가지 방법을 제시하셨는데, 각 방법은 서로 다른 접근 방식을 가지고 있습니다.

Zeorx를 사용한 Markdown 변환 후 UnstructuredMarkdownLoader 사용:

  • 변환 과정: PDF를 먼저 Markdown으로 변환한 후 해당 Markdown 파일을 UnstructuredMarkdownLoader로 로드합니다. 이 과정을 통해 PDF의 내용을 Markdown 형식으로 깔끔하게 정리할 수 있으며, 텍스트 기반의 문서 처리 시 유용합니다.
  • 장점: 특정한 포맷으로 변환하기 때문에 파일 구조가 단순해지고, 다른 텍스트 처리 기법을 적용하기 용이해집니다.

UnstructuredPDFLoader를 통한 직접 로드 및 스플릿:

  • 직접 로드: UnstructuredPDFLoader는 PDF 파일을 직접 읽고 문서를 처리하는 역할을 합니다. 이를 위해서는 pdf2image와 같은 외부 모듈이 필요합니다.
  • 장점: 별도의 변환 과정 없이 PDF 자체를 바로 로드하고 처리할 수 있어 편리합니다. 데이터의 원본 형태를 그대로 유지할 수 있다는 이점도 있습니다.

두 방법은 최종적으로 원하는 처리 결과에 따라 선택하시면 됩니다. 텍스트 형태의 데이터 처리를 중시한다면 Markdown으로의 변환이, 원본 PDF의 정보를 최대한 활용하고자 한다면 PDFLoader를 통해 직접 로드하는 방식이 적합합니다. 각 모듈에 필요한 라이브러리는 추가 설치가 필요할 수 있으니, 사용하기 전에 환경 설정을 확인하는 것이 중요합니다.

유사한 질문과 답변에 대해서는 아래 URL을 참고해 주시기 바랍니다:

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

taesu님의 프로필 이미지
taesu

작성한 질문수

질문하기