영상 메타데이터 생성 관련 LLM 활용 질문

안녕하세요! 좋은 질문과 피드백 감사합니다. 사실 제가 직접적으로 해본적은 없어서 경험에 기반한 답변은 못드리지만, 이론상으로는 아래처럼 가능할 것 같습니다. LLM을 사용해서 후보정을 한다면 Whisper로 1차 인식된 텍스트를 추출한 후에, 해당 텍스트를 LLM으로 말씀하신 도메인 특화 용어를 활용해서 후보정하는 방식이 가능합니다후보정은 가급적이면 작은 단위로 진행을 하는게 좋은데요 (전체 텍스트를 넣게되면 context를 채워서 정확도가 떨어질 가능성이 있습니다). 전체 내용을 한번 요약한 후에요악한 내용과, 후보정할 단위의 텍스트를 도메인 특화 용어와 같이 넣어주는 식으로 진행하시면 될 것 같습니다예전에 회의록 요약 서비스 중에 gemini-flash로 후보정을 한다고 했던 글을 본적이 있는데, 업계에서도 꽤 많이 사용하는 방법인 것 같습니다아쉽지만 저는 회사에서 개발했던 도메인 특화된 자체모델과 Whisper만 사용해봤습니다 ㅠ 요즘은 모델들이 너무 좋아져서 굳이 이미지 특화 모델을 사용하지 않고 Gemini/GPT와 같은 모델로 충분히 가능할 것 같습니다 특히 LLM을 활용해서 후보정을 할 계획이 있으시면 이미 사용중이실테니, 굳이 관리 포인트를 추가하는 것 보다는 이미 사용중인 모델을 사용하는 게 더 편리할 것 같습니다.

pyzerox 유니코드 에러

안녕하세요 혹시 강의에서 활용한 버전을 똑같이 활용하셨을까요? 말씀하신 것처럼 인코딩 문제가 맞는데, asyncio.run()을 통해서 .md가 생성이 되어야 하는거라 with open() 과는 크게 관계가 없는 것 같습니다 asyncio.run() 전에 아래 내용을 한번 추가해서 다시 동작해보시겠어요?import sys sys.stdout.reconfigure(encoding="utf-8") sys.stderr.reconfigure(encoding="utf-8") result = asyncio.run(main())

EXAONE 모델 불러오기 안되는 문제

안녕하세요, 라이브러리 이슈가 맞는 것 같습니다. Transformer 버전을 업그레이드해서 시도해보시겠어요?

docker 설치 후

로컬에서 설치하셨으면 터미널에 바로 입력하시면 구동됩니다!

종합부동산세 부분 tool 사용 질문 드립니다.

안녕하세요! 공유해주신 내용은 말씀해주신 것처럼 retrieval 성능 이슈인데요, 강의 촬영 시점에는 별다른 이슈가 없었는데, 만약 chunking과 Embedding model을 동일한 설정으로 사용하셨다면 법이 개정되면서 문서가 업데이트 되었거나임베딩 모델의 성능에 변화가 있는 것으로 추정합니다. 위와 같은 현상이 발생하는 경우에는 create_retriever_tool 대신에 직접 @tool 을 활용해서 retrieval을 진행하는 도구를 생성하고에이전트가 가져온 문서를 사용해서 원하는 결과를 생성할 수 있는지 검증하게 하고그렇지 않으면 추가로 문서를 더 불러올 수 있도록 처리하는 방법이 있습니다. create_retriever_tool의 경우에는 항상 상위 N개의 검색 결과만 가져오는데요, 2N, 3N 개 등의 문서를 가져왔을 때 답변을 생성할 수 있는지 에이전트로 하여금 검증하게 하는 방식이라고 봐주시면 되겠습니다.

[5.1 강의] LLM Evaluator에 Upstage를 사용하는 방법 + 변경된 Langsmith Docs를 참고하여 구현하는 방법 공유

상세하게 공유해주셔서 감사합니다! 공유해주신 내용은 자주 묻는 질문에 등록해두겠습니다. 추가로 이번달 안에 AI 에이전트 평가 강의를 출시할 예정입니다. 강의 소식으로 안내 드리겠습니다!

스크랩한 뉴스를 이메일로 보내는 n8n 봇

안녕하세요! 좋은 질문 감사합니다.데이터를 수집하는 측면에서 볼 때는 각 기사 내부의 날짜와 시간을 확인하는게 좋을 것 같습니다. 그리고 말씀하신 것처럼 각 기사 내부마다 날짜 정보와 클래스 명이 다르다면, html body를 LLM으로 전달하고, LLM에서 output parser를 활용해서 원하는 key로 추출한 후, 구글이나 노션 등에 저장하는 방식을 채택하시면 될 것 같습니다

강의 9에 QA관련된 import가 되지 않네요

안녕하세요! 말씀하신 것처럼, 버전 이슈로 발생하는 문제인데요 아래와 같은 방식으로 진행 하시면 됩니다. 올려주신 스크린샷에는 오타도 있으니 확인 부탁 드립니다from langsmith import Client client = Client() prompt = client.pull_prompt("rlm/rag-prompt")

이메일 답장 드래프트 작성 봇 생성에서 에러

안녕하세요! 제가 질문을 정확하게 이해하지 못했는데, 에러메세지로 보기에는 System 프롬프트를 넣기 위해서 설정한 후에 메세지가 비어있어서 그런 것 같습니다. 혹시 지금 작업중이신 워크플로우를 json으로 올려주실 수 있을까요? 추가로 디버깅 해보겠습니다워크플로우 자체에서 에러가 난다면 스트림릿 등의 연결은 불가능합니다 ㅠ

'팀 단위 AI 업무 혁신' 자문 관련하여 문의드리고자 합니다. (연락처 요청)

안녕하세요 과장님, 아쉽지만 회사 정책 상 외부 자문이 불가능해서 도움을 드릴 수 없습니다.