강의 수강 순서

어느 정도 LLM을 이해하고 계시면 섹션 1부터 들으시고요. 처음이시면 섹션 7을 먼저 들으셔도 좋습니다. (섹션 7이 분량이 짧고 내용이 더 간단합니다^^)

라이브 수강 어려움

다음 라이브때는 수업 중에 제공하는 url 등을 별도로 정리해서 드리겠습니다.

가상환경 초반 에러_create name

ConnectionResetError (10054)는 방화벽, 백신, 또는 SSL 인증서 문제로 인해 아나콘다 서버와의 연결이 차단된 상태입니다.가장 간단한 해결 방법은 conda config --set ssl_verify false 명령어를 입력해 SSL 검증을 비활성화하는 것입니다. 이후 conda clean --all을 실행하여 손상된 캐시 파일을 모두 삭제한 뒤 다시 시도해 보세요. 보안 프로그램이나 VPN이 원인일 수 있으니 이를 종료하거나, 다른 네트워크(핫스팟 등)를 사용해 보는 것도 방법입니다. 해결 후에는 보안을 위해 ssl_verify 설정을 다시 true로 복구하는 것을 권장합니다.

섹션2-11 내용중 tool_call

Tavily 규정이 바뀐 게 아니라, LLM이 tool_call을 만드는 판단이 달라진 것으로 보입니다.강의에서 한/영 두 번 호출되던 건 모델이 "영어로도 찾아보면 좋겠다"고 스스로 판단한 결과인데, 최근 GPT 모델들이 업데이트되면서 한글 쿼리 하나로도 충분하다고 판단하는 경향이 강해졌습니다. 또 tool_call 생성은 temperature=0이어도 완전히 결정적이지 않아서 실행마다 달라질 수 있습니다.강의처럼 한/영 모두 호출되게 하려면 시스템 프롬프트에 "한국어와 영어 쿼리를 각각 생성해서 검색하라"고 명시해주시면 됩니다.

미니콘다 다운로드

안녕하세요. 판다스 스튜디오입니다. 메인 홈페이지 대신, 파일들이 모여있는 원본 저장소 주소로 접속하면 로그인 과정 없이 즉시 파일을 받을 수 있습니다.공식 저장소 주소:https://repo.anaconda.com/miniconda/위 링크에 접속하신 후, 본인의 OS에 맞는 'latest' 파일을 클릭하시면 됩니다.

gradio 를 통한 챗봇 인터페이스 실습이 진행되지 않습니다.

안녕하세요, 해당 오류는 huggingface_hub 최신 버전에서 HfFolder 클래스가 제거되어 발생하는 문제입니다.아래 명령어로 호환되는 버전을 설치하시면 해결됩니다.poetry add huggingface_hub@0.25.2설치 후 Gradio 스크립트를 다시 실행해 주세요.추가 오류가 발생하면 말씀 부탁드립니다.

파워쉘에서 패키지 설치 시 오류

안녕하세요. pyproject.toml의 requires-python이 >=3.13로 설정을 requires-python = ">=3.12,와 같이 수정하고, poetry add python-dotenv langchain langchain-openai gradio명령어로 패키지를 다시 설치해보세요. 파워셀보다는 명령 프롬프트(cmd) 사용을 권장드립니다. 감사합니다.

뉴스 데이터 전처리 실습 파일 부재

안녕하세요. 다음 링크에서 다운로드 받으셨을까요?https://inf.run/kYr86압축이 해제되지 않는다면 반디집 또는 알집 같은 전용 프로그램으로 해제 부탁드립니다. 계속 문제가 발생하면 말씀해주세요.

테스트데이터셋 평가지표 값 문제

안녕하세요. OfflineRetrievalEvaluators는 기본적으로 doc_id로 매칭합니다. context_docs와 retrieved_docs의 content가 같아도 doc_id가 다르면 전부 불일치로 평가지표가 0이 됩니다. 아래와 같이 matching_criteria=MatchingCriteria.PARTIAL을 추가하면 content 기반 매칭으로 전환됩니다.from krag.evaluators import OfflineRetrievalEvaluators, MatchingCriteria evaluator = OfflineRetrievalEvaluators( actual_docs=context_docs, predicted_docs=retrieved_docs, matching_criteria=MatchingCriteria.PARTIAL # 이것만 추가 ) 청크 크기 차이 등으로 content도 완전히 동일하지 않다면, ROUGE 기반 매칭을 쓸 수 있습니다.from krag.evaluators import RougeOfflineRetrievalEvaluators, MatchingCriteria evaluator = RougeOfflineRetrievalEvaluators( actual_docs=context_docs, predicted_docs=retrieved_docs, matching_criteria=MatchingCriteria.PARTIAL, match_method="rouge2", threshold=0.8 )

언어 감지 및 검색 라우팅

안녕하세요. 기본적으로 언어별로 별도의 벡터 DB(또는 컬렉션)를 구성해야 합니다.임베딩 모델은 같은 의미라도 언어가 다르면 벡터 공간에서 다른 위치에 매핑되기 때문에, 한국어 쿼리는 한국어 문서가 저장된 DB에서 검색해야 정확도가 높습니다.다만, 수업 중에 사용하는 OpenAI 등 다국어 임베딩 모델을 사용하면 여러 언어가 동일한 벡터 공간에 매핑되어 하나의 DB로도 운영이 가능합니다. 이 경우 메타데이터에 언어 태그를 달아 언어별로 필터링하면 실무에서도 충분히 활용 가능합니다.정리하면, 사용하는 언어의 종류가 적으면 강의 방식대로 언어별 분리가 깔끔하고, 언어가 많으면 다국어 임베딩 모델 + 메타데이터 필터링이 관리하기 편합니다.