kojeomstudio

안녕하세요. 코점스튜디오입니다.우선 수강에 있어 혼선을 드린 점 죄송합니다. 이 강의는 로컬 LLM 기반으로 RAG 시스템을 구축하는 강의이며, RAG시스템이 대표적으로 사용되는 질의 응답(Q&A)을 예제로 삼은 점 참고 부탁드립니다.말씀 주신 제목 및 이미지에 오해가 생길 수 있는 부분이 있던 점 수정 및 업데이트 적용되었습니다.강의 내용이 아닌 수강 자체에 대한 진행 이슈 처리가 필요하시다면 '인프런 고객센터'를 통해 진행 부탁드리겠습니다. 감사합니다.&nbsp;

강사님 ㅜㅜ QA만들기 강의가 아닌것 같아요,,

우선 해당 강의의 경우 Local LLM을 기준으로 작성된점에 따라 상용 API 활용 부분이 부족한점을 너른 양해를 부탁드립니다. (_ _)&nbsp;상용 AI 에이전트 API를 사용하는 경우에는 credential 세팅을 필수로 해야합니다.(api 키등록)<ul><li>credential ? 자격증명을 의미하며, 쉽게 생각해서 어떤 서비스(ex:클라우드 기능)를 사용할 때 로그인을 자연스럽게 해주는 것(또는 기능)을 의미합니다.</li></ul>오픈소스 프로젝트마다 다르겠지만, 대부분 .env, .toml등 설정파일을 주로 사용할텐데요, r2r(3.6.0)기준 docker 기반 세팅의 경우 아래 내용을 참조해주세요.<hr>compose.yaml 파일의 기본 값은 아래와 같습니다.(내용이 길어 일부만 포함시켰습니다)<pre><code class="language-dockercompose">r2r:
 image: sciphiai/r2r:latest
 ports:
 - "7272:7272"
 env_file:
 - ./env/r2r.env</code></pre>(환경변수 파일을 컨테이너 실행 시점에 주입시키는 과정을 compose 파일에 선언한 내용입니다.).env 파일을 참조할 때 ./env/ 디렉터리에 있는 r2r.env를 참조합니다. 해당 파일의 내용을 일부를 보면 아래와 같습니다. ( ./env/ => compose.yaml 파일이 위치한 디렉터리안에 env 폴더 아래를 의미합니다)<pre><code># R2R
R2R_PORT=7272
R2R_HOST=0.0.0.0
R2R_LOG_LEVEL=INFO
R2R_CONFIG_NAME=
R2R_CONFIG_PATH=
R2R_PROJECT_NAME=r2r_default
R2R_SECRET_KEY=
R2R_USER_TOOLS_PATH=/app/user_tools
R2R_LOG_FORMAT=

# Postgres Configuration
R2R_POSTGRES_USER=postgres
R2R_POSTGRES_PASSWORD=postgres
R2R_POSTGRES_HOST=postgres
R2R_POSTGRES_PORT=5432
R2R_POSTGRES_DBNAME=postgres
R2R_POSTGRES_MAX_CONNECTIONS=1024
R2R_POSTGRES_STATEMENT_CACHE_SIZE=100

# Hatchet
HATCHET_CLIENT_TLS_STRATEGY=none

# OpenAI
OPENAI_API_KEY=
OPENAI_API_BASE=</code></pre>보시면 OPENAI_API_BASE / KYE가 있는데요. key값의 경우 발급받으신 해당 값을 설정하시고, API_BASE의 경우 <a target="_blank" rel="noopener noreferrer nofollow" href="https://api.openai.com/v1/">https://api.openai.com/v1/</a> 해당 형식으로 시작하게 될 것 입니다. 자세한 api 주소의 경우 공식 openai api 문서를 참조 바랍니다. (<a target="_blank" rel="noopener noreferrer nofollow" href="https://platform.openai.com/docs/api-reference/introduction">API Reference - OpenAI API 공식)</a>&nbsp;

kojeomstudio

Posts