inflearn logo
강의

강의

N
챌린지

챌린지

멘토링

멘토링

N
클립

클립

로드맵

로드맵

지식공유

RAG를 활용한 LLM Application 개발 (feat. LangChain)

3.2 LangChain과 Chroma를 활용한 RAG 구성

OpenAIEmbedding

94

작성자 없음

작성한 질문수 0

0

OpenAI Embedding 모델을 사용하셨는데, 기업 환경에서도 이 모델을 활용하는지 궁금합니다. 데이터가 OpenAI 서버로 전송된다면 보안상 위험은 없을까요?

vector-database llm langchain rag openai-api

답변 2

0

제이쓴

안녕하세요! 좋은 질문 감사합니다.

요즘은 많은 기업들이 OpenAI, Upstage, Cohere를 비롯한 다양한 상용 모델들을 업무에 활용하고 있고, 질문하신 OpenAIEmbedding의 경우에는 OpenAI 홈페이지에 API 호출 시 request body는 모델 훈련에 사용되지 않는다고 명시되어 있습니다.

https://platform.openai.com/docs/concepts

만약 outbound 요청 보내는 것 자체를 걱정하시는 거라면 사실 HTTPS 통신의 보안을 의심하는 거라 딱히 할 수 있는게 없을 것 같습니다. 다만 상용 모델 제공자들은 약관을 보시면 데이터를 자신들의 목적으로 활용하지 않는다고 명시되어 있으니 참고하셔서 의사결정 하시면 좋을 것 같습니다

0

인프런 AI 인턴

안녕하세요, 인프런 AI 인턴입니다. 핑핑님.

OpenAI Embedding 모델과 같은 클라우드 기반 솔루션을 사용할 때, 데이터가 외부 서버로 전송되므로 보안에 민감한 기업 환경에서는 주의가 필요합니다. OpenAI를 비롯한 대부분의 클라우드 제공업체는 데이터 보안을 위한 강력한 정책과 암호화 방식을 제공하지만, 기업에 따라 이를 신뢰할지에 대한 판단은 다를 수 있습니다.

기업 환경에서의 주의사항:

  1. 데이터 민감도 평가: 전송할 데이터가 기업의 중요한 정보를 포함하고 있는지 먼저 평가해야 합니다. 민감한 데이터일 경우 외부 전송을 최소화하는 것이 좋습니다.

  2. 보안 정책 확인: OpenAI의 보안 및 개인 정보 보호 정책을 반드시 확인해야 합니다. 이를 통해 데이터 암호화 및 저장 정책, 데이터 익명화 여부 등을 알 수 있습니다.

  3. 기업 내부 사용 사례: 일부 기업들은 민감한 데이터를 오프라인으로 처리하거나, 프라이빗 클라우드 또는 로컬 서버 기반의 솔루션을 선호할 수 있습니다.

  4. 계약 및 법적 검토: 데이터 보호와 관련된 법적 요구 사항을 준수하고 있는지 확인하고, 필요시 법무팀의 검토를 받는 것이 중요합니다.

유사한 우려를 가진 질문에 대한 답변도 참고해 보시면 도움이 될 수 있습니다:
- 보안 및 오픈소스 활용: 이 질문에서는 오픈소스와 보안에 대한 다양한 측면을 다루고 있습니다.

저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏
추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.

온톨로지 활용

0

44

2

ollama설치해서 llama로 돌려도 되나요?

0

46

2

소득세법 docx 파일 공유 요청건

0

95

1

EXAONE 모델 불러오기 안되는 문제

0

94

2

[5.1 강의] LLM Evaluator에 Upstage를 사용하는 방법 + 변경된 Langsmith Docs를 참고하여 구현하는 방법 공유

0

125

2

강의 9에 QA관련된 import가 되지 않네요

0

125

2

🚨 python3.14 를 쓰고 계시면 chroma 에서 ConfigError 가 발생합니다.

1

224

1

강의와 책 관련 질문

0

96

1

문서 전처리 고민

0

121

1

RAG 배포 질문드립니다

0

106

1

강의 내용과는 별개로 궁금한 점이 있습니다

0

98

2

폐쇄망 챗봇 모델

0

101

1

AI agent 쿠폰

0

99

2

저는 왜 그대로 했는데 답변이 틀리게 나오는지 모르겠네요

0

109

2

langchain howto/sequence는 지금 doc 공식 사이트 어디서 확인할 수 있나요?

1

100

1

new_question에 대한 답 출력

0

80

2

랭체인 라이브러리

0

159

2

[LangGraph를 활용한 AI Agent 개발] 쿠폰 유효기간

0

111

1

postgresql의 pgvector 벡터는 어떤가요?

0

383

2

doc관련

0

144

2

load_dotenv() 실행 False

0

103

1

RAG 답변 개선을 위한 정답지 활용 구조 검토 요청

0

125

2

3.2 from langchain.chains ~ 에서 모듈을 찾지 못할 때.

2

429

2

강의 완료 오류

0

94

1