회사보안 문제로 허깅페이스 hub.pull 이 불가능한데
324
작성자 없음
작성한 질문수 0
혹시 다른 방법으로 prompt를 생성할 방법이 있을까요?
답변 2
0
안녕하세요! LangSmith hub 사이트에는 접근 되시나요?
https://smith.langchain.com/hub/rlm/rag-prompt
hub.pull("rlm/rag-prompt") 의 결과물을 캡쳐하면 아래와 같은 형태입니다
ChatPromptTemplate(input_variables=['context', 'question'], input_types={}, partial_variables={}, metadata={'lc_hub_owner': 'rlm', 'lc_hub_repo': 'rag-prompt', 'lc_hub_commit_hash': '50442af133e61576e74536c6556cefe1fac147cad032f4377b60c436e6cdcb6e'}, messages=[HumanMessagePromptTemplate(prompt=PromptTemplate(input_variables=['context', 'question'], input_types={}, partial_variables={}, template="You are an assistant for question-answering tasks. Use the following pieces of retrieved context to answer the question. If you don't know the answer, just say that you don't know. Use three sentences maximum and keep the answer concise.\nQuestion: {question} \nContext: {context} \nAnswer:"), additional_kwargs={})])따라서ChatPromptTemplate 이라고 구현된 항목을 복사하셔서 아래처럼 구현하시면 같은 결과를 얻을 수 있습니다
from langchain_core.prompts import ChatPromptTemplate
rag_prompt = ChatPromptTemplate.from_messages([
('human', '''You are an assistant for question-answering tasks. Use the following pieces of retrieved context to answer the question. If you don't know the answer, just say that you don't know. Use three sentences maximum and keep the answer concise.
Question: {question}
Context: {context}
Answer:''')
])
0
안녕하세요, 인프런 AI 인턴입니다.
김효건님께서 질문하신 내용은 허깅페이스(Hugging Face) 허브에서 hub.pull 메서드를 통해 프롬프트를 다운로드하는 과정에서의 문제를 해결하고자 하는 것입니다. 회사 보안 문제로 인해 직접 외부로 연결하여 프롬프트를 가져오는 것이 불가능한 경우, 몇 가지 대안을 고려할 수 있습니다.
자체 프롬프트 생성
- 로컬에서 프롬프트 관리: 허깅페이스 허브에서 필요한 프롬프트를 한 번 다운로드 받아 로컬 환경에 저장한 뒤, 이 파일을 사용하는 방법이 있습니다. 직접 코드 내에서 프롬프트를 작성하거나, JSON 또는 다른 포맷으로 저장된 프롬프트를 로드하여 사용할 수 있습니다.
대체 라이브러리 사용
- 다른 프레임워크 사용: 기존에 사용 중인 LangChain 대신에 다른 NLP 프레임워크를 사용해 기본적인 프롬프트 설정을 만들 수 있습니다. 여러 오픈 소스 프레임워크가 존재하며, 각기 다른 방식으로 프롬프트를 설정하고 사용할 수 있습니다.
직접 작성
- 프롬프트 직접 작성: 필요한 프롬프트를 직접 작성하여 코드에 포함시킬 수 있습니다. 사용자의 비즈니스 로직과 목적에 맞게 프롬프트를 커스텀하는 것이 가능합니다.
관련하여 유사한 질문이 논의된 게시물을 참고하시면 도움이 될 수 있습니다. 다음 링크에서 더 많은 정보를 확인해보세요: RAG를 통한 구현의 Scope 문의.
저는 질문자님의 이해를 돕고자 지식공유자님의 기존 답변을 참고하여 유사한 답변 링크를 추천해드리고 있습니다. 현재 베타 기능으로 답변이 만족스럽지 않을 수 있는 점 양해 부탁드립니다. 🙏 추가적으로 궁금한 점이 있으시면, 이어서 질문해 주세요. 곧 지식공유자께서 답변해 주실 것입니다.
소득세법 docx 파일 공유 요청건
0
60
1
EXAONE 모델 불러오기 안되는 문제
0
84
2
[5.1 강의] LLM Evaluator에 Upstage를 사용하는 방법 + 변경된 Langsmith Docs를 참고하여 구현하는 방법 공유
0
100
2
강의 9에 QA관련된 import가 되지 않네요
0
107
2
🚨 python3.14 를 쓰고 계시면 chroma 에서 ConfigError 가 발생합니다.
1
192
1
강의와 책 관련 질문
0
84
1
문서 전처리 고민
0
106
1
RAG 배포 질문드립니다
0
92
1
강의 내용과는 별개로 궁금한 점이 있습니다
0
86
2
폐쇄망 챗봇 모델
0
88
1
AI agent 쿠폰
0
93
2
저는 왜 그대로 했는데 답변이 틀리게 나오는지 모르겠네요
0
98
2
langchain howto/sequence는 지금 doc 공식 사이트 어디서 확인할 수 있나요?
1
91
1
new_question에 대한 답 출력
0
71
2
랭체인 라이브러리
0
143
2
[LangGraph를 활용한 AI Agent 개발] 쿠폰 유효기간
0
104
1
postgresql의 pgvector 벡터는 어떤가요?
0
336
2
doc관련
0
126
2
load_dotenv() 실행 False
0
93
1
RAG 답변 개선을 위한 정답지 활용 구조 검토 요청
0
117
2
3.2 from langchain.chains ~ 에서 모듈을 찾지 못할 때.
1
395
2
강의 완료 오류
0
87
1
hub.pull 이슈
0
128
2
[3.3 강의] Upstage를 사용한 RAG 구현 성공기 공유
1
147
1





