Safety 이해
86
23 asked
안녕하세요 Safety 체인에 대해서 이해가 잘 안가서요.
예를들어 "독도는 누구땅이냐?"는 질문으로 하고 AI가 "독도는 한국땅"이다라는 응답을 했을때 해당 답변이 할루시네이션인지 아닌지를 검증하기 위한 "독도는 한국땅이 맞아 맞으면: Yes, 틀리면: No 로 대답해줘" 라는 Safety 질문을 만들고 그거를 체인으로 연결시키라는걸로 이해했는데 맞을까요?
Answer 1
1
안녕하세요! 좋은 질문 감사합니다.
말씀하신 내용도 맞고, 일반적으로는 서비스 하고자 하는 주제와 관련 없는 내용들 을 safety로 거르는게 좋습니다. 예를들어 사내 서비를 운영한다면, 회사에 대해 부정적인 답변을 내고자 프롬프트로 공격을 한다거나, 아예 서비스와 관련 없는 질문들을 해서 토큰을 낭비하는 것을 막는 것입니다.
만세력 계산 오류 및 결과 오류
0
28
2
강의 수강 순서
0
20
1
호스트 테스트 주소 복사?
0
21
1
import 오류
0
23
1
명령팔레트에서 오류
0
38
3
안녕하세요! 질문이 있습니다.
0
62
2
'팀 단위 AI 업무 혁신' 자문 관련하여 문의드리고자 합니다. (연락처 요청)
0
80
1
🚨 OpenAI 유료계정인데 할당량 초과인 경우!!
0
103
2
ollama 같은 모델 상이 답변
0
84
2
도서, 그리고 로드맵 강의 순서
0
94
2
RAG와 MCP의 차이가 조금 헷갈립니다
0
664
2
첫번째 강의 화면과 설명이 안 맞는 거 같아요
0
117
1
JsonOutputParser 질문입니다
0
89
2
RAG 강의 안듣고 AGENT 강의 먼저 들어도 되나요?
0
165
1
openai 사용하면서부터 할당량 초과했다고 나오네요.
1
407
2
input key가 여러개인 경우 RunnablePassThrough를 쓰는 이유가 궁금합니다.
0
82
1
가상환경 설정
-2
213
6
ram 용량
0
123
2
강의 순서 질문
0
165
1
Safety prompt에 대한 질문이 있습니다
0
127
2
딥시크
0
167
1
JsonOutputParser
0
149
1
vscode에서 환경 설정하는 데 어려움이 있습니다
0
381
2
Template 사용에 관해 질문 있습니다.
0
212
2