Safety 이해
119
投稿した質問数 23
안녕하세요 Safety 체인에 대해서 이해가 잘 안가서요.
예를들어 "독도는 누구땅이냐?"는 질문으로 하고 AI가 "독도는 한국땅"이다라는 응답을 했을때 해당 답변이 할루시네이션인지 아닌지를 검증하기 위한 "독도는 한국땅이 맞아 맞으면: Yes, 틀리면: No 로 대답해줘" 라는 Safety 질문을 만들고 그거를 체인으로 연결시키라는걸로 이해했는데 맞을까요?
回答 1
1
안녕하세요! 좋은 질문 감사합니다.
말씀하신 내용도 맞고, 일반적으로는 서비스 하고자 하는 주제와 관련 없는 내용들 을 safety로 거르는게 좋습니다. 예를들어 사내 서비를 운영한다면, 회사에 대해 부정적인 답변을 내고자 프롬프트로 공격을 한다거나, 아예 서비스와 관련 없는 질문들을 해서 토큰을 낭비하는 것을 막는 것입니다.
28강 REVIEW.md 파일이 없습니다.
0
5
0
클로드 데스크톱 강의에서 교안찾기
0
28
2
강의내용중에 CoT 부분
0
42
2
강의 내용중에 var
0
37
1
목차랑 내용이 전혀 다른데요
0
52
2
안녕하세요! 질문이 있습니다.
0
117
2
'팀 단위 AI 업무 혁신' 자문 관련하여 문의드리고자 합니다. (연락처 요청)
0
126
1
🚨 OpenAI 유료계정인데 할당량 초과인 경우!!
0
178
2
ollama 같은 모델 상이 답변
0
182
2
도서, 그리고 로드맵 강의 순서
0
148
2
RAG와 MCP의 차이가 조금 헷갈립니다
0
970
2
첫번째 강의 화면과 설명이 안 맞는 거 같아요
0
157
1
JsonOutputParser 질문입니다
0
134
2
RAG 강의 안듣고 AGENT 강의 먼저 들어도 되나요?
0
204
1
openai 사용하면서부터 할당량 초과했다고 나오네요.
1
570
2
input key가 여러개인 경우 RunnablePassThrough를 쓰는 이유가 궁금합니다.
0
125
1
가상환경 설정
-2
318
6
ram 용량
0
176
2
강의 순서 질문
0
215
1
Safety prompt에 대한 질문이 있습니다
0
175
2
딥시크
0
209
1
JsonOutputParser
0
177
1
vscode에서 환경 설정하는 데 어려움이 있습니다
0
434
2
Template 사용에 관해 질문 있습니다.
0
259
2